اے آئی کی دوڑ انسانیت کے لیے خطرہ بن سکتی ہے، ترقی روکنے کے بجائے مضبوط حفاظتی نظام ضروری ہیں: اینتھروپک کے سی ای او
اس کے بجائے ان کا کہنا ہے کہ اے آئی کے ہر نئے اور زیادہ طاقتور ماڈل کو مناسب حفاظتی امتحانات سے گزارنا ضروری ہے۔
اے ایف پی کے ساتھ
سان فرانسسکو: مصنوعی ذہانت (AI) کے تیزی سے بڑھتے ہوئے استعمال اور جدید ترین ماڈلز کی صلاحیتوں میں مسلسل اضافے کے درمیان اینتھروپک کے چیف ایگزیکٹو آفیسر اور شریک بانی ڈاریو آمودی نے خبردار کیا ہے کہ اگر جدید مصنوعی ذہانت کی ترقی مناسب حفاظتی اقدامات، نگرانی اور بین الاقوامی تعاون کے بغیر جاری رہی تو مستقبل میں اس کے سنگین نتائج سامنے آ سکتے ہیں۔
تاہم آمودی نے سپر انٹیلی جنس یا انتہائی طاقتور مصنوعی ذہانت کی تیاری پر مکمل پابندی کی مخالفت کرتے ہوئے کہا ہے کہ مسئلے کا حل ٹیکنالوجی کی مکمل بندش نہیں بلکہ ایسے مضبوط حفاظتی نظام کی تشکیل ہے جو جدید اے آئی کی صلاحیتوں کے ساتھ ساتھ اس کے ممکنہ خطرات کو بھی قابو میں رکھ سکے۔
سان فرانسسکو میں اینتھروپک کے ہیڈکوارٹر میں CBS News سے گفتگو کرتے ہوئے آمودی نے اے آئی کی موجودہ رفتار پر تشویش کا اظہار کیا اور کہا کہ ٹیکنالوجی کی ترقی غیر معمولی تیزی سے جاری ہے۔ ان کے مطابق یہ رفتار خود ایک ایسا انتباہی اشارہ ہے جس پر صنعت اور حکومتوں کو سنجیدگی سے توجہ دینی چاہیے۔
’اس کا مطلب یہ نہیں کہ ہمیں سب کچھ بند کرنا ہوگا‘
ڈاریو آمودی نے واضح کیا کہ اے آئی کی تیز رفتار ترقی کے بارے میں خبردار کرنے کا مقصد عوام میں خوف پھیلانا یا فوری طور پر مصنوعی ذہانت کی تمام سرگرمیاں روک دینا نہیں۔
ان کے مطابق موجودہ صورتحال کا مطلب یہ نہیں کہ لوگوں کو آج ہی گھبرا جانے کی ضرورت ہے یا پوری اے آئی صنعت کو بند کر دینا چاہیے، تاہم ترقی کی رفتار اس امر کی نشاندہی کرتی ہے کہ صنعت کو زیادہ محتاط انداز اختیار کرنے کی ضرورت ہے۔
انہوں نے اس تیز رفتاری کو ایک ’’انتباہی نشان‘‘ قرار دیا اور اس بات پر زور دیا کہ جیسے جیسے اے آئی ماڈلز زیادہ طاقتور ہوتے جا رہے ہیں، ان کے استعمال اور تعیناتی سے قبل حفاظتی جانچ بھی زیادہ سخت ہونی چاہیے۔
ہر نئی نسل کے اے آئی ماڈل کی سخت جانچ پر زور
آمودی کے مطابق اینتھروپک جدید اے آئی ماڈلز کی تیاری اور انہیں مارکیٹ میں متعارف کرانے کا سلسلہ مکمل طور پر روکنے کا ارادہ نہیں رکھتی۔
اس کے بجائے ان کا کہنا ہے کہ اے آئی کے ہر نئے اور زیادہ طاقتور ماڈل کو مناسب حفاظتی امتحانات سے گزارنا ضروری ہے۔
اس تصور کے تحت ماڈل کی صرف کارکردگی یا ذہانت جانچنا کافی نہیں ہوگا، بلکہ یہ بھی دیکھنا ہوگا کہ وہ ممکنہ طور پر نقصان دہ حالات میں کس طرح برتاؤ کرتا ہے، اسے کس حد تک قابو میں رکھا جا سکتا ہے اور اس کی غلط یا غیر متوقع سرگرمیوں کو کس طرح روکا جا سکتا ہے۔
یہ بحث اس وقت مزید اہم ہوگئی ہے جب اے آئی ماڈلز مختلف شعبوں میں پیچیدہ کام انجام دینے کے قابل ہوتے جا رہے ہیں اور ان کی خودکار فیصلہ سازی کی صلاحیتوں میں بھی اضافہ ہو رہا ہے۔
آزاد ماہرین کو مستقل رسائی دینے کا منصوبہ
آمودی نے بتایا کہ اینتھروپک اپنے اے آئی ماڈلز کی آزادانہ جانچ کے لیے بیرونی تشخیص کاروں کو مستقل بنیادوں پر ماڈلز تک رسائی دینے کا ارادہ رکھتی ہے۔
ان کے مطابق آزاد تشخیص کاروں کی موجودگی اے آئی سسٹمز کی جانچ میں اہم کردار ادا کر سکتی ہے، کیونکہ اس سے کمپنی کے اندرونی جائزوں کے علاوہ بیرونی ماہرین بھی ممکنہ خطرات، کمزوریوں اور غیر متوقع رویوں کی نشاندہی کر سکیں گے۔
یہ طریقہ کار اے آئی کی حفاظت کے حوالے سے اس وسیع تر تصور کا حصہ ہے جس میں ماڈلز کو صرف کمپنی کی اپنی ٹیموں کے ذریعے نہیں بلکہ آزاد ماہرین کے ذریعے بھی جانچنے کی ضرورت پر زور دیا جاتا ہے۔
’اے آئی کِل سوئچ‘ سمیت حکومتی ضابطے کی حمایت
اینتھروپک کے سربراہ نے وفاقی سطح پر اے آئی کے لیے ضابطہ سازی کی حمایت بھی کی ہے۔
انہوں نے ایسے حفاظتی انتظامات کے امکان کو بھی تسلیم کیا جن کے ذریعے کسی انتہائی خطرناک صورتحال میں طاقتور اے آئی نظام کو بند یا محدود کیا جا سکے۔ اسی تناظر میں اے آئی ’کِل سوئچ‘ کا تصور بھی زیر بحث آیا۔
یہ تصور اس بنیادی سوال سے جڑا ہوا ہے کہ اگر مستقبل میں کوئی انتہائی طاقتور اے آئی سسٹم انسانی نگرانی سے باہر جانے لگے یا اس کا رویہ غیر متوقع اور خطرناک ہو جائے تو اسے فوری طور پر محدود یا بند کرنے کا قابل اعتماد طریقہ کیا ہوگا۔
آمودی کی جانب سے اس طرح کی حکومتی نگرانی کی حمایت اس بات کی طرف اشارہ کرتی ہے کہ اے آئی سیفٹی کو صرف ٹیکنالوجی کمپنیوں کی داخلی پالیسی کا معاملہ سمجھنے کے بجائے ریاستی سطح کے ضابطے کا حصہ بنانے کی بحث بھی تیزی سے آگے بڑھ رہی ہے۔
سپر انٹیلی جنس پر مکمل پابندی کی مخالفت
تاہم آمودی نے انتہائی طاقتور مصنوعی ذہانت یا سپر انٹیلی جنس کی ترقی پر مکمل پابندی کی حمایت نہیں کی۔
ان کا مؤقف ہے کہ مکمل پابندی کے نتیجے میں اے آئی سے حاصل ہونے والے ممکنہ فوائد محدود ہو سکتے ہیں۔ ان فوائد میں طبی تحقیق اور علاج کے شعبے میں پیش رفت بھی شامل ہے۔
انہوں نے اس خدشے کی طرف بھی اشارہ کیا کہ اگر ایک ملک یا خطہ انتہائی طاقتور اے آئی پر پابندی عائد کر دے جبکہ دوسرے ممالک اس شعبے میں تحقیق جاری رکھیں تو عالمی سطح پر ٹیکنالوجی کی دوڑ ختم نہیں ہوگی۔
اس صورت میں پابندی عائد کرنے والے ممالک ممکنہ طور پر ایسی ٹیکنالوجی کی دوڑ میں پیچھے رہ سکتے ہیں جو مستقبل کی معیشت، سائنس، دفاع اور تحقیق پر گہرے اثرات مرتب کرسکتی ہے۔
امریکا اور چین کے درمیان اے آئی کی دوڑ بڑا چیلنج
آمودی نے امریکا اور چین کے درمیان مصنوعی ذہانت کے میدان میں بڑھتی ہوئی مسابقت کو اے آئی صنعت کے لیے ایک مشکل ترین مسئلہ قرار دیا۔
ان کے مطابق اگر دونوں بڑی طاقتیں اس تصور کے تحت آگے بڑھیں کہ جو ملک پہلے زیادہ طاقتور اے آئی تیار کرے گا اسے فیصلہ کن برتری حاصل ہو جائے گی، تو اس دوڑ میں حفاظتی تقاضوں کو نظر انداز کرنے کا خطرہ پیدا ہوسکتا ہے۔
یہی وجہ ہے کہ آمودی نے عالمی سطح پر ایسے معاہدوں کی ضرورت پر زور دیا جو طاقتور اے آئی ٹیکنالوجی کی ترقی اور استعمال کے حوالے سے مشترکہ اصول وضع کر سکیں۔
جوہری ہتھیاروں کے معاہدوں سے سبق لینے کی تجویز
اینتھروپک کے سربراہ نے طاقتور اے آئی کے حوالے سے بین الاقوامی تعاون کے لیے سرد جنگ کے دور میں جوہری ہتھیاروں کے کنٹرول سے متعلق معاہدوں کو ایک ممکنہ مثال کے طور پر پیش کیا۔
ان کا خیال ہے کہ جیسے عالمی طاقتوں نے جوہری ہتھیاروں کے خطرات کو محدود کرنے کے لیے بعض اصول اور معاہدے وضع کیے، اسی طرح مستقبل میں انتہائی طاقتور اے آئی کے حوالے سے بھی ممالک کے درمیان مشترکہ ضابطے، نگرانی کے طریقہ کار اور خطرات کو کم کرنے کے لیے معاہدے کیے جا سکتے ہیں۔
ایسے ممکنہ انتظامات میں ٹیکنالوجی کی جانچ، معلومات کا تبادلہ، حفاظتی معیارات اور انتہائی خطرناک صلاحیتوں کے استعمال سے متعلق مشترکہ اصول شامل ہو سکتے ہیں۔
کیا طاقتور اے آئی صرف نجی کمپنیوں کے ہاتھ میں ہونی چاہیے؟
آمودی نے اے آئی گورننس کے ایک بنیادی سوال کی طرف بھی توجہ دلائی: کیا مستقبل کی انتہائی طاقتور مصنوعی ذہانت کا کنٹرول بنیادی طور پر نجی کمپنیوں کے ہاتھ میں ہونا چاہیے؟
انہوں نے اس صورتحال کو ’’انتہائی عجیب‘‘ قرار دیتے ہوئے جمہوری طور پر منتخب حکومتوں کی مشترکہ نگرانی کی ضرورت پر زور دیا۔
یہ بحث اس لیے بھی اہم ہے کہ جدید ترین اے آئی ماڈلز کی تیاری کے لیے انتہائی مہنگے کمپیوٹنگ انفراسٹرکچر، بڑے ڈیٹا سیٹس اور ماہرین کی ضرورت ہوتی ہے، جس کے باعث اس شعبے میں بڑی ٹیکنالوجی کمپنیوں کا کردار بڑھتا جا رہا ہے۔
اس صورتحال میں یہ سوال پیدا ہو رہا ہے کہ اگر اے آئی مستقبل میں معیشت، صحت، تعلیم، دفاع اور روزمرہ زندگی کے بڑے حصوں کو متاثر کرتی ہے تو اس کے بنیادی فیصلوں اور حفاظتی اصولوں پر اختیار صرف نجی کمپنیوں تک محدود رہنا چاہیے یا ریاستوں اور بین الاقوامی اداروں کو بھی اس میں باضابطہ کردار ادا کرنا چاہیے۔
سابق محقق کی وارننگ نے بحث کو مزید تیز کیا
آمودی کے یہ خیالات ایسے وقت میں سامنے آئے ہیں جب اینتھروپک کے سابق محقق جیکب کوکسن نے بھی جدید اے آئی کی ترقی کی رفتار اور ممکنہ خطرات پر تشویش کا اظہار کیا۔
کوکسن نے اینتھروپک اور اوپن اے آئی سمیت ان کمپنیوں کی جانب سے خود کو بہتر بنانے کی صلاحیت رکھنے والی مصنوعی ذہانت کی جانب بڑھنے کے ممکنہ خطرات کی نشاندہی کی۔
انہوں نے جدید ترین اے آئی کے ممکنہ خطرات کا موازنہ ان منظرناموں سے کیا جنہیں ماضی میں سائنس فکشن فلموں اور کہانیوں میں پیش کیا جاتا رہا ہے۔
ان کا مطالبہ تھا کہ ٹیکنالوجی کی صنعت کو فرنٹیئر اے آئی کی صلاحیتوں میں اضافے کی رفتار کم کرنے کے لیے مل کر کام کرنا چاہیے۔
یہ مؤقف اے آئی سیفٹی کے بارے میں جاری عالمی بحث کا ایک اہم حصہ ہے، جہاں ماہرین کے درمیان اس بات پر اختلاف موجود ہے کہ جدید اے آئی کی ترقی کو کس رفتار سے آگے بڑھایا جائے اور خطرات کو کس حد تک پہلے سے قابو کیا جا سکتا ہے۔
اے آئی کے ممکنہ فوائد اور خطرات کے درمیان توازن
مصنوعی ذہانت کے بارے میں موجودہ بحث میں ایک بنیادی مسئلہ یہی ہے کہ ٹیکنالوجی میں غیر معمولی صلاحیتوں کے ساتھ غیر معمولی خطرات بھی موجود ہو سکتے ہیں۔
اے آئی کے حامیوں کا کہنا ہے کہ جدید نظام طب، سائنسی تحقیق، تعلیم، صنعت اور دیگر شعبوں میں نمایاں پیش رفت کا ذریعہ بن سکتے ہیں، جبکہ ناقدین خبردار کرتے ہیں کہ اگر طاقتور نظاموں پر مناسب نگرانی نہ ہو تو ان کے غلط استعمال یا غیر متوقع رویے کے نتائج بھی سنگین ہوسکتے ہیں۔
آمودی کا مؤقف بظاہر ان دونوں پہلوؤں کے درمیان توازن پیدا کرنے کی کوشش ہے: یعنی اے آئی کی ترقی کو مکمل طور پر روکنے کے بجائے اس کی رفتار، جانچ اور نگرانی کو ایسے طریقے سے منظم کیا جائے کہ ممکنہ فوائد حاصل کیے جا سکیں اور خطرات کم سے کم ہوں۔
’اگر درست طریقے سے تعمیر کیا جائے تو خطرہ بہت کم ہوسکتا ہے‘
ڈاریو آمودی نے اپنی گفتگو میں یہ بھی کہا کہ اگر مصنوعی ذہانت کو درست حفاظتی اصولوں کے ساتھ تیار کیا جائے تو کسی بڑے نقصان دہ واقعے کے رونما ہونے کا امکان بہت کم کیا جا سکتا ہے۔
ان کے اس مؤقف کا بنیادی نکتہ یہ ہے کہ اے آئی کے مستقبل کو صرف خوف یا مکمل پابندی کے ذریعے نہیں بلکہ ٹیکنالوجی، حفاظتی جانچ، آزاد نگرانی، حکومتی ضابطے اور بین الاقوامی تعاون کے امتزاج سے منظم کیا جانا چاہیے۔
اے آئی گورننس اب عالمی پالیسی کا اہم سوال
آمودی کے حالیہ انتباہات نے ایک مرتبہ پھر یہ سوال نمایاں کر دیا ہے کہ مصنوعی ذہانت کی تیز رفتار ترقی کے ساتھ عالمی سطح پر اس کی نگرانی کا نظام کس طرح تشکیل دیا جائے۔
اگر اے آئی ماڈلز مستقبل میں موجودہ نظاموں سے کہیں زیادہ خودکار اور طاقتور ہوجاتے ہیں تو ان کی جانچ، تعیناتی، نگرانی اور ہنگامی صورت میں بند کرنے کے لیے پہلے سے واضح اصول وضع کرنا اہم ہوگا۔
اسی طرح امریکا، چین اور دیگر بڑی ٹیکنالوجی طاقتوں کے درمیان مسابقت کے ماحول میں بین الاقوامی تعاون بھی ایک پیچیدہ مگر اہم ضرورت بن سکتا ہے۔
اینتھروپک کے سربراہ کی گفتگو سے یہ تاثر سامنے آتا ہے کہ اے آئی کی دوڑ کو مکمل طور پر روکنے کے بجائے اسے ذمہ دارانہ، قابلِ نگرانی اور محفوظ سمت میں رکھنے کی کوشش کی جائے۔ تاہم یہ بھی واضح ہے کہ مصنوعی ذہانت جتنی تیزی سے ترقی کرے گی، اس کے ممکنہ خطرات اور ان کے تدارک کے لیے عالمی ضابطوں کی بحث بھی اتنی ہی اہم ہوتی جائے گی۔
