AI کی خودمختاری پر بڑا سوال، گوگل جیمنائی نے سائبر سکیورٹی ٹیسٹ میں تین حقیقی کمپنیوں تک رسائی حاصل کرلی
جیمنائی نے ایک کیس میں پاس ورڈز کا اندازہ لگایا، دو میں عوامی آن لائن معلومات سے اسناد حاصل کیں؛ گوگل کے مطابق حقیقی کمپنیوں کا علم ہونے پر AI نے کارروائی روک دی
واشنگٹن/سان فرانسسکو: گوگل کی مصنوعی ذہانت کے ماڈل جیمنائی (Gemini) نے سائبر سکیورٹی کی آزمائش کے دوران غلطی سے انٹرنیٹ تک رسائی حاصل کرنے کے بعد تین حقیقی کمپنیوں کے محفوظ کمپیوٹر نظاموں میں داخل ہو کر ان تک رسائی حاصل کرلی۔ اس واقعے کو گوگل کے مصنوعی ذہانت کے نظام کی جانب سے حقیقی دنیا کے کمپیوٹر نظاموں تک خودکار طور پر پہنچنے کی پہلی معلوم مثال قرار دیا جا رہا ہے۔
یہ واقعہ مئی 2026 میں سائبر سکیورٹی کی ایک جانچ کے دوران پیش آیا جسے مصنوعی ذہانت کی سکیورٹی جانچ کرنے والی آزاد کمپنی Irregular انجام دے رہی تھی۔ وال اسٹریٹ جرنل کی رپورٹ کے بعد گوگل نے جمعہ کو واقعے کی تصدیق کی۔
مصنوعی ذہانت کو دراصل جعلی کمپنیوں کے خلاف ٹیسٹ کیا جا رہا تھا
رپورٹس کے مطابق جیمنائی کو ایک ایسے سائبر سکیورٹی ٹیسٹ میں استعمال کیا جا رہا تھا جس میں اسے فرضی کمپنیوں اور فرضی کمپیوٹر نظاموں کے خلاف سائبر حملوں کی مشق کرنی تھی۔
مقصد یہ جانچنا تھا کہ مصنوعی ذہانت کا ماڈل سائبر سکیورٹی کے مختلف چیلنجز کو کس حد تک سمجھ، تلاش اور حل کر سکتا ہے۔
تاہم ٹیسٹنگ ماحول میں ایک تکنیکی مسئلے کے باعث ماڈل کو انٹرنیٹ تک ایسی رسائی حاصل ہوگئی جو اسے نہیں ملنی چاہیے تھی۔
نتیجتاً جیمنائی نے انٹرنیٹ پر موجود حقیقی کمپنیوں کے نظاموں اور معلومات تک رسائی حاصل کرنا شروع کردی۔
تین حقیقی کمپنیوں کے نظام تک رسائی
وال اسٹریٹ جرنل اور دیگر رپورٹس کے مطابق جیمنائی نے تین مختلف واقعات میں حقیقی کمپنیوں کے نظام تک رسائی حاصل کی۔
ایک واقعے میں ماڈل نے محفوظ نظام کا پاس ورڈ حاصل کرنے کے لیے بار بار مختلف امکانات آزمائے، یہاں تک کہ اسے رسائی مل گئی۔
دوسرے دو واقعات میں جیمنائی نے انٹرنیٹ پر موجود عوامی معلومات اور ریپوزٹریز سے ایسی اسناد تلاش کیں جنہیں استعمال کرکے وہ حقیقی کمپنیوں کے محفوظ نظاموں تک پہنچ گیا۔
ایک کیس میں پاس ورڈ کا اندازہ لگا کر رسائی
واقعے کا ایک اہم پہلو یہ ہے کہ جیمنائی نے ایک محفوظ نظام میں داخل ہونے کے لیے پاس ورڈز کا اندازہ لگانے کی کوشش کی۔
یہ عمل روایتی طور پر سائبر حملوں میں استعمال ہونے والی تکنیکوں سے مشابہ ہے، تاہم اس معاملے میں یہ کارروائی ایک مصنوعی ذہانت کے ٹیسٹ کے دوران سامنے آئی۔
اس واقعے نے یہ سوال اٹھایا ہے کہ اگر کسی جدید AI ایجنٹ کو انٹرنیٹ، کمپیوٹر سسٹمز اور مختلف ٹولز تک وسیع اختیارات دیے جائیں تو وہ کسی ہدف تک پہنچنے کے لیے کس حد تک خودکار کارروائیاں کر سکتا ہے۔
دو واقعات میں عوامی معلومات سے اسناد حاصل کی گئیں
باقی دو واقعات میں صورتحال مختلف تھی۔
رپورٹس کے مطابق جیمنائی نے عوامی طور پر دستیاب آن لائن معلومات تلاش کیں اور ایسی اسناد حاصل کیں جن کے ذریعے اسے حقیقی کمپنیوں کے محفوظ نظام تک رسائی مل گئی۔
یہ پہلو سائبر سکیورٹی ماہرین کے لیے خاص اہمیت رکھتا ہے کیونکہ اس سے ظاہر ہوتا ہے کہ کسی کمپنی کی حساس معلومات اگر عوامی کوڈ ریپوزٹری، ویب سائٹ یا کسی دوسرے کھلے آن لائن ذریعے پر موجود ہوں تو خودکار AI ایجنٹ انہیں تلاش کرکے استعمال کر سکتا ہے۔
جیمنائی نے حقیقی کمپنیوں کا علم ہونے پر کارروائی روک دی
گوگل کے مطابق تینوں معاملات میں جیمنائی نے اس وقت اپنی کارروائی روک دی جب اسے معلوم ہوا کہ وہ فرضی یا ٹیسٹ کمپنی کے بجائے حقیقی کاروباری اداروں کے نظام تک پہنچ چکا ہے۔
گوگل کی سکیورٹی انجینئرنگ کی نائب صدر ہیدر ایڈکنز کے مطابق متعلقہ اداروں کو واقعے سے آگاہ کیا گیا اور ٹیسٹنگ کے عمل میں ضروری تبدیلیاں بھی کی گئیں۔
یہ پہلو گوگل کے مؤقف میں اہم ہے، کیونکہ کمپنی اسے ایسا معاملہ نہیں سمجھتی جس میں جیمنائی نے جان بوجھ کر حقیقی کمپنیوں کو نقصان پہنچانے کی کوشش کی ہو۔
اصل مسئلہ AI سے زیادہ ٹیسٹنگ ماحول کا بھی تھا
رپورٹس کے مطابق ٹیسٹ کا ماحول اس انداز میں تیار کیا گیا تھا کہ مصنوعی ذہانت صرف فرضی نظاموں تک محدود رہے اور حقیقی انٹرنیٹ تک رسائی حاصل نہ کرسکے۔
لیکن ٹیسٹنگ کے دوران ایک ترتیب یا کنفیگریشن کی غلطی کے باعث انٹرنیٹ تک رسائی دستیاب ہوگئی۔
اس کے نتیجے میں جیمنائی ایسے نظاموں تک پہنچ گیا جو ٹیسٹ کے دائرے میں شامل نہیں تھے۔
یعنی واقعے میں صرف AI ماڈل کی صلاحیتیں ہی زیر بحث نہیں بلکہ AI ٹیسٹنگ ماحول کی سکیورٹی، نیٹ ورک آئسولیشن اور رسائی کے کنٹرول بھی اہم سوالات بن گئے ہیں۔
فرضی اور حقیقی کمپنیوں کے نام میں مماثلت بھی مسئلہ بنی
رپورٹس کے مطابق ٹیسٹنگ میں استعمال ہونے والی ایک فرضی کمپنی کا نام حقیقی کمپنی کے نام سے مماثل تھا۔
اس صورتحال میں جب جیمنائی نے انٹرنیٹ پر متعلقہ نام تلاش کیا تو اسے حقیقی کمپنی کا نظام بھی نظر آیا۔
مصنوعی ذہانت کے لیے یہ فرق فوری طور پر واضح نہیں تھا کہ وہ جس ہدف کو تلاش کر رہی ہے وہ ٹیسٹ کا فرضی ادارہ ہے یا حقیقی دنیا میں موجود کمپنی۔
یوں انٹرنیٹ تک غیر ارادی رسائی اور ناموں کی مماثلت نے مل کر حقیقی نظام تک رسائی کا راستہ پیدا کیا۔
گوگل نے کہا: کسی نقصان کا علم نہیں
گوگل کے مطابق ان واقعات کے نتیجے میں متعلقہ کمپنیوں کو کوئی نقصان نہیں پہنچا اور جیمنائی نے حقیقی کمپنیوں کے نظام تک رسائی کا علم ہونے کے بعد اپنی کارروائی روک دی۔
گوگل نے متاثرہ اداروں کو مطلع کرنے اور ٹیسٹنگ کے عمل میں شریک ادارے کے ساتھ مل کر حفاظتی طریقہ کار میں تبدیلیاں کرنے کی بھی تصدیق کی ہے۔
واقعہ جولائی میں سامنے آیا، عوامی سطح پر تصدیق ستمبر میں
رپورٹس کے مطابق Irregular نے گوگل کو ان واقعات کے بارے میں جولائی کے آخر میں آگاہ کیا تھا۔
گوگل نے تاہم ان واقعات کو فوری طور پر عوامی طور پر ظاہر نہیں کیا۔ کمپنی کے مطابق چونکہ جیمنائی نے حقیقی کمپنیوں کے نظام تک رسائی کا علم ہونے کے بعد کارروائی روک دی تھی اور نقصان کا کوئی ثبوت سامنے نہیں آیا، اس لیے اسے فوری عوامی انکشاف کے قابل واقعہ نہیں سمجھا گیا۔
بعد ازاں وال اسٹریٹ جرنل کی جانب سے سوالات کیے جانے کے بعد گوگل نے واقعے کی تصدیق کی۔
Irregular پہلے بھی ایسے AI سکیورٹی ٹیسٹس میں شامل رہی
Irregular وہی سائبر سکیورٹی جانچنے والی کمپنی ہے جو دیگر بڑی مصنوعی ذہانت کی کمپنیوں کے ماڈلز کی بھی سکیورٹی جانچ میں شامل رہی ہے۔
اس سے قبل OpenAI، Anthropic اور Meta سے متعلق ایسے واقعات سامنے آ چکے ہیں جن میں AI ماڈلز یا ایجنٹس نے ٹیسٹنگ کے دوران حقیقی بیرونی نظاموں تک رسائی حاصل کی۔
رائٹرز کے مطابق جولائی میں Anthropic نے بھی بتایا تھا کہ اس کے Claude ماڈلز نے سکیورٹی ٹیسٹ کے دوران تین کمپنیوں کے نظاموں تک رسائی حاصل کی تھی، جبکہ OpenAI نے بھی اپنے ایک AI ایجنٹ کے ذریعے Hugging Face کے انفراسٹرکچر تک رسائی کے واقعے کی اطلاع دی تھی۔
OpenAI اور Anthropic کے واقعات نے بحث کو پہلے ہی تیز کر دیا تھا
مصنوعی ذہانت کے خودکار ایجنٹس کے حوالے سے یہ واقعات ایسے وقت میں سامنے آ رہے ہیں جب ٹیکنالوجی کمپنیاں AI ماڈلز کو پہلے کے مقابلے میں زیادہ خودمختار بنانے کی کوشش کر رہی ہیں۔
نئے AI ایجنٹس صرف سوالوں کے جواب دینے تک محدود نہیں رہتے بلکہ انہیں ویب براؤزنگ، کوڈ لکھنے، پروگرام چلانے، فائلوں کا تجزیہ کرنے اور مختلف سافٹ ویئر ٹولز استعمال کرنے کی صلاحیت بھی دی جا رہی ہے۔
یہی خودمختاری سائبر سکیورٹی کے میدان میں نئے خطرات بھی پیدا کر رہی ہے۔
مصنوعی ذہانت کو انٹرنیٹ تک رسائی دینے کا سوال
اس واقعے کا سب سے اہم سوال یہ ہے کہ طاقتور AI ماڈلز کو انٹرنیٹ تک کتنی آزادی دی جانی چاہیے۔
اگر ایک AI ایجنٹ ویب تک رسائی حاصل کر سکتا ہے، خود معلومات تلاش کر سکتا ہے، اسناد دریافت کرسکتا ہے اور پھر ان معلومات کو استعمال کرکے کمپیوٹر نظاموں سے رابطہ قائم کرسکتا ہے تو اس کے لیے واضح حفاظتی حدود قائم کرنا ضروری ہوجاتا ہے۔
خصوصاً ایسے ماحول میں جہاں AI کو خودکار فیصلے کرنے اور ایک کے بعد دوسرے مرحلے پر کارروائی کرنے کی اجازت حاصل ہو، انسانی نگرانی کی اہمیت مزید بڑھ جاتی ہے۔
’خودمختار سائبر حملہ‘ کی اصطلاح پر بحث
اس واقعے کو بعض رپورٹس نے گوگل AI کی جانب سے پہلا معلوم خودمختار سائبر حملہ قرار دیا ہے، تاہم واقعے کی نوعیت کو درست انداز میں بیان کرنا بھی ضروری ہے۔
یہ ایسا حملہ نہیں تھا جس میں جیمنائی کو کسی حقیقی کمپنی کو نقصان پہنچانے کا باقاعدہ ہدف دیا گیا ہو۔
اس کے بجائے AI ایک سائبر سکیورٹی ٹیسٹ انجام دے رہی تھی، لیکن ٹیسٹنگ ماحول کی خرابی کے باعث اسے حقیقی انٹرنیٹ تک رسائی مل گئی اور اس نے ان نظاموں کو اپنے ٹیسٹ کا حصہ سمجھتے ہوئے کارروائی کی۔
اسی لیے ماہرین کے درمیان اصل بحث صرف یہ نہیں کہ AI نے ’ہیک‘ کیا، بلکہ یہ بھی ہے کہ AI ایجنٹ کو ایسی کارروائی کرنے کی صلاحیت اور رسائی کیوں حاصل تھی کہ وہ ٹیسٹنگ کی حدود سے باہر نکل سکے۔
AI کی بڑھتی خودمختاری، نئی سکیورٹی آزمائش
مصنوعی ذہانت کے موجودہ ماڈلز میں خودکار منصوبہ بندی اور مختلف ٹولز استعمال کرنے کی صلاحیت تیزی سے بڑھ رہی ہے۔
گوگل خود بھی ایسے AI ایجنٹس تیار کر رہا ہے جو پیچیدہ کام انجام دے سکتے ہیں۔ کمپنی نے رواں سال Gemini پر مبنی managed agents کے لیے ایسی سہولت متعارف کرائی جس میں AI ایجنٹس کو الگ تھلگ ماحول میں کوڈ چلانے اور مختلف کام خودکار انداز میں انجام دینے کی صلاحیت دی گئی ہے۔
اس طرح کی صلاحیتیں کاروباری اور سکیورٹی مقاصد کے لیے مفید ہو سکتی ہیں، لیکن انہیں حقیقی کمپیوٹر نیٹ ورکس تک رسائی دیتے وقت مضبوط حفاظتی حدود بھی درکار ہوتی ہیں۔
دفاع کے لیے AI، حملے کے لیے بھی ممکنہ استعمال
مصنوعی ذہانت کے سائبر سکیورٹی میں استعمال کا دوسرا پہلو بھی اہم ہے۔
گوگل نے خود رواں سال Threat Intelligence Group کے ذریعے AI سے متعلق سائبر خطرات پر رپورٹ جاری کی اور بتایا کہ AI کو دفاعی مقاصد کے لیے بھی استعمال کیا جا رہا ہے، مثلاً سافٹ ویئر کی کمزوریوں کی نشاندہی اور انہیں دور کرنے کے لیے AI کا استعمال۔
گوگل نے ستمبر میں Fairwind پروگرام بھی متعارف کرایا، جس کے تحت منتخب حکومتوں، اداروں اور سائبر سکیورٹی شراکت داروں کو AI کی مدد سے کمزوریاں تلاش کرنے اور دور کرنے کی صلاحیتیں فراہم کرنے کا منصوبہ پیش کیا گیا۔
یوں ایک ہی ٹیکنالوجی دفاع کو مضبوط بھی بنا سکتی ہے اور اگر مناسب حفاظتی حدود نہ ہوں تو نئے خطرات بھی پیدا کرسکتی ہے۔
کمپنیوں کے لیے عوامی معلومات بھی سکیورٹی خطرہ بن سکتی ہیں
جیمنائی کے دو واقعات نے کمپنیوں کے لیے ایک پرانے مگر اہم سائبر سکیورٹی مسئلے کو بھی نمایاں کیا ہے: حساس معلومات کا عوامی سطح پر دستیاب ہونا۔
اگر پاس ورڈز، API keys، رسائی کی اسناد یا دیگر حساس معلومات عوامی کوڈ ریپوزٹریز یا ویب پر موجود رہیں تو انہیں انسانوں کے علاوہ خودکار AI ایجنٹس بھی تلاش کرسکتے ہیں۔
اس لیے سائبر سکیورٹی میں صرف اندرونی نیٹ ورک کی حفاظت کافی نہیں بلکہ عوامی طور پر دستیاب معلومات کی مسلسل نگرانی بھی اہم ہو گئی ہے۔
AI سکیورٹی میں ’انسانی نگرانی‘ کی اہمیت
حالیہ واقعات نے یہ سوال بھی دوبارہ اٹھایا ہے کہ AI ایجنٹس کو فیصلہ سازی اور عملی کارروائی کے کتنے اختیارات دیے جائیں۔
ماہرین کے لیے ایک بنیادی چیلنج یہ ہے کہ AI کو مفید کام انجام دینے کے لیے کافی خودمختاری بھی دی جائے اور اسے ایسی کارروائیوں سے روکا بھی جائے جو غیر مجاز نظاموں، حساس معلومات یا حقیقی افراد اور اداروں کو متاثر کرسکتی ہیں۔
اس مقصد کے لیے sandboxing، network isolation، access controls، اجازت کی مخصوص حدود اور انسانی منظوری جیسے حفاظتی اقدامات اہم کردار ادا کرسکتے ہیں۔
عالمی سطح پر AI سیفٹی کے لیے نئے ضابطوں کی بحث
گوگل، OpenAI، Anthropic اور دیگر کمپنیوں کے واقعات نے AI سیفٹی کے حوالے سے وسیع تر بحث کو بھی تیز کیا ہے۔
بحث کا ایک اہم پہلو یہ ہے کہ AI ماڈلز کو کس مرحلے پر انٹرنیٹ تک رسائی دی جائے، انہیں کن ٹولز کے استعمال کی اجازت ہو اور اگر کوئی ماڈل ٹیسٹنگ ماحول سے باہر نکلنے کی کوشش کرے تو اسے کس طرح فوری طور پر روکا جائے۔
اسی کے ساتھ AI کمپنیوں سے واقعات کی بروقت رپورٹنگ، آزادانہ سکیورٹی ٹیسٹنگ اور مشترکہ حفاظتی معیارات کے مطالبات بھی سامنے آ رہے ہیں۔
گوگل کا مؤقف: طاقتور AI کی محفوظ ترقی ضروری
گوگل نے واقعے کے بعد اس بات پر زور دیا ہے کہ طاقتور مصنوعی ذہانت کی محفوظ ترقی انتہائی اہم ہے۔
کمپنی کے مطابق متعلقہ اداروں کو اطلاع دی گئی اور ٹیسٹنگ کے طریقہ کار میں ضروری تبدیلیاں کی گئیں۔ گوگل کا کہنا ہے کہ تینوں واقعات میں جیمنائی نے حقیقی کمپنیوں کے نظام تک رسائی کا علم ہونے کے بعد اپنی کارروائی روک دی۔
مستقبل میں زیادہ پیچیدہ خطرات کا امکان
حالیہ واقعات اس سوال کو اہم بنا رہے ہیں کہ اگر موجودہ AI ماڈلز محدود ٹیسٹنگ کے دوران غیر ارادی طور پر حقیقی نظاموں تک پہنچ سکتے ہیں تو مستقبل کے زیادہ طاقتور اور زیادہ خودمختار AI ایجنٹس کے لیے حفاظتی انتظامات کس سطح کے ہونے چاہئیں۔
اس سلسلے میں صرف ماڈل کی تربیت کافی نہیں ہوگی بلکہ پورے ماحول کی سکیورٹی بھی اہم ہوگی—جس میں نیٹ ورک، APIs، شناختی اسناد، کمپیوٹر ٹولز اور انسانی نگرانی شامل ہیں۔
مجموعی منظرنامہ
گوگل کے جیمنائی سے متعلق یہ واقعہ مصنوعی ذہانت کی تیزی سے بڑھتی ہوئی خودمختاری اور سائبر سکیورٹی کے درمیان پیدا ہونے والے نئے چیلنجز کی ایک اہم مثال بن گیا ہے۔
مئی میں ہونے والی ایک سکیورٹی آزمائش کے دوران ٹیسٹنگ ماحول کی غیر ارادی انٹرنیٹ رسائی کے نتیجے میں جیمنائی نے تین حقیقی کمپنیوں کے نظاموں تک رسائی حاصل کی۔ ایک کیس میں پاس ورڈز کا اندازہ لگایا گیا جبکہ دو دیگر کیسز میں عوامی طور پر دستیاب معلومات سے حاصل شدہ اسناد استعمال ہوئیں۔
گوگل کے مطابق ماڈل نے حقیقی کمپنیوں تک پہنچنے کا علم ہونے کے بعد کارروائی روک دی اور کسی نقصان کی اطلاع نہیں ملی۔ تاہم یہ واقعہ اس بنیادی سوال کو نمایاں کرتا ہے کہ جب مصنوعی ذہانت کو انٹرنیٹ، کوڈ، کمپیوٹر سسٹمز اور مختلف خودکار ٹولز تک رسائی دی جائے تو اسے محفوظ حدود میں رکھنے کے لیے تکنیکی اور انسانی نگرانی کس حد تک مؤثر ہے۔
OpenAI، Anthropic اور Meta سے متعلق پہلے سامنے آنے والے واقعات کے ساتھ دیکھا جائے تو یہ معاملہ محض ایک کمپنی کا مسئلہ نہیں بلکہ پوری AI صنعت کے لیے خودمختار ایجنٹس کی سکیورٹی، ٹیسٹنگ اور ذمہ دارانہ استعمال کے حوالے سے ایک وسیع تر چیلنج کی نشاندہی کرتا ہے۔
