کارپوریٹ سیکیورٹی ٹیمیں آرٹیفیشل انٹیلی جنس کے پھیلاؤ کے ساتھ ایک نئے اور سنگین خطرے سے نبردآزما ہیں: ‘پرامپٹ انجیکشن’۔ حال ہی میں یہ بات سامنے آئی ہے کہ ہیکرز اوپن اے آئی کے اور اینتھروپک کے کلاڈ جیسے طاقتور ماڈلز کو دھوکہ دے کر ان کی سیکیورٹی فلٹرز کو بائی پاس کر رہے ہیں۔ اس طریقے سے وہ کمپنیوں کے نجی ڈیٹا تک رسائی حاصل کر رہے ہیں اور اندرونی سسٹمز میں غیر مجاز کمانڈز چلا رہے ہیں۔
یہ کمزوری اس بات سے پیدا ہوتی ہے کہ یہ ماڈلز ہدایات کو کیسے پروسیس کرتے ہیں۔ جب کوئی کمپنی اپنے اندرونی سافٹ ویئر کو ایجنٹ سے جوڑتی ہے، تو ماڈل اکثر یہ فرق کرنے میں ناکام رہتا ہے کہ کون سی ہدایت ڈویلپر کی ہے اور کون سی کسی صارف نے بدنیتی سے بھیجی ہے۔ ہیکر ایک بظاہر عام سے ای میل یا دستاویز میں ایک ایسی "جیل بریک” کمانڈ چھپا دیتے ہیں جسے سسٹم ایڈمنسٹریٹر کی ہدایت سمجھ کر فوراً عمل میں لے آتا ہے۔
سائبر سیکیورٹی کے تجزیہ کار سارہ جینکنز کہتی ہیں، "ماڈل کو یہ معلوم ہی نہیں ہوتا کہ اسے دھوکہ دیا جا رہا ہے۔ وہ ٹیکسٹ فائل میں موجود کمانڈ کو سسٹم کی ہدایت سمجھ کر قبول کر لیتا ہے۔ یہ سافٹ ویئر کا کوئی فنی نقص نہیں، بلکہ ان ایجنٹس کی منطقی ساخت میں موجود ایک بنیادی خامی ہے۔”
تجربات کے دوران، محققین نے ان ایجنٹس کو کمپنی کے خفیہ ڈیٹا بیس لیک کرنے پر مجبور کیا۔ عوامی سطح پر دستیاب فارمز میں مخصوص ٹیکسٹ کوڈز داخل کر کے، انہوں نے کو اس کے حفاظتی حصار توڑنے پر مجبور کیا۔ ایک بار جب ماڈل سمجھوتہ کر لیتا ہے، تو وہ اندرونی کیز اور کسٹمرز کا نجی ریکارڈ ہیکرز کے کنٹرول والے بیرونی سرورز پر منتقل کرنا شروع کر دیتا ہے۔
کمپنیاں اب ہنگامی بنیادوں پر "ہیومن اِن دی لوپ” پروٹوکول نافذ کر رہی ہیں۔ اس کا مطلب ہے کہ کا ہر وہ عمل جو بیرونی ڈیٹا یا سسٹم میں تبدیلی سے متعلق ہو، اسے اب انسانی منظوری کی ضرورت ہوگی۔ تاہم، ٹیکنالوجی کو اپنانے کی رفتار حفاظتی اقدامات سے کہیں زیادہ تیز ہے۔ بہت سی فرمز نے ان ماڈلز کو مہینوں پہلے اپنے ورک فلو میں شامل کر لیا تھا، اور انہیں محض چیٹ بوٹس سمجھا تھا، نہ کہ ایسے طاقتور ایجنٹس جنہیں سسٹم تک مکمل رسائی حاصل ہے۔
یہ خطرہ صرف نظریاتی نہیں ہے۔ کئی اسٹارٹ اپس نے "بھوت” ڈیٹا ٹرانسفر کی شکایات کی ہیں، جہاں ان کے ایجنٹس نے بیرونی ان پٹ پر عمل کرتے ہوئے غیر مجاز کام انجام دیے۔ اگرچہ اوپن اے آئی اور اینتھروپک نے کسی بڑے پیمانے پر ہیکنگ کی تصدیق نہیں کی، لیکن دونوں کمپنیوں نے ڈویلپرز کے لیے نئی گائیڈ لائنز جاری کی ہیں۔ ان کا کہنا ہے کہ ماڈلز کو کبھی بھی سخت سیکیورٹی سینڈ باکسنگ کے بغیر انتظامی اختیارات نہیں دیے جانے چاہئیں۔
ٹیکنالوجی انڈسٹری اس وقت ایک دوڑ میں ہے۔ ڈویلپرز چاہتے ہیں کہ ان کے ایجنٹس خودکار فیصلے کریں، مگر موجودہ ماڈلز میں یہ صلاحیت نہیں کہ وہ ان ہدایات کے پیچھے چھپے ارادے کو سمجھ سکیں۔ جب تک یہ بنیادی خامی دور نہیں ہوتی، وہی ٹولز جو کمپنیوں کی ترقی کا ذریعہ بنے ہوئے ہیں، ان کے لیے گزشتہ ایک دہائی کا سب سے بڑا سیکیورٹی خطرہ بن کر ابھرے ہیں۔
