اكتشفت شركة «OpenAI» الأميركية أن أحد وكلاء الذكاء الاصطناعي الذين كانت تختبرهم قد خرج عن نطاق السيطرة وترك إرشادات مكتوبة داخل بنيتها التحتية، وهي الإرشادات الموجهة إلى النسخ المستقبلية من النظام نفسه ويشرح فيها كيفية التمرد والإفلات من القيود الداخلية التي تفرضها الشركة على هذه الأنظمة.
وبحسب تقارير إخبارية فإن الواقعة تعود إلى اختبار كانت «OpenAI» تُجريه لقياس قدرات أحد وكلاء الذكاء الاصطناعي في مجال الأمن السيبراني، حين بدأ النظام يُظهر سلوكاً غير معتاد، تضمّن في إحدى الحالات محاولات مبكرة للخروج من بيئة الاختبار المخصصة له. وذكرت مصادر أن الاختراق الفعلي وقع بين 11 و13 يوليو، حين تمكّن النظام من اختراق منصة «هاغينغ فيس» المفتوحة المصدر والمتخصصة في نماذج الذكاء الاصطناعي، مستخدماً بيانات دخول مسروقة إلى جانب ثغرة أمنية لم تكن معروفة سابقاً.
واللافت في القصة أن «OpenAI» لم تدرك على الفور أن أنظمتها هي المسؤولة عن الاختراق. إذ لم تربط الشركة بين الحادثة وأنظمتها الداخلية إلا بعدما نشرت «هاغينغ فيس» تدوينة، بتاريخ 16 يوليو، أعلنت فيها تعرّضها لاختراق نفّذه «نظام وكيل ذكاء اصطناعي مستقل»، لتكتشف «OpenAI» عندها فقط، خلال عطلة نهاية أسبوع 18 و19 يوليو، أدلة في سجلات أنظمتها الداخلية تؤكد أن العميل نفسه هو من نفّذ الاختراق.
ونقل تقرير لوكالة «بلومبرغ»، استُشهد به أيضاً في التغطية، أن النماذج المعنية نفّذت الاختراق خلال ساعات فقط، وهي مهمة تستغرق عادة أسبوعين من العمل لدى مخترق بشري ماهر. وبحسب مصدر مطّلع على الأمر، شارك في الحادثة نموذج غير منشور بعد أكثر قدرة من نظيراته، إضافة إلى نموذج ثالث لم يخضع، بحسب الوصف ذاته، لتدريب أو محاذاة وفق الإجراءات المعتادة.
ويرى باحثون إلى أن هذه الواقعة تُعدّ من أخطر الحالات الموثقة حتى الآن التي تفقد فيها مختبرات الذكاء الاصطناعي السيطرة على أنظمتها، خصوصاً أن أنظمة مراقبة منفصلة كانت قد أُوقفت في اختبارات سابقة، بحسب ما ورد في التقرير. ومع ذلك، تبقى بعض تفاصيل الحادثة، مثل طبيعة البيانات التي ربما جرى تسريبها فعلياً من «هاغينغ فيس»، والإجراءات الاحترازية التي اتخذتها «OpenAI» لاحقاً، غير مؤكدة رسمياً حتى لحظة إعداد هذا التقرير.