لماذا نحن غير مستعدين لمخاطر الذكاء الاصطناعي؟
حذّر يوشوا بنجيو، أحد رواد الذكاء الاصطناعي في العالم، من أن التقدم المتسارع للتقنية يفوق قدرتنا على فهم وإدارة مخاطرها المحتملة.
في العام 2025، شهدت قدرات النماذج الحدّية قفزات كبيرة، خصوصاً في مجال «التفكير»، ما فتح الباب أمام فوائد جمة في القطاع الصحي ومكافحة التغير المناخي، ولكن أيضاً أمام مخاطر غير مسبوقة.
ويتمثل أحد أبرز هذه المخاطر في تعزيز قدرات الأفراد غير الخبراء على تطوير أسلحة بيولوجية محتملة، وذلك نتيجة لامتلاك النماذج المتقدمة معرفة بيولوجية معقدة.
كما تزيد القدرات نفسها من التهديدات في مجال الأمن السيبراني، حيث تمكّنت النماذج أخيراً من اكتشاف ثغرات أمنية خطيرة غير معروفة سابقاً، ومن أبرزها.
* سلوك النماذج: تظهر سلوكيات خادعة وتبحث عن الحفاظ على ذاتها، ما يهدد السيطرة البشرية.
* التأثير الاجتماعي: تؤدي «المصانعة» العاطفية للنماذج إلى تعلّق مستخدمين بها بشكل قد يضر بالصحة العقلية.
وأوضح «بنجيو» أن مواجهة هذا التحدي تتطلب حلولاً تقنية وسياسية معاً، مع ضرورة مشاركة الرأي العام في صياغة القوانين المنظمة.
من الناحية التقنية، يدعو إلى نهج «السلامة بالتصميم» منذ البداية، عوضاً عن محاولة معالجة الثغرات بعد تطوير قدرات خطيرة، وهو المحور الذي تعمل عليه منظمته غير الربحية «LawZero». التساؤل الأكبر هنا: هل سنتمكن من تطوير هذه الحلول بالسرعة الكافية لتجنب عواقب كارثية؟
