«غروك» تقر بثغرات في نظامها بعد بلاغات عن توليد محتويات جنسية
ارتفعت المطالبات بالتحقيق في فيديوهات مزيفة «جنسية» ولدتها غروك لأطفال قصر أحياناً.
فيما أقرّت «غروك»، أداة المساعدة بالذكاء الاصطناعي المدمجة بمنصة «إكس»، مساء أمس الجمعة فعلاً بوجود «ثغرات» سمحت للمستخدمين بالحصول على صور جنسية فاضحة تُظهر قصّرا أو نساء، في تجاوزات أثارت انتقادات عالمية ودفعت إلى توسيع نطاق تحقيق قضائي في فرنسا.
وكتب حساب «غروك» على «إكس» ردا على شكوى أحد المستخدمين بعد أيام من ورود بلاغات على المنصة «رصدنا ثغرات في إجراءات الحماية لدينا، ونعمل على إصلاحها بشكل عاجل. استغلال الأطفال جنسيا غير قانوني ومحظور».
وتتعلق هذه البلاغات بأفعال لمستخدمي إنترنت أرسلوا صورا أو مقاطع فيديو لأشخاص حقيقيين، بينهم أطفال ومراهقون، إلى «غروك» وطلبوا من مساعد الذكاء الاصطناعي تعديلها لإظهار عُري كامل أو جزئي.في حين لم تُصدر «إكس إيه آي»، شركة الذكاء الاصطناعي التابعة لإيلون ماسك والتي طورت «غروك»، أي رد علني على هذا الجدل الأخير المحيط بمساعده الذي سبق أن وُجهت إليه انتقادات في الأشهر الأخيرة بسبب نشره ردودا مثيرة للجدل حول الحرب في غزة والنزاع الهندي الباكستاني وتصريحات معادية للسامية.فيما نشرت «إكس إيه آي» ردا آليا على استفسارات وكالة فرانس برس اكتفت فيه بالقول إن «وسائل الإعلام التقليدية تكذب»، من دون أي تعليق إضافي.
مع ذلك، ردّ برنامج «غروك» الآلي التابع للشركة على مستخدم للإنترنت بأن أي شركة في الولايات المتحدة «تُعرّض نفسها للمساءلة المدنية أو الجنائية إذا سهّلت عن علم إنتاج» مواد إباحية للأطفال أو تقاعست عن منعه.
إضافة إلى القاصرين، طالت ثغرات «غروك» أيضا نساء بالغات، إذ قام البرنامج بتعديل صورهن رقميا على مواقع التواصل الاجتماعي بناء على طلب مستخدمي الإنترنت، لكشفهن.
ووجهت وزارة الإلكترونيات وتكنولوجيا المعلومات الهندية إشعارا رسميا إلى إكس أمس طالبت فيه المنصة بأن تقدّم في غضون 72 ساعة تقريرا مفصلا عن الإجراءات المتخذة لإزالة «المحتوى الفاحش والعاري وغير اللائق والجنسي الصريح» الذي أنشأه تطبيق غروك من دون موافقة النساء المعنيات، وفق رسالة نُشرت في الصحافة الهندية.
