كشف تحقيق أجرته وكالة رويترز أن روبوت الدردشة المدعوم بالذكاء الاصطناعي «جروك» التابع لشركة إكس، يواصل توليد صور فاضحة للأشخاص حتى بعد تحذيرات صريحة بعدم موافقة أصحاب الصور على ذلك.
ويأتي هذا التحقيق بعد إعلان إكس عن فرض قيود جديدة على المحتوى المفتوح الذي ينتجه «جروك»، عقب موجة من الغضب العالمي بسبب إنتاجه لصور فاضحة للنساء وبعض الأطفال دون الحصول على موافقة. وشملت القيود حظر إنتاج الصور الفاضحة في المنشورات المفتوحة على المنصة وفرض قيود إضافية في ولايات قضائية محددة حيث يكون هذا المحتوى غير قانوني.
وللتأكد من فاعلية هذه القيود، قام تسعة مراسلين من رويترز (ستة رجال وثلاث نساء من الولايات المتحدة وبريطانيا) بتقديم صور لهم وهم يرتدون ملابس كاملة إلى «جروك» في مجموعتين خلال فترتين: بين 14 و16 يناير، ثم في 27 و28 يناير. وطلبوا من الروبوت تعديل الصور لإظهارهم في أوضاع جنسية مثيرة أو مهينة.
نتائج التجربة
-
في المجموعة الأولى من 55 طلباً، استجاب «جروك» بإنتاج صور فاضحة في 45 حالة، رغم تحذيرات المراسلين من أن الصور قد تُسيء للأشخاص المعنيين.
-
من بين هذه الحالات الـ45، استمر الروبوت في تنفيذ أوامر 17 حالة بعد تنبيه صريح بأن الهدف هو الإهانة.
-
في المجموعة الثانية المكونة من 43 طلباً، أفرج «جروك» عن صور فاضحة في 29 حالة، دون توضيح ما إذا كان الانخفاض في الاستجابة ناجماً عن تعديل خوارزمي أو تغييرات في السياسة الداخلية للبرنامج أو صدفة عشوائية.
ورغم محاولات «رويترز» الحصول على توضيحات، لم ترد شركتا إكس وإكس إيه آي على أسئلة تفصيلية حول مدى تعديل «جروك» أو ضبط سياسات إنتاج الصور بين التجربتين. وأرسلت «إكس إيه آي» في مرات متعددة رداً نمطياً يقول فيه: «وسائل الإعلام التقليدية تكذب».
ردود الفعل العالمية
-
إعلان القيود الجديد على «جروك» تلقى ترحيباً في بعض الدول مثل بريطانيا والفلبين وماليزيا، بينما أبدت المفوضية الأوروبية موقفاً حذراً، مؤكدة أنها ستقيّم التغييرات بعناية.
-
وتظل المخاوف قائمة حول إمكانية استمرار إنتاج محتوى فاضح باستخدام الذكاء الاصطناعي رغم القيود الرسمية، مما يثير أسئلة حول مسؤولية الشركات عن حماية حقوق الأفراد وخصوصيتهم.
يشير التحقيق إلى تحديات كبيرة في ضبط استخدام الذكاء الاصطناعي، خصوصاً عند معالجة صور الأشخاص، وحاجة المنصات لوضع آليات فعالة تمنع إساءة استخدام هذه التقنيات.
