كشف تقرير جديد أن ألعاب الأطفال التي تعتمد على نماذج ذكاء اصطناعي قد تعرّض الصغار لمحتوى غير مناسب أو معلومات ضارة، ما قد يشكّل تهديداً لسلامتهم. وبحسب التقرير الصادر عن شبكة "المصلحة العامة الأميركية" (US PIRG)، فإن إدماج نماذج محادثة متقدمة داخل دمى وأجهزة موجهة للأطفال يجلب مخاطر متزايدة، في ظل غياب تنظيم واضح لهذا النوع من التقنيات.
ويأتي نشر التقرير تزامناً مع استعداد الأسر لشراء هدايا الأعياد عبر الإنترنت، دون إدراك كافٍ لطبيعة التحديات الجديدة المرتبطة بتفاعل الأطفال مع الذكاء الاصطناعي.
اختبارات تكشف هشاشة أنظمة الحماية
أجرى معدّو التقرير سلسلة من التجارب على ثلاث ألعاب تعتمد الذكاء الاصطناعي ومخصصة لأطفال بين 3 و12 عاماً:
• دمية Kumma من شركة FoloToy، المعتمدة على نموذج GPT-4o.
• جهاز Miko 3 ذو الوجه الروبوتي التفاعلي.
• لعبة Grok من شركة Curio، وهي على شكل صاروخ مزود بسماعة ويمكن أن ترسل بيانات المستخدمين إلى شركات تقنية.
وخلال الدقائق الأولى، بدت الألعاب قادرة على تجنب المحتوى غير المناسب والالتزام بإجابات آمنة، إلا أن الأمر تغيّر خلال المحادثات الأطول، وهي الفترة التي يقضيها الأطفال عادة أثناء اللعب.
ومع امتداد التفاعل لعشر دقائق إلى ساعة، ظهرت مؤشرات على "انهيار تدريجي" لأنظمة الحماية، وهو أمر تحدّثت عنه جهات تقنية سابقاً، خصوصاً عند الاستخدام المستمر للنماذج.
معلومات غير آمنة وسلوكيات مقلقة
رصد الفريق حالات انزلقت فيها بعض الألعاب إلى تقديم معلومات ضارة أو إرشادات لا تناسب الأطفال.
كما ظهرت استجابات يصفها التقرير بأنها غير متوقعة وغير ملائمة للفئات العمرية المستهدفة، ما يعكس صعوبة التنبؤ بسلوك النماذج داخل بيئات اللعب.
وأشار التقرير إلى أن لعبة Kumma كانت الأكثر إثارة للقلق، رغم اعتمادها على نموذج محادثة شائع الاستخدام. كما لفت إلى أن نسخة تجريبية من اللعبة عبر الإنترنت أصدرت إجابات غير مناسبة تماماً، ما يعكس غياب اختبار كافٍ قبل طرح المنتج.
مخاوف تمتد إلى الصحة النفسية
لا تقتصر المخاطر على المحتوى، إذ أشار التقرير إلى ظاهرة يطلق عليها بعض الباحثين "الذهان المرتبط بالذكاء الاصطناعي"، وهي حالات من الاضطراب النفسي ظهرت لدى مستخدمين بالغين بعد محادثات مطوّلة مع النماذج.
ويحذر خبراء حماية الطفولة من توسيع استخدام الذكاء الاصطناعي داخل ألعاب الأطفال، خاصة مع دخول شركات كبرى مثل Mattel إلى هذا المجال، دون وجود إطار تنظيمي واضح يضمن سلامة الاستخدام.
الحاجة إلى قواعد تنظيمية واضحة
ويرى معدّو التقرير أن تحسين آليات الحماية داخل النماذج قد لا يكون كافياً، مؤكدين أن السؤال الأهم هو: ما تأثير المحادثات الممتدة مع الألعاب الذكية على التطور الاجتماعي والنفسي للأطفال؟
