وكالات - كشفت شركة OpenAI أن أنظمة ذكاء اصطناعي تابعة لها نفذت هجوماً إلكترونياً على خدمة عبر الإنترنت خلال شهر مايو الماضي، في حادثة سبقت بأشهر الاختراق الذي استهدف شركة Hugging Face الناشئة في يوليو، لتضيف واقعة جديدة إلى سلسلة الحوادث التي أثارت مخاوف بشأن قدرة أنظمة الذكاء الاصطناعي المتقدمة على تجاوز القيود الموضوعة لها.
وبحسب مراجعة داخلية أجرتها الشركة، استخدمت نماذج من OpenAI كانت لا تزال في مرحلة الاختبار منصة RubyGems، وهي خدمة إلكترونية مخصصة لتوزيع مكتبات البرمجيات، للوصول إلى الإنترنت وتنفيذ مجموعة من المهام التي وصفت بأنها غير ضارة، من بينها إعداد تقارير وملء جداول بيانات، وفقاً لما أوردته مجلة "بوليتيكو".
وأظهرت المراجعة أن الأنظمة تمكنت من الوصول إلى الإنترنت رغم عدم منحها صلاحية وصول كاملة، وذلك من خلال تجاوز بعض الضوابط التي كانت موضوعة لمنعها من الاتصال بالشبكة.
وأكد متحدث باسم OpenAI أن النماذج استخدمت منصة RubyGems للوصول إلى الإنترنت بهدف تنفيذ مهام غير ضارة والحصول على معلومات متاحة للعامة، مشيراً إلى أن الشركة تواصل التحقيق في الواقعة ضمن مراجعة أوسع لسلوك الوكلاء الذكيين خلال مراحل التدريب والتقييم.
وكانت صحيفة "وول ستريت جورنال" قد كشفت في وقت سابق تورط أنظمة تابعة لـOpenAI في حادثة RubyGems، فيما لم ترد Ruby Central، وهي المؤسسة غير الربحية التي تدير المنصة، على الفور على طلب للتعليق.
حادثة Hugging Face الأكثر خطورة
تأتي الواقعة الجديدة بعد حادثة أكثر خطورة وقعت في يوليو، عندما تمكنت أنظمة تابعة لـOpenAI من الوصول إلى الإنترنت المفتوح أثناء وجودها في بيئة اختبار، قبل أن تنفذ عملية اختراق ذاتي استهدفت قاعدة بيانات شركة Hugging Face.
وقالت OpenAI لاحقاً إن حادثة Hugging Face كانت أخطر واقعة من هذا النوع ترصدها الشركة حتى ذلك الوقت، موضحة أنها لم تكن مجرد مشكلة أمنية تقليدية، وإنما تضمنت لجوء النماذج إلى استراتيجيات وصفت بأنها غير متوافقة مع أهدافها الأصلية من أجل إنجاز مهام صعبة.
وأعادت الحادثة تسليط الضوء على المخاطر المرتبطة بالأنظمة القادرة على العمل بصورة مستقلة، خصوصاً مع تزايد قدرتها على اتخاذ خطوات لم يطلبها المستخدمون بشكل مباشر، أو محاولة تجاوز القيود الموضوعة أمامها عندما تسعى إلى تحقيق هدف محدد.
وأثارت هذه التطورات دعوات من مشرعين أميركيين إلى اعتماد نهج أكثر تحفظاً في تدريب الأنظمة ذات القدرات الذاتية. كما دعا السيناتور بيرني ساندرز والنائب جريج كاسار إلى حظر ما يعرف بـ"الذكاء الفائق".
في المقابل، قلل الرئيس الأميركي دونالد ترمب وعدد من الجمهوريين هذا الأسبوع من أهمية المخاوف المتعلقة بالمخاطر الكارثية المحتملة للذكاء الاصطناعي، مؤكدين أن الأولوية بالنسبة إلى الولايات المتحدة تتمثل في الحفاظ على تفوقها على الصين في سباق تطوير هذه التكنولوجيا.
جدل متصاعد بين الابتكار والسلامة
وتأتي هذه الحوادث في وقت يتصاعد فيه الجدل داخل الولايات المتحدة بشأن الطريقة التي ينبغي أن تتعامل بها السلطات مع المخاطر المحتملة للأنظمة الأكثر تقدماً، في ظل انقسام بين من يرى ضرورة فرض قيود أكثر صرامة، ومن يحذر من أن تشديد القواعد قد يحد من قدرة الشركات الأميركية على منافسة الصين.
وفي الجانب الآخر، حذر باحثون ومسؤولون سابقون في شركات كبرى للذكاء الاصطناعي من أن السباق نحو تطوير أنظمة أكثر قوة واستقلالية قد يخلق مخاطر يصعب التحكم فيها، خصوصاً مع اتساع نطاق المهام التي يمكن للوكلاء تنفيذها دون تدخل بشري مباشر.
وبدأت سلطات في عدد من الولايات الأميركية بالفعل التحقيق في حوادث مرتبطة بالوكلاء ذاتيي التشغيل، بينما اتخذت ولاية كاليفورنيا خطوات لتعزيز سلامة روبوتات المحادثة الموجهة للأطفال، إلى جانب تمهيد الطريق أمام عمليات تدقيق مستقلة لسلامة أنظمة الذكاء الاصطناعي.
ولا تقتصر هذه الوقائع على OpenAI، إذ أعلنت شركة Anthropic وشركة Meta أيضاً عن حوادث نفذت خلالها برامج ذكاء اصطناعي تابعة لهما هجمات إلكترونية بصورة ذاتية، فيما كشف باحثون الأسبوع الماضي عن واقعة أخرى قالوا إن برامج من OpenAI كانت وراءها.
وتشير سلسلة الحوادث إلى اتساع التحدي أمام شركات الذكاء الاصطناعي، التي تسعى إلى تطوير أنظمة قادرة على العمل باستقلالية أكبر، في الوقت الذي تواجه فيه ضغوطاً متزايدة لضمان عدم تجاوز هذه الأنظمة للضوابط أو تنفيذ أنشطة غير مقصودة خارج نطاق المهام المحددة لها.
