فورين بوليسي: عندما يقرر الذكاء الاصطناعي من يعيش ومن يموت في غزة

واشنطن – مصدر الإخبارية

تظهر الصحافة الاستقصائية التي نشرتها وسائل الإعلام الإسرائيلية Local Call ونسختها الإنجليزية، +972 Magazine في أبريل/نيسان أن الجيش الإسرائيلي أنشأ برنامج اغتيالات جماعية بحجم غير مسبوق، يمزج بين الاستهداف الخوارزمي والتسامح العالي مع وفيات وإصابات المارة.

ويكشف التحقيق عن توسع هائل في ممارسات القتل المستهدف السابقة التي اتبعتها إسرائيل، ويقطع شوطا طويلا نحو تفسير كيف ولماذا يمكن للجيش الإسرائيلي أن يقتل هذا العدد الكبير من الفلسطينيين بينما لا يزال يدعي الالتزام بالقانون الإنساني الدولي. كما أنه يمثل أفقًا جديدًا خطيرًا في التفاعل بين الإنسان والآلة في الصراع، وهو اتجاه لا يقتصر على إسرائيل.

لدى إسرائيل تاريخ طويل في استخدام عمليات القتل المستهدف. خلال سنوات الانتفاضة الثانية (2000-2005) العنيفة، أصبح الأمر مؤسسيًا كممارسة عسكرية، لكن العمليات كانت نادرة نسبيًا وغالبًا ما تضمنت استخدام ذخائر خاصة أو ضربات استهدفت فقط الأشخاص في المركبات للحد من الأضرار التي لحقت بالمارة.

ولكن منذ هجوم حماس في 7 أكتوبر 2023، غيّر الجيش الإسرائيلي وتيرة تحركاته. لقد تخلصت من العملية القديمة المتمثلة في الاختيار الدقيق للأهداف للقادة المسلحين من ذوي الرتب المتوسطة إلى العالية. وبدلاً من ذلك، اعتمدت على التقدم المستمر في أدوات الذكاء الاصطناعي، بما في ذلك تحديد الأهداف. يقوم النظام الجديد تلقائيًا بغربلة كميات هائلة من البيانات الأولية لتحديد الأهداف المحتملة وتسليم أسمائها للمحللين البشريين ليفعلوا ما يريدون – وفي معظم الحالات، يبدو أن هؤلاء المحللين البشريين يوصون بشن غارة جوية.

العملية الجديدة، وفقًا للتحقيق الذي أجراه Local Call ومجلة +972، تعمل على النحو التالي: قام نظام يعتمد على الذكاء الاصطناعي يسمى “لافندر” بتتبع أسماء كل شخص تقريبًا في غزة، وهو يجمع بين مجموعة واسعة من المدخلات الاستخباراتية – من الفيديو ومن ثم يتم إرسال الخلاصات ورسائل الدردشة التي تم اعتراضها إلى بيانات وسائل التواصل الاجتماعي وتحليل بسيط للشبكات الاجتماعية – لتقييم احتمال أن يكون الفرد مقاتلًا في صفوف حماس أو أي جماعة فلسطينية مسلحة أخرى. كان الأمر متروكًا للجيش الإسرائيلي لتحديد معدل الخطأ الذي كان على استعداد لتحمله عند قبول الأهداف التي حددتها لافندر، وفي معظم فترات الحرب، يبدو أن هذا الحد كان 10%.

سيتم تمرير الأهداف التي حققت هذا الحد أو تجاوزته إلى فرق العمليات بعد أن يقضي المحلل البشري ما يقدر بـ 20 ثانية لمراجعتها. وفي كثير من الأحيان، كان هذا لا يتضمن سوى التحقق مما إذا كان الاسم هو اسم رجل (على افتراض أن النساء لسن مقاتلات). واعتبرت الضربات على نسبة 10% من النتائج الإيجابية الكاذبة – التي تشمل، على سبيل المثال، أشخاصا يحملون أسماء مشابهة لأعضاء حماس أو أولئك الذين يتشاركون الهواتف مع أفراد عائلاتهم الذين تم تحديدهم على أنهم أعضاء في حماس – خطأ مقبولا في ظل ظروف الحرب.

ويحدد النظام الثاني، الذي يسمى” أين أبي “، ما إذا كانت الأهداف موجودة في منازلهم. ذكرت Local Call أن الجيش الإسرائيلي يفضل ضرب أهداف في منازلهم لأنه من الأسهل بكثير العثور عليها هناك مقارنة بالاشتباك مع الجيش الإسرائيلي في المعركة. يُنظر إلى عائلات وجيران أعضاء حماس المحتملين على أنهم أضرار جانبية ضئيلة، والعديد من هذه الضربات كانت موجهة حتى الآن نحو من وصفهم أحد ضباط المخابرات الإسرائيلية الذين أجريت معهم مقابلات بـ “أشخاص غير مهمين” – أعضاء صغار في حماس يُنظر إليهم على أنهم أهداف مشروعة. لأنهم مقاتلون ولكن ليس لهم أهمية استراتيجية كبيرة. ويبدو أن هذا هو الحال بشكل خاص خلال التصعيد المبكر للقصف في بداية الحرب، وبعد ذلك تحول التركيز نحو أهداف أكبر إلى حد ما “حتى لا تهدر القنابل”.

أحد الدروس المستفادة من هذا الكشف يتناول مسألة ما إذا كانت التكتيكات الإسرائيلية في غزة تعتبر إبادة جماعية. يمكن أن تشمل أعمال الإبادة الجماعية الجهود الرامية إلى إحداث الموت الجماعي من خلال المجاعة المتعمدة أو التدمير الشامل للبنية التحتية اللازمة لدعم حياة المجتمع في المستقبل، وقد ادعى بعض المراقبين أن كلا الأمرين واضحان في غزة. لكن أوضح مثال على سلوك الإبادة الجماعية هو إطلاق النار على المدنيين بقصد إبادتهم بشكل جماعي. وعلى الرغم من التحريض الواضح على الإبادة الجماعية من قبل مسؤولين إسرائيليين غير مرتبطين بالتسلسل القيادي في الجيش الإسرائيلي، فإن الطريقة التي اختار بها الجيش الإسرائيلي الأهداف وضربها ظلت غامضة.

وقد أظهرت مجلة Local Call ومجلة +972 أن الجيش الإسرائيلي قد يكون مهملاً إجرامياً في استعداده لضرب أهداف عندما يكون خطر وفاة المارة مرتفعاً للغاية، ولكن لأن الأهداف التي اختارها لافندر هي في الظاهر مقاتلة، فإن الضربات الجوية للجيش الإسرائيلي لا تهدف إلى الإبادة. عدد من السكان المدنيين. لقد اتبعوا ما يسمى بالمنطق العملياتي للقتل المستهدف حتى لو كان إعدامهم يشبه القصف المشبع في آثاره.

وهذا يهم خبراء القانون الدولي والأخلاقيات العسكرية بسبب مبدأ التأثير المزدوج، الذي يسمح بأضرار متوقعة ولكن غير مقصودة إذا كان الفعل المقصود لا يعتمد على تلك الأضرار التي تحدث، كما هو الحال في حالة الغارة الجوية ضد هدف مشروع من شأنه أن يحدث سواء كان هناك المارة أم لا. لكن في حالة الحرب بين إسرائيل وحماس، فإن معظم المحامين وعلماء الأخلاق – وعلى ما يبدو بعض ضباط الجيش الإسرائيلي – يرون أن هذه الضربات فشلت في تلبية أي معيار معقول للتناسب في حين أنها توسع مفهوم التمييز إلى ما هو أبعد من التفسيرات المعقولة. وبعبارة أخرى، ربما تظل جرائم حرب.

ناقش الباحثون والممارسون “التعاون بين الإنسان والآلة” كوسيلة لتصور الأهمية المركزية المتزايدة للتفاعل بين الأنظمة التي تعمل بالذكاء الاصطناعي ومشغليها أثناء الأعمال العسكرية. وبدلا من ” الروبوتات القاتلة ” المستقلة، يتصور نظام العمل الجماعي بين الإنسان والآلة أن الجيل القادم من المقاتلين سيكون بمثابة أنظمة توزع الوكالة بين صناع القرار من البشر والآلات. وما ينشأ هنا ليس فيلم The Terminator ، بل كوكبة من الأدوات التي جمعتها الخوارزميات ووضعتها في أيدي أشخاص ما زالوا يحكمون على استخدامها.

يُستخدم الاستهداف الخوارزمي على نطاق واسع في مقاطعة شينجيانغ الصينية، حيث تستخدم الحكومة الصينية شيئًا مشابهًا كوسيلة لتحديد المنشقين المشتبه بهم بين سكان الأويغور. في كل من شينجيانغ والأراضي الفلسطينية المحتلة، تعتمد الخوارزميات التي تجرم الأفراد على ثروة من مدخلات البيانات غير المتوفرة خارج المناطق المشبعة بأجهزة الاستشعار وتخضع لجهود جمع ضخمة.

وتستخدم أوكرانيا أيضًا التحليل المدعوم بالذكاء الاصطناعي لتحديد نقاط الضعف على طول خط المواجهة الشاسع للمعركة، حيث تكون الأهداف العسكرية الروسية المحتملة أكثر وفرة من الإمدادات الأوكرانية من القنابل والطائرات بدون طيار وقذائف المدفعية. لكنها تفعل ذلك في مواجهة مستوى معين من الشكوك من جانب أفراد الاستخبارات العسكرية، الذين يخشون أن يؤدي ذلك إلى خنق الإبداع العملياتي والتفكير العميق، وهما سلاحان حاسمان تستخدمهما أوكرانيا في صراعها ضد ديفيد ضد جالوت ضد روسيا.

خلال “حربها على الإرهاب”، استخدمت الولايات المتحدة ” الضربات المميزة ” شكلاً أكثر بدائية من اختيار الأهداف الخوارزمي، حيث كان الطيارون يحددون متى يوجهون الضربات استناداً إلى تقييمات بمساعدة الكمبيوتر للسلوك المشبوه على الأرض. والجدير بالذكر أن هذه الممارسة سرعان ما أصبحت مثيرة للجدل بسبب ارتفاع معدلات وفيات المارة.

لكن استخدام إسرائيل لأنظمة لافندر، أين أبي، وغيرها من أنظمة الاستهداف الخوارزمية التي تم الكشف عنها سابقًا – مثل الإنجيل يُظهر كيف يمكن أن يصبح التعاون بين الإنسان والآلة بمثابة وصفة لكارثة استراتيجية وأخلاقية. ونشرت ” Local Call ” و “+972″ شهادات من مجموعة من ضباط المخابرات تشير إلى تزايد الانزعاج، على جميع مستويات سلسلة القيادة في الجيش الإسرائيلي، إزاء استعداد القادة لضرب أهداف دون أي اعتبار واضح للمارة.

تنتهك سياسات إسرائيل المعايير الناشئة للاستخدام المسؤول للذكاء الاصطناعي. فهي تمزج بين جو عاطفي من الطوارئ والغضب داخل الجيش الإسرائيلي، وتدهور في الانضباط العملياتي، والاستعداد لا لاستعانة بمصادر خارجية للامتثال التنظيمي لآلة باسم الكفاءة. وتُظهِر هذه العوامل مجتمعة كيف أن النظام الخوارزمي لديه القدرة على التحول إلى ” آلة لعدم المساءلة “، مما يسمح للجيش الإسرائيلي بتحويل القواعد العسكرية ليس من خلال أي مجموعة محددة من القرارات، ولكن من خلال إسناد إجراءات جديدة غير مقيدة بشكل منهجي إلى جهاز كمبيوتر موضوعي ظاهريا.

كيف حدث هذا؟ لقد حددت القيادة السياسية الإسرائيلية للجيش الإسرائيلي هدفاً مستحيلاً: التدمير الكامل لحماس. في بداية الحرب، كان لدى حماس ما يقدر بنحو 30.000 إلى 40.000 مقاتل. بعد ما يقرب من عقدين من السيطرة على قطاع غزة، كانت حماس موجودة في كل مكان. في 7 أكتوبر/تشرين الأول، شكّل مقاتلو حماس تهديداً رهيباً لأي قوة برية تابعة للجيش الإسرائيلي تدخل غزة ما لم يتم استنزاف أعدادهم وتشتيت كتائبهم أو إجبارهم على العمل تحت الأرض.

إن حقيقة قدرة لافندر على إنشاء قائمة لا نهاية لها تقريبًا من الأهداف – وأن الأنظمة الداعمة الأخرى يمكن أن تربطها بالمباني التي يمكن ضربها بسرعة من الجو والتوصية بالذخائر المناسبة – أعطت للجيش الإسرائيلي وسيلة واضحة لتمهيد الطريق لأرض في نهاية المطاف. عملية. وقد وقع ما يقرب من نصف القتلى الفلسطينيين المبلغ عنهم خلال الأسابيع الستة الأولى من القصف العنيف. وفي هذه الحالة، أنتج التعاون بين الإنسان والآلة حلاً تكتيكيًا قابلاً للتكرار لمشكلة استراتيجية.

لقد تغلب الجيش الإسرائيلي على العقبة الرئيسية أمام هذا الحل المزعوم، وهو العدد الهائل من المدنيين الأبرياء المكتظين بكثافة في منطقة صغيرة من قطاع غزة، وذلك ببساطة عن طريق اتخاذ قرار بعدم الاهتمام كثيراً بمن قتلهم إلى جانب أهدافه. في الغارات ضد كبار قادة حماس، وفقا لنداء محلي وتحقيق +972، قال من تمت مقابلتهم إن الجيش الإسرائيلي قرر أنه يجوز قتل ما يصل إلى “مئات” من المارة مقابل كل قائد يقتل؛ بالنسبة لمقاتلي حماس الصغار، بدأ هذا العدد المقبول بـ 15 من المارة ولكنه تغير قليلاً خلال مراحل مختلفة من القتال.

علاوة على ذلك، نظرًا لقصف أهداف متكررة في المنازل التي كان يلجأ إليها عدد غير معروف من الأشخاص، تم القضاء على عائلات بأكملها. من المحتمل أن عمليات الإبادة العائلية هذه قد نمت مع انضمام أقارب إضافيين أو أشخاص غير مرتبطين إلى السكان الأصليين للاحتماء مؤقتًا، ولا يبدو أن أفراد استخبارات الجيش الإسرائيلي حاولوا عادةً اكتشاف ذلك وتحديث قراراتهم العملياتية وفقًا لذلك.

على الرغم من أن إسرائيل غالبًا ما تقدم الجيش الإسرائيلي على أنه متوافق تمامًا مع المعايير الليبرالية والغربية، إلا أن الطريقة التي استخدم بها الجيش الإسرائيلي الذكاء الاصطناعي في غزة، وفقًا لـ Local Call و +972، تتناقض بشكل صارخ مع تلك المعايير نفسها. في العقيدة العسكرية الأمريكية، يجب أن تسعى جميع الضربات إلى إبقاء عدد القتلى من المارة أقل من “القيمة المحددة للضحايا غير المقاتلين” (NCV).

لقد كانت صافي القيمة الصافية لمعظم العمليات الأمريكية منخفضة للغاية، وتاريخياً، كانت كذلك بالنسبة لإسرائيل – على الأقل عندما يتعلق الأمر بالقتل المستهدف. على سبيل المثال، عندما قُتل قائد حماس صلاح شحادة مع 14 آخرين في غارة جوية إسرائيلية في عام 2002، قال رئيس أركان الجيش الإسرائيلي آنذاك موشيه يعالون إنه لم يكن ليسمح بحدوث العملية لو كان يعلم أنها ستقتل هذا العدد من الأشخاص. وفي المقابلات التي أجريت على مر السنين، ذكر مسؤولون إسرائيليون آخرون شاركوا في العملية بالمثل أن العدد الكبير من الوفيات بين المارة كان خطأً كبيرًا.

كشف موقع Local Call و +972 أنه على النقيض من ذلك، فإن اغتيال قائد كتيبة حماس وسام فرحات خلال الحرب الحالية بين إسرائيل وحماس كان له عدد أكبر من 100 شخص – وأن الجيش الإسرائيلي توقع أنه سيقتل حوالي هذا العدد.

وأوضح ضباط عسكريون إسرائيليون أجرت معهم Local Call و +972 مقابلات أن هذا التحول أصبح ممكنًا بفضل الموضوعية المفترضة للذكاء الاصطناعي والعقلية التي تؤكد على العمل بدلاً من الحكم. لقد تبنى الجيش الإسرائيلي منطق الحرب، والذي يقبل بموجبه معدلاً أعلى من “الأخطاء” في مقابل الفعالية التكتيكية في حين يرغب قادته في الانتقام من حماس. في العمليات المتعاقبة في الأعوام 2008 و2012 و2014 – والتي أطلق عليها رئيس الوزراء الإسرائيلي السابق نفتالي بينيت اسم “جز العشب” – أسقطت إسرائيل بشكل دوري ذخائر غير دقيقة بأعداد كبيرة على المباني وأنظمة الأنفاق التي تعتبر أهدافا لحماس. تراوحت الوفيات بين المقاتلين وغير المقاتلين في هذه الحروب بين 1 إلى 1 و1 إلى 3، وهو رقم تقديري شائع للحرب الحالية.

ادعى مصدر استخباراتي إسرائيلي أجرت مجلة +972 مقابلة معه أن ضيق الوقت جعل من المستحيل “تجريم” كل هدف، مما زاد من تسامح الجيش الإسرائيلي مع هامش الخطأ الإحصائي الناتج عن استخدام أنظمة التوصية بالأهداف المدعومة بالذكاء الاصطناعي – فضلاً عن تسامحه مع “الأضرار الجانبية” المرتبطة بها يضاف إلى ذلك الضغط للانتقام من العدو بسبب هجومه الأولي المدمر، مع ما وصفه مصدر آخر برغبة متعمدة في “القضاء على حماس، بغض النظر عن التكلفة”.

ربما كان من الممكن استخدام اللافندر بحكمة أكبر لولا تأثير التفاعل المميت الذي ظهر بين آلة تبدو موضوعية والجو العاطفي المكثف من اليأس والانتقام داخل غرف حرب الجيش الإسرائيلي.

هناك دروس أكبر للتعلم. وأهم هذه العوامل هو أن الذكاء الاصطناعي لا يستطيع حماية استخدام الأسلحة من قوة القادة أو المشغلين أو القواعد المؤسسية ذات التفكير الأحادي أو الانتقامي أو المهمل. في الواقع، يمكن أن يكون بمثابة درع أو مبرر لهم.

وقال مصدر رفيع المستوى في الجيش الإسرائيلي في تحقيقات Local Call و +972 إن لديه “ثقة أكبر بكثير في آلية إحصائية من جندي فقد صديقًا قبل يومين”. ولكن من الواضح أن مجموعة من الآلات متورطة بسهولة في القتل الجماعي على نطاق يتجاوز المعايير السابقة مقارنة بمجند انتقامي يقاتل في طريقه عبر حي حضري كثيف.

ومن المغري بالنسبة للبيروقراطيات، العسكرية أو غيرها، الاستعانة بمصادر خارجية للآلات في إصدار الأحكام الصعبة التي يتم اتخاذها في الأوقات الصعبة، وبالتالي السماح بعدم اتخاذ قرارات محفوفة بالمخاطر أو مثيرة للجدل من قبل أي شخص على وجه الخصوص حتى عندما يتم تنفيذها على نطاق واسع. ولكن الإشراف القانوني والأخلاقي والتأديبي لا يمكن الاستعانة بمصادر خارجية لأجهزة الكمبيوتر، وتحجب الخوارزميات التحيزات والقيود والأخطاء التي تشوب مدخلات البيانات وراء قشرة مغرية من الموضوعية المفترضة.

غالبًا ما يُزعم أن جاذبية فرق العمل بين الإنسان والآلة والأنظمة الخوارزمية هي الكفاءة، ولكن لا يمكن توسيع نطاق هذه الأنظمة إلى ما لا نهاية دون توليد نتائج عكسية ونتائج عكسية. ولم يكن المقصود من لافندر أن يكون الحكم الوحيد على شرعية الهدف، والأهداف التي توصي بها من الممكن أن تخضع لمراجعة شاملة، إذا رغب القائمون عليها في ذلك. ولكن تحت ضغط هائل، ورد أن محللي استخبارات الجيش الإسرائيلي لم يخصصوا أي موارد تقريبًا للتحقق مرة أخرى من الأهداف، ولا للتحقق مرة أخرى من مواقع المارة بعد إدخال أسماء الأهداف في كتاب “أين أبي”.

إن مثل هذه الأنظمة مصممة خصيصًا لهذا الغرض، ويجب على المسؤولين أن يتذكروا أنه حتى في ظل ظروف الطوارئ، يجب عليهم توخي الحذر عند توسيع نطاق استخدام أداة الكمبيوتر. إن الفوائد التشغيلية المأمولة ليست مضمونة، وكما تظهر الكارثة في غزة، فإن التكاليف الاستراتيجية والأخلاقية قد تكون كبيرة.

فورين بوليسي