[[{“value”:”
لندن – المركز الفلسطيني للإعلام
منذ بدء حرب الإبادة الإسرائيلية المتواصلة على غزة منذ 11 شهرا، راجت العديد من التقارير عن استخدام جيش الاحتلال تقنيات مراقبة والذكاء الاصطناعي وأدوات رقمية في هجماته العسكرية على القطاع، لتحديد من أو ما سيهاجمه في غزة ومتى.
غير أن العديد من التقارير وجدت أن تلك الأدوات القائمة على الخوارزميات، اعتمدت في معالجتها على بيانات خاطئة وتقديرات تقريبية غير دقيقة لتوفير معلومات للهجمات العسكرية الإسرائيلية، حيث أكد تقرير مطول نشرته مجلة (+972) الإسرائيلية تعمد جيش الاحتلال قصف المنازل على من فيها اعتماداً على الاحتمالات البرمجية التي توفرها تلك التطبيقات، وهو ما أكدته وثيقة تحليلية جديدة لمنظمة “هيومن رايتس ووتش”.
وتفيد المنظمة بأنّ جيش الاحتلال يستخدم أربع أدوات رقميّة في غزّة تعتمد على معالجة خوارزمية للبيانات الشخصية للمواطنين الفلسطينيين، مشيرة إلى أنّ تلك الأدوات يُفترض أنها تعتمد على مراقبة إسرائيليّة مستمرّة ومنهجيّة لجميع فلسطينيي غزة، بما في ذلك البيانات التي جُمعت قبل الحرب بطريقة تتعارض مع القانون الدولي لحقوق الإنسان.
وتوضح المنظمة أن تلك الأدوات تستخدم البيانات الشخصيّة لتوفير معلومات للهجمات العسكرية، مثل توقع التهديدات وتحديد الأهداف، فيما تعتمد بعض الأدوات على منهجية التعلّم الآلي، أي استخدام الأنظمة المحوسبة التي يُمكنها استخلاص استنتاجات من البيانات والتعرّف على الأنماط دون تعليمات صريحة.
وتؤكد “هيومن رايتس ووتش” أن لم يكن من الممكن توثيق متى وأين تُستخدم هذه الأدوات الرقميّة أو مدى انتشارها مع طرق أخرى لجمع المعلومات والاستعلامات، لكنها قالت إن استخدام جيش الاحتلال الإسرائيلي لتلك الأدوات، “يُثير مخاوف أخلاقيّة وقانونيّة وإنسانيّة كبيرة. ويعرّض القوات الإسرائيليّة لخطر انتهاك القانون الإنساني الدولي، وخاصة قوانين الحرب المتعلقة بالتمييز بين الأهداف العسكريّة والمدنيين، وضرورة اتخاذ جميع الاحتياطات الممكنة قبل الهجوم لتقليص الضرر اللاحق بالمدنيين”.
وتقدم الوثيقة التي أصدرتها المنظمة، الثلاثاء 10 سبتمبر 2023، تحليلات تقنيّة وقانونيّة لأربع أدوات رقميّة تسمى (غوسبيل، لافندر، أين أبي، ونظام تثليث الأبراج الخلوية)، وتحدّد المخاطر الجديدة والتحديات والأسئلة المتعلقة بها، وتقيّم كلّ منها في ضوء القانون الدولي.
وتستند الوثيقة، وفقاً لـ”هيومن راتيس ووتش” إلى تصريحات عامة من مسؤولين إسرائيليين، وتقارير إعلاميّة، ومقابلات مع خبراء وصحفيين، ومواد لم تتناولها التقارير سابقا ونشرها جيش الاحتلال الإسرائيلي، بما في ذلك البيانات الشخصيّة لسكان غزة، والتي يبدو أنها نُشرت عن طريق الخطأ على الإنترنت.
تثليث الأبراج الخلوية
تعتمد أداة مراقبة الإجلاء التي يستخدمها جيش الإسرائيلي على بيانات موقع الهواتف الخلوية لمراقبة حركة الأشخاص في غزّة. واستنادا إلى تقرير نشرته “نيويورك تايمز” في 16 أكتوبر/تشرين الأوّل، قبل أسبوع من بدء جيش الاحتلال للهجوم البري الكبير في شمال غزّة، كان الجيش الإسرائيلي يستخدم هذا النظام لمراقبة إجلاء الفلسطينيين من منازلهم “شمال وادي غزّة”، وهو المصطلح الذي استخدمه للإشارة إلى المحافظة الوسطى وجنوب قطاع غزة بزعم أنها مناطق “إنسانية آمنة”، طالتها العمليات العسكرية لاحقاً.
ونقلت الوثيقة عن صحفيون أنهم شاهدوا داخل مكتب في مقرّ القيادة الجنوبيّة بمدينة بئر السبع الإسرائيلية، شاشات كبيرة عليها خريطة غزّة مقسّمة إلى 620 جزءًا، وكل جزء ملوّن حسب درجة إجلاء السكّان. كما تضمّنت الخريطة تسميات للمستشفيات والمساجد والملاجئ وغيرها من المباني.
وتوقّع الصحفيون أنّ عدد الهواتف الخلوية التي كان يتمّ تعقبها وقتها يتجاوز المليون. وفقا لهذه التقارير، تستخدم أداة المراقبة نظام تثليث أبراج الهواتف الخلويّة (cell tower triangulation) وبيانات مراقبة أخرى لتحقيق مشاهدة حيّة لتحرّكات سكّان غزة، والتي تساعد في تحديد موقع تقريبي للهواتف الخلوية استنادا إلى الأبراج التي يُمكنها الاتصال بها.
ويقول مسؤولون عسكريون إسرائيليون، إنّ هذه المعلومات تُستخدم لتحديد العمليات التي يُمكن للجيش تنفيذها في بعض الأماكن، ونوع الأسلحة التي يمكن أن يستخدمها.
وترجح وثيقة “هيومن رايتس ووتش” أن البيانات التي يوفرها نظام تثليث الأبراج الخلويّة، لا تعطي معلومات دقيقة عن المكان المحدد لوجود الهواتف، وبالتالي الأشخاص الذي يحملونها، ويتفاقم عدم الدقّة بسبب نقص الكهرباء لشحن الهواتف بعد أن قطعت إسرائيل جميع خطوط الكهرباء إلى غزّة، بسبب الحصار المفروض على واردات الوقود، وبسبب الأضرار الكبيرة التي لحقت بالبنية التحتيّة للهاتف في غزة.
وتؤكد الوثيقة أن احتساب تواجد المدنيين كوسيلة لتوفير معلومات تخدم القرارات العسكريّة تزيد من خطر إلحاق أضرار بالمدنيين، وتتسبب في الوصول إلى استنتاجات خاطئة حول عدم وجود مدنيين، أو وجود عدد قليل فقط في منطقة ما، وبالتالي يُمكن مهاجمة هذه المنطقة.
وتلفت الوثيقة إلى بيانات نشرها جيش الاحتلال على الإنترنت، تضمّنت ما يُفترض أنها بيانات تشغيليّة تتعلق بالأنظمة المستخدمة لمراقبة الإجلاء وحركة الأشخاص في غزة، وكذلك لتوقع الضرر المدني المحتمل الذي قد تُسبّبه الهجمات في مناطق معيّنة.
ضُمّت هذه البيانات أيضا، كود [شفرة] المصدر لموقع معلومات الإجلاء التابع للجيش، وأرقاما سكّانية تتفق مع بيانات التعداد السكاني لغزّة منذ عشر سنوات، وبيانات سكّانيّة موزّعة، ومعلومات حول تحرّكات السكان المدنيين، والوجود العسكري الإسرائيلي في غزّة، وعدد الهجمات تراكميا، لكل جزء من الأجزاء الـ620 المكوّنة لقطاع غزة. كما تضمّنت البيانات معلومات شخصيّة: ألقاب [شهرة] أكبر العائلات الموجودة في كل جزء.
وتقول الوثيقة إن “هيومن رايتس ووتش” لم تتمكّن من تأكيد أصل هذه المعلومات المنشورة على الانترنت واستخدامها، إلا أنها تشبه البيانات الموصوفة في التقارير الإعلاميّة المتعلقة بنظام مراقبة الإجلاء، وكذلك بالتخطيط للعمليّات العسكريّة.
كيف يعمل “لافندر”؟
أما نظام “لافندر”، فوظيفته وضع تصنيفات للأشخاص في قطاع غزة بحسب الاشتباه في انتمائهم إلى قوى المقاومة الفلسطينيّة المسلّحة بهدف وضعهم ضمن الأهداف العسكريّة.
وتذكر الوثيقة أن “لافندر” تستخدم أنظمة التعلّم الآلي لتعطي سكان غزة درجة عدديّة تتعلق باحتمال انتماء شخص منهم إلى جماعة مسلّحة، مشيرة إلى مسؤولين في جيش الاحتلال هم الذين يضعون الحدّ الأدنى الذي يُمكن بعده تصنيف الشخص كهدف قابل للهجوم.
وأشارت المنظمة إلى وصف مدير الذكاء الاصطناعي وعلوم البيانات في “الوحدة 8200″، قسم استخبارات الإشارة في الجيش، بأنه أداة رقميّة تستخدم التعلّم الآلي “للعثور على إرهابيين جدد”، حسب تعبيره، مبينا أن النظام استُخدم لأوّل مرة في غزة عام 2021، من أجل تجميع بيانات المراقبة لتصنيف الأشخاص بناءً على احتمال ارتباطهم بجماعة مسلّحة.
وتعتقد وثيقة “هيومن رايتس ووتش” أن الأداة الموصوفة هي “لافندر” إذ تتطابق مع عرض تقديمي نظم في فبراير/ شباط 2023 لكتاب من إعداد ضابطين إسرائيليين قداما فيه تفاصيل تقنيّة مهمة، مبينة أن “لافندر” تعمد على نوع من التعلّم الآلي شبه الخاضع للإشراف يُسمى “التعلّم الإيجابي غير المصنّف”، الذي يُدرّب خوارزميّة من قاعدة بيانات تحتوي في الآن نفسه على بيانات مُصنفة (إيجابية) وغير مصنفة (سلبيّة).
وتوضح الوثيقة التقنية القانونية أن هذا النوع من التعلّم الآلي يستخدم صفات تتعلق بالبيانات المصنفة لمحاولة تحديد الأنماط في قاعدة بيانات أكبر. وفي هذه الحالة، تبحث الخوارزميّة عن خصائص في بيانات المراقبة وغيرها من البيانات حول الأفراد الذين يشتبه جيش الاحتلال في انتمائهم إلى قوى المقاومة، ثم تستخدم نفس الخصائص لتحديد المزيد من الأشخاص المشتبه بهم من عامة السكان.
وتشدد هيومن رايتس ووتش على أن “العديد من نقاط البيانات لن تكون مؤكّدة إذا تمّ تطبيق هذه التقنية على عدد كبير من السكّان، لذا فإنّ هذه العمليّة تعتمد إلى حدّ كبير على التخمين غير المبرهن”.
وبشأن العوامل التي يحدد لافندر على أساسها “درجة الاشتباه”، تقول الوثيقة إنه دون الوصول إلى النظام من المستحيل معرفة نقاط البيانات التي تستخدمها الأداة لزيادة “درجة الاشتباه” في شخص ما، لكنها تقول إن كتاب رئيس الوحدة 8200 يوسي سرييل، الصادر سنة 2021، حول الاستخدامات العسكريّة للذكاء الاصطناعي بعض المعلومات الإضافية، يقدم “آلة استهداف” بخصائص مشابهة جدا لـ “لافندر” حيث يُمكن استخدامها لتحديد الأهداف المحتملة من خلال جمع وتحليل علاقاتهم الاجتماعيّة، تماما مثل منصّات التواصل الاجتماعي.
وتلفت الوثيقة إلى أن الصفات التي ذكرها سرييل تساهم في جعل شخص على درجة أعلى من الاشتباه تشمل اتصالاته أو ارتباطاته الاجتماعيّة، أو انتمائه إلى مجموعة دردشة مع شخص يعتقد الجيش الإسرائيلي بالفعل أنه مرتبط بجماعة مسلّحة، أو حتى لمجرّد تغيير الهواتف أو العناوين بشكل متكرّر.
عيوب خطيرة
وتشدد الوثيقة على أن تقييمات لافندر فيها عيوب خطيرة إذ تعتمد على افتراضات معيارية تم تطويرها بواسطة خوارزميّة تستند إلى بيانات يُرجّح أن تكون متحيّزة وغير مكتملة، ويستحيل التدقيق فيها من الناحية التقنيّة.
وتبين أن لافندر يجمع البيانات حول سلوك واتصالات أعداد كبيرة من الأفراد لوضع درجة اشتباه فيهم، باستخدام أدوات الشرطة التنبؤية، التي تفترض مشاركة السكان عامّة في الأعمال العسكرية، “وفي سياق الحرب، يعني هذا خلق افتراضات حول كونهم أهدافا عسكريّة خاضعة لهجوم قانوني، بينما تفترض قوانين الحرب اعتبارهم مدنيين”.
أداة “غوسبيل”
تعد أداة “غوسبيل” (الإنجيل) خوارزميّة لمعالجة بيانات المراقبة بقصد إعداد قوائم للأهداف. استنادا إلى تقارير إعلاميّة، ووظيفتها إعداد قائمات بالمباني أو الأهداف الهيكليّة الأخرى التي يجب مهاجمتها.
ووفقا لوثيقة هيومن رايتس ووتتش التقنية والقانونية، تُحدّد “غوسبيل” أربع فئات من الأهداف غير البشريّة: الأهداف العسكريّة، بما في ذلك الأهداف تحت الأرض مثل الأنفاق، ومنازل عائلات المقاتلين المشتبه بهم، و”أهداف القوة” وهي الهياكل المدنيّة التي تتعرّض للهجوم مع هدف معلن، وفقا لمحللي استخبارات حاليين وسابقين بغرض “خلق صدمة” من شأنها “دفع المدنيين للضغط على “حماس”.
ولا تتوافر معلومات عن كيفية عمل “غوسبيل” مقارنة بلافندر، وفقاً للوثيقة التي ترجح أنها تستخدم أيضا التعلّم الإيجابي غير المصنف للوصول إلى استخلاصاتها، قائلة إن “غوسبيل أداة تُستخدم لتحديد ما هي الهياكل التي تُعتبر أعيانا مدنيّة وأهدافا عسكريّة، وهي عمليّة تمييز مطلوبة من المهاجمين بموجب قوانين الحرب”.
أداة “أين أبي؟”
تقول وثيقة المنظمة الحقوقية الدولية، إن أداة “أين أبي؟” تستخدم تتبع مواقع الهواتف الخلوية لإخطار عملاء جيش الاحتلال الإسرائيلي عندما يدخل الأشخاص الذين تمّ تحديدهم كأهداف عسكريّة إلى موقع محدّد – غالبا منزل عائلي، حيث يُمكن مهاجمتهم.
وتفيد “هيومن رايتس ووتش” بأن جيش الاحتلال الإسرائيلي أكد لها استخدامه الأداة لهذا الغرض، دون أن يقدم أي تفاصيل تقنية أخرى.
وتشدد الوثيقة على أن بيانات مواقع الهواتف الخلوية ليست دقيقة بما يكفي لإثبات أنّ شخصا معيّنا موجود في مكان ما في وقت محدّد، وقد تؤدّي إلى أخطاء قاتلة إذا استُخدمت لتوفير معلومات لشنّ هجمات عسكريّة، مشيرة إلى أن الهاتف الخلوي ليس وسيلة موثوقة لتحديد موقع هدف بشري، وخاصة في مناطق النزاع، حيث ربما يغيّر الأشخاص أرقامهم أو أجهزتهم أثناء الطوارئ، وقد يتغيّر الوصول إلى الشبكات والأجهزة بشكل متكرر ومفاجئ.
وتبين أنه حتى أكثر الطرق شيوعا لتتبع مواقع الهواتف الخلوية من خلال تحديد موقع الهاتف الخلوي، أو نظام المواقع العالمي (GPS) لا تتمتّع بالدقة الكافية لتحديد موقع الهواتف الخلوية لشنّ هجمات عسكرية دقيقة، وهو ما تقتضيه قوانين الحرب.
صندوق أسود
وتصف وثيقة “هيومن رايتس” الأنظمة الخوارزمية التي تعتمد على البيانات الضخمة والتعلّم الآلي والذكاء الاصطناعي، بأنها صندوق أسود، فبحكم تصميمها فهي محدودة بعدة افتراضات والميل إلى إعادة انتاج تحيّزات المجتمع، ولا تسمح بالتدقيق أو إظهار عملها أو عمليّات صنع القرار حول كيفيّة إعداد المخرجات، وتفتقر إلى التوثيق لدعم توزيع المسؤوليّة على الأطراف الفاعلة ذات الصلة.
وتشدد على أهمية أن تسمح الأدوات الرقميّة للمستخدمين بفحص عمل الأنظمة، لمعرفة كيف يتمّ تحديد المخرجات وباستخدام أيّ بيانات، “وهذا مهمّ بشكل خاص في حالة الأسلحة أو أشكال تحديد الأهداف التي تستخدم الذكاء الاصطناعي”.
وتوضح الوثيقة الرقمية القانونية أن تحيز الأتمتة، يحدث عندما يضع الناس ثقة مفرطة في مخرجات الأدوات الرقميّة، ويرجع ذلك في جزء منه إلى تصوّر أنها أكثر حيادا من البشر، وهو ما أثبته العديد من الدراسات.
وتنبه الوثيقة إلى أن جميع الأنظمة الرقميّة القائمة على الخوارزميات تعتمد على معطيات افتراضات تستند إليها الحسابات، “ورغم التعليمات ومعايير الضبط الخاصة بالأنظمة التي تعمل بالتعلّم الآلي والذكاء الاصطناعي يضعها المطوّرون، فإنّ هذه الافتراضات لا يكتبها المبرمجون صراحة، بل تُطوّرها خوارزميات تستند إلى بيانات التدريب الأوليّة”، مؤكدة أن مالكي هذه التكنولوجيا ومطوّريها ومستخدميها هم الذين يتحمّلون المسؤوليّة عن كيفيّة استخدامها، حيث تثير مخاوف كبيرة في السياقات العسكريّة.
وتشير وثيقة “هيومن رايتس ووتش” إلى أنّ مخرجات الأنظمة الخوارزميّة تعكس تحيّزات مبرمجيها والمجتمع، ويرفع هذا الخطر عند تطوير واستخدام أدوات رقميّة توفر معلومات لاتخاذ قرارات بشأن ما إذا كان يُمكن مهاجمة الأشخاص أو الأعيان الأخرى كأهداف عسكريّة.
مخاطر وتحديّات تفرضها الأدوات الرقميّة
وفي الحالة الفلسطينية تؤكد الوثيقة أن الأدوات الرقمية العسكرية الإسرائيلية خلقت مخاطر وتحديات جديدة من خلال اعتمادها على المراقبة التطفليّة، والتجريد الرقمي من الإنسانيّة، والاعتماد المفرط لجيش الاحتلال على تلك الأدوات يزيد من وتيرة الحرب.
وتبين أن سلطات الاحتلال حافظت كقوّة احتلال على سيطرة كبيرة على جوانب حياة الفلسطينيين في غزّة والضفة، وحصلت على بيانات وخزّنتها ووظفتها بطرق تنتهك الحق المكفول دوليا في الخصوصيّة وحقوق الإنسان الأخرى، مشيرة إلى أن الأنظمة المؤتمتة تجرد البشر من إنسانيتهم عندما تختزلهم في سلسلة من نقاط البيانات، تتم معالجتها بأنظمة تنطوي بطبيعتها على تحيّز وقيود بناءً على الطريقة التي بُرمجت بها.
تشير الوثيقة إلى القرار الأممي الذي اعتمده مجلس حقوق الإنسان الأممي في أكتوبر/تشرين الأول 2022، والذي أكّد على الأهميّة المحوريّة للقرار البشري عند استخدام القوّة، محذراً من أن الاعتماد على مجموعات البيانات غير التمثيليّة، والبرمجة القائمة على الخوارزميات، وعمليّات التعلّم الآلي، “تتسبب في إعادة إنتاج ومفاقمة أنماط التمييز، والتهميش، والتفاوت الاجتماعي، والصور النمطيّة، والتحيّز القائمة – مع نتائج لا يمكن التنبؤ بها”.
وتضيف الوثيقة أن الأدوات الرقميّة لدى جيش الاحتلال الإسرائيلي تطرح مشاكل مماثلة لأنظمة الأسلحة ذاتيّة التشغيل، فهي تعمل بطرق يصعب أو يستحيل التحقق منها أو تحديد مصدرها كما هو الحال في خوارزميات التعلم الآلي التي تستخدمها لافندر وغوسبيل.
وتشدد وثيقة “هيومن رايتس ووتش” الرقمية القانونية على أن استخدام الأدوات الرقميّة في العمليات العسكريّة يجب أن تخضع للقيود المنصوص عليها في القانون الدولي الإنساني، مشيرة إلى تأكيد اللجنة الدوليّة للصليب الأحمر بأن “كل تكنولوجيا حربيّة جديدة يجب أن تُستخدم بما يتوافق مع قواعد القانون الدولي الإنساني القائمة”.
وتشدد الوثيقة إن لافند وغوسيل وغيرها من الأدوات الرقمية العسكرية التي تستخدمها سلطات الاحتلال تُثير مشاكل كبيرة وقاتلة عندما تتجاوز قاعدتان عامتان موجودتان في قانون المعاهدات الدولية والقانون العرفي، وهما: التمييز بين الأهداف العسكريّة والمدنيين والأعيان المدنيّة، واتخاذ جميع الاحتياطات الممكنة لتقليص الخسائر العرضيّة في أرواح المدنيين والضرر اللاحق بالأعيان المدنيّة.
“}]]