كيف تستخدم إسرائيل أنظمة التعرف على الوجه في غزة وخارجها | التعرف على الوجه

الشيء الوحيد الذي يبرز في تقريرك هو أنه لا يوجد نظام واحد للتعرف على الوجه فحسب، بل هناك العديد من التطبيقات والأدوات المختلفة. ما هي الطرق التي تجمع بها السلطات الإسرائيلية بيانات الوجه؟

هناك عدد كبير من أدوات التعرف على الوجه التي جربتها دولة إسرائيل في الأراضي الفلسطينية المحتلة خلال الجزء الأكبر من العقد الماضي. نحن نبحث عن أدوات بأسماء Red Wolf وBlue Wolf وWolf Pack. وهي أنظمة تم اختبارها في الضفة الغربية، وفي الخليل بشكل خاص. كل هذه الأنظمة هي أدوات فعالة للتعرف على الوجه.

في الخليل، لفترة طويلة، كان هناك اعتماد على ما يعرف باسم نظام وولف باك – قاعدة بيانات للمعلومات المتعلقة بالفلسطينيين فقط. حيث يقومون فعليًا باحتجاز الشخص المحتجز أمام كاميرا CCTV، ومن ثم تقوم غرفة العمليات بسحب المعلومات من نظام Wolf Pack. هذا نظام قديم يتطلب هذا الارتباط بين غرفة العمليات والجندي على الأرض، وقد تم تحديثه منذ ذلك الحين.

كانت إحدى الترقيات الأولى التي رأيناها هي نظام Blue Wolf، والذي نشرت عنه إليزابيث دوسكين لأول مرة في صحيفة واشنطن بوست في عام 2021. وهذا النظام هو في الواقع محاولة لجمع أكبر عدد ممكن من وجوه الفلسطينيين، بطريقة أقرب إلى لعبة. والفكرة هي أن النظام سيتعرف في نهاية المطاف على وجوه الفلسطينيين، ولن يكون على الجنود سوى استخدام تطبيق Blue Wolf، ووضعه أمام وجه شخص ما، وسيقوم بسحب جميع المعلومات الموجودة لديهم.

لقد ذكرت أن هناك لعبة في هذا النظام. كيف تعمل الحوافز للجنود لجمع أكبر قدر ممكن من البيانات البيومترية؟

توجد لوحة صدارة على تطبيق Blue Wolf، والتي تتعقب بشكل فعال الوحدات العسكرية التي تستخدم الأداة وتلتقط وجوه الفلسطينيين. يمنحك نتيجة أسبوعية بناءً على أكبر عدد من الصور الملتقطة. سيتم منح الوحدات العسكرية التي تلتقط معظم وجوه الفلسطينيين أسبوعيًا مكافآت مثل إجازة مدفوعة الأجر.

لذا فإنك دائمًا ما تضع نفسك في موقف عدم معاملة الفلسطينيين كبشر أفراد يتمتعون بالكرامة الإنسانية. أنت تعمل وفق منطق الألعاب، حيث ستفعل كل ما في وسعك لرسم خريطة لأكبر عدد ممكن من الوجوه الفلسطينية.

وقلت أن هناك أنظمة أخرى أيضًا؟

وكان آخر ما رأيناه في الخليل هو الإدخال الإضافي لنظام Red Wolf، والذي تم نشره عند نقاط التفتيش والواجهات مع الأنظمة الأخرى. الطريقة التي يتم بها الأمر هي أن الأفراد الذين يمرون عبر نقاط التفتيش يتم احتجازهم داخل الباب الدوار، وتقوم الكاميرات بمسح وجوههم ويتم عرض الصورة على الشاشة. سيتم إعطاء الجندي الذي يقوم بتشغيله مؤشرًا ضوئيًا – أخضر، أصفر، أحمر. أما إذا كانت حمراء فلا يستطيع الفرد الفلسطيني العبور.

يعتمد النظام فقط على صور الفلسطينيين، ولا أستطيع أن أؤكد بما فيه الكفاية أن نقاط التفتيش هذه مخصصة للسكان الفلسطينيين فقط. إن اضطرارهم إلى استخدام نقاط التفتيش هذه في المقام الأول حتى يتمكنوا من الوصول إلى الحقوق الأساسية للغاية، ويخضعون الآن لهذه القيود التعسفية عن طريق الخوارزمية، أمر مثير للإشكالية العميقة.

ما كان مخيفًا بشكل خاص بشأن النظام هو سماع قصص الأفراد الذين لم يتمكنوا حتى من العودة إلى مجتمعاتهم نتيجة لعدم التعرف عليهم بواسطة الخوارزمية. كما سمعت جنودًا يتحدثون عن حقيقة أنهم الآن يشكون في ما إذا كان ينبغي عليهم السماح لشخص يعرفونه جيدًا بالمرور عبر نقطة تفتيش، لأن الكمبيوتر كان يطلب منهم عدم القيام بذلك. لقد وجدوا أن لديهم ميلًا متزايدًا إلى التفكير في الفلسطينيين كأرقام لها أضواء خضراء أو صفراء أو حمراء مرتبطة بها على شاشة الكمبيوتر.

تعمل أنظمة التعرف على الوجه هذه بطريقة مبهمة للغاية، وغالبًا ما يكون من الصعب معرفة سبب إصدارها لأحكام معينة. كنت أتساءل كيف يؤثر ذلك على الطريقة التي تتخذ بها السلطات الإسرائيلية التي تستخدمها قراراتها.

تشير جميع الأبحاث التي أجريناها حتى الآن حول التفاعل بين الإنسان والحاسوب إلى أن الناس أكثر ميلا إلى إرجاء الوكالة إلى مؤشر خوارزمي في الظروف الملحة بشكل خاص. ما رأيناه في الشهادات التي قمنا بمراجعتها هو أن الجنود يذعنون مرارًا وتكرارًا للنظام وليس لحكمهم الخاص. ويعود ذلك ببساطة إلى الخوف من أن نكون مخطئين بشأن أفراد معينين. وماذا لو كان حكمهم غير صحيح، بغض النظر عن احتمال معرفتهم بالشخص الذي أمامهم؟ ماذا لو كان الكمبيوتر يعرف أكثر مما يعرفونه؟

حتى لو كنت تعلم أن هذه الأنظمة غير دقيقة بشكل لا يصدق، فإن حقيقة أن مصدر رزقك قد يعتمد على اتباع وصفة خوارزمية صارمة يعني أنه من المرجح أن تتبعها. وله نتائج إشكالية للغاية ويعني أن هناك فراغا فيما يتعلق بالمساءلة.

ماذا قالت الحكومة أو الجيش الإسرائيلي علناً عن استخدام هذه التقنيات؟

إن الاعتراف العلني الوحيد الذي قدمته وزارة الدفاع الإسرائيلية – فيما يتعلق بأنظمة Red Wolf وBlue Wolf وWolf Pack – هو ببساطة القول بأنه يتعين عليهم بالطبع اتخاذ تدابير لضمان الأمن. ويقولون إن بعض هذه التدابير تشمل حلولاً تقنية مبتكرة، لكنهم لا يملكون الحرية في مناقشة الخصوصيات. هذا نوع من الرسائل التي تأتي مرارًا وتكرارًا كلما تعرضوا لتقرير يتولى على وجه التحديد تكليف أنظمتهم بارتكاب انتهاكات لحقوق الإنسان.

والأمر المثير للاهتمام أيضًا هو الطريقة التي تفاخرت بها شركات التكنولوجيا، جنبًا إلى جنب مع أجزاء مختلفة من وزارة الدفاع، ببراعتها التكنولوجية عندما يتعلق الأمر بأنظمة الذكاء الاصطناعي. لا أعتقد أنه سر أن السلطات الإسرائيلية تعتمد على جرعة كبيرة من العلاقات العامة التي تروج لقدراتها العسكرية في مجال الذكاء الاصطناعي باعتبارها متطورة للغاية، في حين أنها لا تقدم تفاصيل دقيقة حول كيفية عمل هذه الأنظمة بالضبط.

كانت هناك تصريحات سابقة من الحكومة الإسرائيلية، وأفكر على وجه التحديد في بيان حول استخدام الأسلحة ذاتية التشغيل، التي تقول إن هذه أدوات متطورة يمكن أن تكون في الواقع مفيدة لحقوق الإنسان. أنها يمكن أن تزيل احتمال الضرر أو الحوادث. ما هو موقفكم من تلك الحجة؟

إذا كان هناك أي شيء رأيناه مرارًا وتكرارًا كيف تنتهي أنظمة الأسلحة شبه المستقلة إلى تجريد الناس من إنسانيتهم ​​​​وتؤدي إلى الوفيات التي توصف لاحقًا بأنها “مؤسفة”. ليس لديهم سيطرة ذات معنى ويقومون فعليًا بتحويل الأشخاص إلى أرقام تم تحليلها بواسطة خوارزمية، بدلاً من الحكم الأخلاقي والأخلاقي والقانوني الذي يصدره الفرد. وله هذا النوع من العواقب المتمثلة في القول: “حسنًا، تحديد ما يمكن اعتباره هدفًا عسكريًا ليس من اختصاصنا. الأمر متروك للخوارزمية.”

منذ صدور تقريرك، ذكرت صحيفة نيويورك تايمز أنه تم تطوير ونشر تقنية مماثلة للتعرف على الوجه لمراقبة الفلسطينيين في غزة. ما الذي رأيته فيما يتعلق بتوسع هذه التكنولوجيا؟

نحن نعلم أنه تم استخدام أنظمة التعرف على الوجه للزوار القادمين من غزة وخارجها، ولكن بعد تقرير صحيفة نيويورك تايمز، هذه هي المرة الأولى التي نسمع فيها أنها تستخدم بهذه الطريقة – خاصة ضد الفلسطينيين في غزة. الذين يهربون من الشمال إلى الجنوب. ما تمكنت من ملاحظته يعتمد إلى حد كبير على معلومات استخباراتية مفتوحة المصدر، ولكن ما نراه هو لقطات تظهر ما يشبه الكاميرات المثبتة على حوامل ثلاثية القوائم الموجودة خارج نقاط التفتيش المؤقتة. يتحرك الناس ببطء من الشمال إلى الجنوب عبر نقاط التفتيش هذه، ثم يتم سحب الناس من بين الحشود واحتجازهم على أساس ما نشتبه في أنه أداة للتعرف على الوجه.

تكمن المشكلة في أنه يتم بالفعل نقل الأشخاص بشكل فوضوي من النقطة A إلى النقطة B تحت رعاية نقلهم إلى مزيد من الأمان، فقط ليتم إبطاؤهم ومطالبتهم بإجراء فحص بيومتري فعال قبل السماح لهم بذلك. نسمع أيضًا عن أفراد تم اعتقالهم وضربهم واستجوابهم بعد تحديد هويتهم بيومترية، ولكن ثبت لاحقًا أن ذلك كان خطأً.

إن مبررات الحكومة الإسرائيلية لاستخدامها نقاط التفتيش والاعتقالات هي أنها مبنية على مخاوف تتعلق بالأمن القومي. عندما يتعلق الأمر بالتعرف على الوجه، كيف يمكن أن تصمد هذه الحجة من منظور حقوق الإنسان؟

حقوقك ليست أقل قابلية للتطبيق أو النشاط لمجرد وجود تهديد للأمن القومي. ومع ذلك، هناك اختبار من ثلاثة أجزاء يمكنك نشره عندما يتعلق الأمر بمعرفة الظروف الفريدة التي قد تنتهك فيها دولة ما حقوقًا معينة من أجل دعم حقوق أخرى. ويحاول هذا الاختبار المكون من ثلاثة أجزاء تقييم مدى ضرورة وتناسب وشرعية تدخل معين.

وفي منظمة العفو الدولية، وبموجب القانون الدولي لحقوق الإنسان، لا نعتقد أن هناك ضرورة أو تناسباً أو شرعية. لا تتوافق تقنية التعرف على الوجه هذه مع الحق في الخصوصية أو الحق في عدم التمييز أو الحق في التجمع السلمي أو حرية التنقل. تتعرض جميع هذه الحقوق للخطر الشديد في ظل نظام يعتبر، بحكم تصميمه، نظامًا فعليًا للمراقبة الجماعية، وبالتالي فهو غير قانوني.

لقد تحدثت عن الافتقار إلى المساءلة والدقة في استخدام هذه الأدوات. إذا كانت الحكومة الإسرائيلية تعلم أن هذه المعلومات غير دقيقة، فلماذا تستمر في استخدامها؟

أعتقد أن غسل الذكاء الاصطناعي يمثل جزءًا مهمًا من كيفية موقف الحكومات من أنها تفعل شيئًا حيال مشكلة تريد أن تبدو وكأنها تتخذ إجراءات استباقية بشأنها. لقد كان من الواضح منذ عام 2010 أن الحكومات في جميع أنحاء العالم اعتمدت على الحلول التقنية. الآن، منذ ظهور الذكاء الاصطناعي التوليدي على وجه الخصوص، هناك فكرة مفادها أن الذكاء الاصطناعي سوف يحل بعضًا من أكثر القضايا الاجتماعية والاقتصادية والسياسية تعقيدًا.

أعتقد أن كل ما يفعله هو إعفاء الدول من المسؤوليات التي تتحملها تجاه مواطنيها – الالتزامات التي يتحملونها بموجب القانون الدولي لدعم حقوق أولئك الذين يخضعون لسلطتهم من خلال القول بشكل أساسي “النظام سوف يعتني بالأمر”. أو “كان النظام على خطأ”. فهو يخلق هذه الأسس الأنيقة للدول لتكون قادرة على الظهور وكأنها تفعل شيئًا ما، دون أن تخضع للمساءلة عما تفعله بالفعل. هناك نظام تقني يتوسط بين المساءلة والمسؤولية.