أخطأ التعرف على الوجه في Rite Aid في تعريف الأشخاص السود واللاتينيين والآسيويين على أنهم سارقون “محتملون” | التعرف على الوجه

استخدمت Rite Aid أنظمة التعرف على الوجه لتحديد المتسوقين الذين كان يُعتقد في السابق أنهم “من المحتمل أن يشاركوا” في سرقة المتاجر دون موافقة العميل وأخطأوا في التعرف على الأشخاص – وخاصة النساء والسود أو اللاتينيين أو الآسيويين – في مناسبات “عديدة”، وفقًا لتسوية جديدة مع منظمة Rite Aid. لجنة التجارة الفيدرالية. وكجزء من التسوية، مُنعت شركة Rite Aid من نشر تقنية التعرف على الوجه في متاجرها لمدة خمس سنوات.

وقالت لجنة التجارة الفيدرالية في شكوى أمام المحكمة الفيدرالية إن Rite Aid استخدمت تقنية التعرف على الوجه في مئات المتاجر في الفترة من أكتوبر 2012 إلى يوليو 2020 لتحديد المتسوقين “التي اعتبرت سابقًا أنه من المحتمل أن يشاركوا في سرقة المتاجر أو أي سلوك إجرامي آخر”. أرسلت التكنولوجيا تنبيهات إلى موظفي Rite Aid إما عن طريق البريد الإلكتروني أو الهاتف عندما حددت الأشخاص الذين يدخلون المتجر في قائمة المراقبة الخاصة بها.

وقالت لجنة التجارة الفيدرالية في شكواها إن موظفي المتجر سيضعون هؤلاء الأشخاص تحت مراقبة متزايدة، ويمنعونهم من الشراء أو يتهمونهم أمام الأصدقاء والعائلة والعملاء الآخرين بارتكاب جرائم في السابق. تم استخدام نظام التعرف على الوجه إلى حد كبير في مدينة نيويورك؛ لوس أنجلوس؛ سان فرانسيسكو؛ فيلادلفيا؛ بالتيمور؛ ديترويت؛ أتلانتيك سيتي؛ سياتل؛ بورتلاند، أوريغون؛ ويلمنجتون في ديلاوير وساكرامنتو في كاليفورنيا، وفقا للتسوية.

وقالت الوكالة الحكومية إن التسوية تتناول اتهامات بأن سلسلة الصيدليات المتعثرة لم تفعل ما يكفي لمنع الإضرار بعملائها وتنفيذ “إجراءات معقولة”. وقالت شركة Rite Aid في وقت متأخر من يوم الثلاثاء إنها لا توافق على هذه المزاعم، لكنها سعيدة لأنها توصلت إلى اتفاق لحل المشكلة.

كجزء من عقدها مع اثنين من البائعين الخاصين غير المذكورين، قامت Rite Aid بإنشاء أو توجيه الشركات لإنشاء قاعدة بيانات “للأشخاص محل الاهتمام” والتي تتضمن صورًا للأشخاص ومعلومات تعريف شخصية أخرى. وكانت تلك الصور في كثير من الأحيان منخفضة الجودة وتم التقاطها من خلال كاميرات CCTV التابعة لشركة Rite Aid، أو كاميرات التعرف على الوجه أو على الهواتف المحمولة للموظفين، وفقًا للتسوية.

تم تدريب العاملين في مجال الأمن على “الضغط من أجل أكبر عدد ممكن من عمليات التسجيل” و”سجلت الشركة ما لا يقل عن عشرات الآلاف من الأفراد في قاعدة بياناتها”، وفقًا لوثائق لجنة التجارة الفيدرالية.

وقالت الشكوى الفيدرالية أيضًا إن هناك “العديد من الحالات” حيث حددت التكنولوجيا بشكل غير صحيح شخصًا دخل المتجر وفشلت Rite Aid في اختبار دقتها قبل استخدامها. على سبيل المثال، لم تسأل شركة Rite Aid أحد الموردين الخاصين اللذين عملت معهم عما إذا كانت تقنيتها قد تم اختبارها للتأكد من دقتها، وفقًا للتسوية. في الواقع، ينص البائع صراحةً في عقده على أنه “لا يقدم أي تعهدات أو ضمانات فيما يتعلق بدقة وموثوقية” نظام التعرف على الوجه الخاص به.

وقالت لجنة التجارة الفيدرالية أيضًا إن الشركة “فشلت في اتخاذ خطوات معقولة لتدريب الموظفين المكلفين بتشغيل التكنولوجيا في متاجر Rite Aid والإشراف عليهم”.

قالت مجموعة الحرية المدنية والحقوق الرقمية، مركز معلومات الخصوصية الإلكترونية (Epic)، إن التعرف على الوجه يمكن أن يكون ضارًا في أي سياق، لكن Rite Aid فشلت في اتخاذ حتى الاحتياطات الأساسية. قال جون دافيسون، مدير التقاضي في Epic: “كانت النتيجة متوقعة للأسف: الآلاف من عمليات تحديد الهوية الخاطئة التي أثرت بشكل غير متناسب على العملاء من ذوي البشرة السوداء والآسيويين واللاتينيين، والتي أدى بعضها إلى عمليات بحث مهينة وطرد من المتاجر”.

وتقول Rite Aid إن الادعاءات تركز على برنامج تجريبي استخدمته في عدد محدود من المتاجر وتوقفت عن استخدام هذه التكنولوجيا منذ أكثر من ثلاث سنوات.

وقالت الشركة في بيان نشر على موقعها على الإنترنت: “نحن نحترم تحقيق لجنة التجارة الفيدرالية ونتوافق مع مهمة الوكالة لحماية خصوصية المستهلك”. “ومع ذلك، فإننا نختلف بشكل أساسي مع مزاعم التعرف على الوجه في شكوى الوكالة.”

أظهرت الدراسات أن أنظمة التعرف على الوجه تخطئ بشكل روتيني في التعرف على الأشخاص ذوي البشرة السوداء والبنية. في السنوات القليلة الماضية في الولايات المتحدة، كانت هناك ست حالات معروفة لاعتقال أشخاص سود زورا بسبب تقنية التعرف على الوجه.

وقال دافيسون: “هذه قضية رائدة، وخطوة كبيرة نحو الخصوصية والحقوق المدنية، ونأمل أن تكون مجرد بداية لهذا الاتجاه”. “ولكن من المهم أن نلاحظ أن Rite Aid ليست وحدها. تستخدم الشركات بشكل روتيني خوارزميات غير مثبتة وأدوات مراقبة لفحص المستهلكين، وغالبًا ما يكون ذلك سرًا. إن لجنة التجارة الفيدرالية محقة في اتخاذ إجراءات صارمة ضد هذه الممارسات، ومن الحكمة أن تأخذ الشركات علمًا بذلك. إن الخروج على القانون الخوارزمي لم يعد خيارًا بعد الآن.

أشارت Rite Aid أيضًا في بيان مُعد إلى أن أي اتفاق يجب أن تتم الموافقة عليه في محكمة الإفلاس الأمريكية. أعلنت الشركة في الخريف الماضي أنها ستغلق أكثر من 150 متجرًا وهي تشق طريقها من خلال عملية الإفلاس الطوعية بموجب الفصل 11. عانت الشركة ماليًا لسنوات وتواجه أيضًا مخاطر مالية من الدعاوى القضائية المتعلقة بالوصفات الطبية للمواد الأفيونية مثل منافسيها الأكبر، CVS وWalgreens.