يستخدم المسؤولون في المملكة المتحدة الذكاء الاصطناعي لاتخاذ قرار بشأن القضايا بدءًا من المزايا وحتى تراخيص الزواج | الذكاء الاصطناعي (AI)

يستخدم المسؤولون الحكوميون الذكاء الاصطناعي (AI) والخوارزميات المعقدة للمساعدة في تحديد كل شيء بدءًا من من يحصل على المزايا وحتى من يجب أن تتم الموافقة على رخصة زواجه، وفقًا لتحقيق أجرته صحيفة الغارديان.

تسلط النتائج الضوء على الطريقة العشوائية وغير المنضبطة في كثير من الأحيان التي يتم بها استخدام التكنولوجيا المتطورة في جميع أنحاء وايتهول.

ويظهر التحقيق أن موظفي الخدمة المدنية في ما لا يقل عن ثمانية إدارات في وايتهول وحفنة من قوات الشرطة يستخدمون الذكاء الاصطناعي في مجموعة من المجالات، ولكن بشكل خاص عندما يتعلق الأمر بمساعدتهم على اتخاذ القرارات بشأن الرعاية الاجتماعية والهجرة والعدالة الجنائية.

كشفت صحيفة الغارديان عن أدلة تشير إلى أن بعض الأدوات المستخدمة لديها القدرة على إحداث نتائج تمييزية، مثل:

خوارزمية تستخدمها وزارة العمل والمعاشات التقاعدية (DWP) والتي يعتقد أحد أعضاء البرلمان أنها أدت عن طريق الخطأ إلى إزالة مزاياهم من عشرات الأشخاص.

تم اكتشاف أن أداة التعرف على الوجه التي تستخدمها شرطة العاصمة ترتكب أخطاء في التعرف على الوجوه السوداء أكثر من الوجوه البيضاء في إعدادات معينة.

خوارزمية تستخدمها وزارة الداخلية للإبلاغ عن الزيجات الصورية التي تختار أشخاصًا من جنسيات معينة بشكل غير متناسب.

عادةً ما يتم “تدريب” الذكاء الاصطناعي على مجموعة كبيرة من البيانات ثم يقوم بتحليل تلك البيانات بطرق لا يفهمها تمامًا حتى أولئك الذين طوروا الأدوات في بعض الأحيان.

ويحذر الخبراء من أنه إذا أظهرت البيانات أدلة على التمييز، فمن المرجح أن تؤدي أداة الذكاء الاصطناعي إلى نتائج تمييزية أيضًا.

تحدث ريشي سوناك مؤخرًا بعبارات متوهجة حول كيف يمكن للذكاء الاصطناعي أن يحول الخدمات العامة، “من توفير مئات الساعات من الوقت الذي يقضيه المعلمون في التخطيط للدروس إلى مساعدة مرضى هيئة الخدمات الصحية الوطنية في الحصول على تشخيصات أسرع واختبارات أكثر دقة”.

لكن استخدامه في القطاع العام كان مثيراً للجدل في السابق، كما هو الحال في هولندا، حيث استخدمته السلطات الضريبية لرصد الاحتيال المحتمل في مزايا رعاية الأطفال، ولكن تم تغريمها 3.7 مليون يورو بعد اتخاذ قرارات خاطئة بشكل متكرر وإغراق عشرات الآلاف من الأسر في براثن الفقر. فقر.

يشعر الخبراء بالقلق من تكرار تلك الفضيحة في المملكة المتحدة، محذرين من أن المسؤولين البريطانيين يستخدمون خوارزميات غير مفهومة لاتخاذ قرارات تغير حياتهم دون حتى معرفة الأشخاص المتأثرين بهذه القرارات. يشعر الكثيرون بالقلق إزاء إلغاء المجلس الاستشاري الحكومي المستقل في وقت سابق من هذا العام والذي جعل هيئات القطاع العام مسؤولة عن كيفية استخدامها للذكاء الاصطناعي.

وقال شميم أحمد، الرئيس التنفيذي لمشروع القانون العام: “يأتي الذكاء الاصطناعي مزودًا بإمكانات هائلة لتحقيق الصالح الاجتماعي. على سبيل المثال، يمكننا أن نجعل الأمور أكثر كفاءة. ولكن لا يمكننا أن نتجاهل المخاطر الجسيمة.

“بدون اتخاذ إجراءات عاجلة، قد نصل إلى وضع يتم فيه استخدام الأنظمة الآلية الغامضة بشكل منتظم، وربما بشكل غير قانوني، بطرق تغير الحياة، وحيث لن يتمكن الناس من طلب التعويض عندما تسوء تلك العمليات.”

وقال ماريون أوزوالد، أستاذ القانون في جامعة نورثمبريا والعضو السابق في المجلس الاستشاري الحكومي لأخلاقيات البيانات: “هناك نقص في الاتساق والشفافية في الطريقة التي يتم بها استخدام الذكاء الاصطناعي في القطاع العام. ستؤثر الكثير من هذه الأدوات على العديد من الأشخاص في حياتهم اليومية، على سبيل المثال أولئك الذين يطالبون بالمزايا، لكن الناس لا يفهمون سبب استخدامها ولا تتاح لهم الفرصة لتحديها.

وسيجمع سوناك رؤساء الدول الأسبوع المقبل في بلتشلي بارك لحضور قمة دولية حول سلامة الذكاء الاصطناعي. وستركز القمة، التي يأمل داونينج ستريت أن تحدد شروط تطوير الذكاء الاصطناعي في جميع أنحاء العالم لسنوات قادمة، بشكل خاص على التهديد المحتمل الذي تشكله النماذج الخوارزمية المتقدمة على البشرية جمعاء.

ولكن لسنوات عديدة، كان موظفو الخدمة المدنية يعتمدون على أدوات خوارزمية أقل تطورا للمساعدة في اتخاذ مجموعة من القرارات المتعلقة بحياة الناس اليومية.

وفي بعض الحالات، تكون الأدوات بسيطة وشفافة، مثل بوابات جواز السفر الإلكترونية أو كاميرات التعرف على لوحة الأرقام، وكلاهما يستخدم برنامج التعرف البصري المدعوم بالذكاء الاصطناعي.

ومع ذلك، في حالات أخرى، يكون البرنامج أكثر قوة وأقل وضوحًا بالنسبة لأولئك المتأثرين به.

أطلق مكتب مجلس الوزراء مؤخرًا “معيار الإبلاغ عن الشفافية الخوارزمية”، والذي يشجع الإدارات وسلطات الشرطة على الكشف طوعًا عن المكان الذي يستخدمون فيه الذكاء الاصطناعي للمساعدة في اتخاذ القرارات التي يمكن أن يكون لها تأثير مادي على عامة الناس.

قامت ست منظمات بإدراج المشاريع ضمن معيار الشفافية الجديد.

قامت صحيفة الغارديان بفحص تلك المشاريع، بالإضافة إلى قاعدة بيانات منفصلة قام بتجميعها مشروع القانون العام. أصدرت صحيفة الغارديان بعد ذلك طلبات حرية المعلومات إلى كل إدارة حكومية وهيئة شرطة في المملكة المتحدة لبناء صورة أكمل عن المكان الذي يتخذ فيه الذكاء الاصطناعي حاليًا القرارات التي تؤثر على حياة الناس.

تظهر النتائج أن ما لا يقل عن ثمانية إدارات في وايتهول تستخدم الذكاء الاصطناعي بطريقة أو بأخرى، وبعضها أكثر بكثير من غيرها.

استخدمت هيئة الخدمات الصحية الوطنية الذكاء الاصطناعي في عدد من السياقات، بما في ذلك خلال جائحة كوفيد، عندما استخدمه المسؤولون للمساعدة في تحديد المرضى المعرضين للخطر والذين يجب نصحهم بالحماية.

وقالت وزارة الداخلية إنها استخدمت الذكاء الاصطناعي للبوابات الإلكترونية لقراءة جوازات السفر في المطارات، للمساعدة في تقديم طلبات جواز السفر وفي “أداة فرز الزواج الوهمي” التابعة للوزارة، والتي تشير إلى حالات الزواج المزيفة المحتملة لإجراء مزيد من التحقيق.

ويظهر تقييم داخلي لوزارة الداخلية اطلعت عليه صحيفة الغارديان أن الأداة تنبه الأشخاص من ألبانيا واليونان ورومانيا وبلغاريا بشكل غير متناسب.

في الوقت نفسه، لدى برنامج عمل الدوحة “خدمة متكاملة للمخاطر والاستخبارات”، والتي تستخدم خوارزمية للمساعدة في اكتشاف الاحتيال والخطأ بين المطالبين بالمزايا. تعتقد النائبة العمالية كيت أوسامور أن استخدام هذه الخوارزمية ربما ساهم في تعليق فوائد العشرات من البلغار فجأة في السنوات الأخيرة بعد أن تم الإبلاغ عنهم زوراً على أنهم يقدمون مطالبات احتيالية محتملة.

يصر DWP على أن الخوارزمية لا تأخذ الجنسية في الاعتبار. وأضاف متحدث باسم الحكومة: “نحن نتخذ إجراءات صارمة ضد أولئك الذين يحاولون استغلال النظام والسرقة بلا خجل ممن هم في أمس الحاجة إليها بينما نواصل سعينا لتوفير 1.3 مليار جنيه إسترليني لدافعي الضرائب في العام المقبل”.

ولم يقدم برنامج عمل الدوحة ولا وزارة الداخلية تفاصيل حول كيفية عمل العمليات الآلية، لكن كلاهما قالا إن العمليات التي يستخدمانها عادلة لأن القرارات النهائية يتخذها الأشخاص. ومع ذلك، يشعر العديد من الخبراء بالقلق من أن الخوارزميات المتحيزة ستؤدي إلى قرارات نهائية متحيزة، لأن المسؤولين لا يمكنهم سوى مراجعة الحالات التي تم الإبلاغ عنها لهم، وغالباً ما يكون لديهم وقت محدود للقيام بذلك.