مُنع مرتكبي الجرائم الجنسية من استخدام أدوات الذكاء الاصطناعي في قضية تاريخية في المملكة المتحدة | الذكاء الاصطناعي (AI)

تم منع أحد مرتكبي الجرائم الجنسية المدانين بصنع أكثر من 1000 صورة غير لائقة للأطفال من استخدام أي “أدوات إنشاء الذكاء الاصطناعي” للسنوات الخمس المقبلة في أول قضية معروفة من نوعها.

أمرت محكمة بريطانية أنتوني دوفر، 48 عامًا، “بعدم استخدام أو زيارة أو الوصول” إلى أدوات توليد الذكاء الاصطناعي دون الحصول على إذن مسبق من الشرطة كشرط لأمر منع الضرر الجنسي الذي فُرض في فبراير/شباط.

ويمنعه الحظر من استخدام أدوات مثل مولدات تحويل النص إلى صورة، والتي يمكنها إنشاء صور نابضة بالحياة بناءً على أمر مكتوب، ومواقع “التعرية” المستخدمة لإنشاء “تزييفات عميقة” صريحة.

كما أُمر دوفر، الذي حُكم عليه بأمر مجتمعي وغرامة قدرها 200 جنيه إسترليني، صراحةً بعدم استخدام برنامج Stable Diffusion، والذي ورد أنه تم استغلاله من قبل المتحرشين بالأطفال لإنشاء مواد اعتداء جنسي على الأطفال واقعية للغاية، وفقًا لسجلات جلسة النطق بالحكم في محكمة بول الجزئية.

هذه القضية هي الأحدث في سلسلة من الملاحقات القضائية التي برز فيها جيل الذكاء الاصطناعي كقضية، وتأتي بعد أشهر من التحذيرات من المؤسسات الخيرية بشأن انتشار صور الاعتداء الجنسي التي يولدها الذكاء الاصطناعي.

في الأسبوع الماضي، أعلنت الحكومة عن إنشاء جريمة جديدة تجعل من غير القانوني إنشاء مقاطع جنسية صريحة عميقة للأشخاص الذين تزيد أعمارهم عن 18 عامًا دون موافقة. ويواجه المدانون المحاكمة وغرامة غير محدودة. وإذا تمت مشاركة الصورة على نطاق أوسع، فقد يتم إرسال الجناة إلى السجن.

كان إنشاء وحيازة ومشاركة مواد الاعتداء الجنسي على الأطفال بشكل مصطنع أمرًا غير قانوني بالفعل بموجب القوانين المعمول بها منذ التسعينيات، والتي تحظر الصور الحقيقية و”الزائفة” لمن تقل أعمارهم عن 18 عامًا. وفي السنوات السابقة، تم استخدام القانون لمقاضاة الأشخاص بسبب جرائم تنطوي على صور واقعية مثل تلك التي تم التقاطها باستخدام برنامج Photoshop.

تشير الحالات الأخيرة إلى أنه يتم استخدامه بشكل متزايد للتعامل مع التهديد الذي يشكله المحتوى الاصطناعي المتطور. في إحدى المحاكمات في إنجلترا، تم إطلاق سراح المدعى عليه الذي أقر بالذنب بتهمة التقاط وتوزيع “صور زائفة” غير لائقة لأشخاص تقل أعمارهم عن 18 عامًا بشروط تشمل عدم الوصول إلى منصة يابانية لمشاركة الصور حيث يُزعم أنه باعها. ووزعت صور إساءة مصطنعة، وفقًا لسجلات المحكمة.

وفي قضية أخرى، أدين شاب يبلغ من العمر 17 عاماً من دينبيشير، شمال شرق ويلز، في فبراير/شباط بتهمة التقاط مئات “الصور الزائفة” غير المحتشمة، بما في ذلك 93 صورة و42 مقطع فيديو من الفئة “أ” الأكثر تطرفاً. وقد مثل ما لا يقل عن ستة آخرين أمام المحكمة بتهمة حيازة أو صنع أو مشاركة صور زائفة – والتي تغطي الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي – في العام الماضي.

وقالت مؤسسة مراقبة الإنترنت (IWF) إن الملاحقات القضائية كانت لحظة “تاريخية” “يجب أن تدق ناقوس الخطر من أن المجرمين الذين ينتجون صور الاعتداء الجنسي على الأطفال التي أنشأها الذكاء الاصطناعي هم مثل مصانع الرجل الواحد، القادرة على إنتاج بعض الصور الأكثر فظاعة”. .

وقالت سوزي هارجريفز، الرئيسة التنفيذية للمؤسسة الخيرية، إنه في حين أن صور الاعتداء الجنسي التي أنشأها الذكاء الاصطناعي تشكل حاليًا نسبة “منخفضة نسبيًا” من التقارير، إلا أنهم يشهدون “زيادة بطيئة ولكن مستمرة” في الحالات، وأن بعض المواد كانت ” واقعية للغاية”. وقالت: “نأمل أن ترسل الملاحقات القضائية رسالة صارمة لأولئك الذين يصنعون ويوزعون هذا المحتوى بأنه غير قانوني”.

ليس من الواضح بالضبط عدد الحالات التي تنطوي على صور تم إنشاؤها بواسطة الذكاء الاصطناعي، لأنها لا يتم حسابها بشكل منفصل في البيانات الرسمية، وقد يكون من الصعب التمييز بين الصور المزيفة والصور الحقيقية.

في العام الماضي، قام فريق من IWF بالتخفي في منتدى إساءة معاملة الأطفال على شبكة الإنترنت المظلمة ووجدوا 2562 صورة مصطنعة كانت واقعية للغاية بحيث سيتم التعامل معها بموجب القانون كما لو كانت حقيقية.

قالت مؤسسة لوسي فيثفول (LFF)، التي تدير خط المساعدة السري Stop It Now للأشخاص القلقين بشأن أفكارهم أو سلوكهم، إنها تلقت مكالمات متعددة حول صور الذكاء الاصطناعي، وإن هذا “اتجاه مثير للقلق ينمو بوتيرة سريعة”.

كما أنها تشعر بالقلق إزاء استخدام أدوات “التعرية” المستخدمة لإنشاء صور مزيفة بعمق. وفي إحدى الحالات، قال والد صبي يبلغ من العمر 12 عامًا إنه وجد ابنه يستخدم تطبيق الذكاء الاصطناعي لالتقاط صور عاريات لأصدقائه.

وفي حالة أخرى، قالت إحدى المتصلات بخط مساعدة الأطفال التابع لـ NSPCC إن “شخصًا غريبًا عبر الإنترنت” قام بتصويرها “عارية مزيفة”. “يبدو الأمر حقيقيًا جدًا، إنه وجهي وغرفتي في الخلفية. وقال الشاب البالغ من العمر 15 عاماً: “لا بد أنهم التقطوا الصور من حسابي على إنستغرام وقاموا بتحريرها”.

وقالت المؤسسات الخيرية إنه بالإضافة إلى استهداف المخالفين، يتعين على شركات التكنولوجيا منع مولدات الصور من إنتاج هذا المحتوى في المقام الأول. وقالت ديبورا دينيس، الرئيسة التنفيذية للاتحاد اللبناني لكرة القدم: “هذه ليست مشكلة الغد”.

إن قرار منع مرتكبي الجرائم الجنسية البالغين من استخدام أدوات توليد الذكاء الاصطناعي يمكن أن يشكل سابقة للمراقبة المستقبلية للأشخاص المدانين بجرائم الصور غير اللائقة.

واجه مرتكبو الجرائم الجنسية منذ فترة طويلة قيودًا على استخدام الإنترنت، مثل منعهم من التصفح في وضع “التصفح المتخفي”، أو الوصول إلى تطبيقات المراسلة المشفرة أو حذف سجل الإنترنت الخاص بهم. لكن لا توجد حالات معروفة تم فيها فرض قيود على استخدام أدوات الذكاء الاصطناعي.

وفي حالة دوفر، ليس من الواضح ما إذا كان الحظر قد فُرض لأن مخالفاته تضمنت محتوى تم إنشاؤه بواسطة الذكاء الاصطناعي، أو بسبب مخاوف بشأن ارتكاب مخالفات في المستقبل. وكثيراً ما يطلب المدعون العامون مثل هذه الشروط بناءً على معلومات استخباراتية لدى الشرطة. وبموجب القانون، يجب أن تكون محددة ومتناسبة مع التهديد المطروح، و”ضرورية لغرض حماية الجمهور”.

وقال متحدث باسم النيابة العامة: “عندما نرى أن هناك خطرًا مستمرًا على سلامة الأطفال، سنطلب من المحكمة فرض شروط، قد تتضمن حظر استخدام تكنولوجيا معينة”.

قالت شركة Stability AI، الشركة التي تقف وراء Stable Diffusion، إن المخاوف بشأن مواد إساءة معاملة الأطفال تتعلق بإصدار سابق من البرنامج، والذي تم إصداره للجمهور من قبل أحد شركائها. وقالت إنها منذ حصولها على الترخيص الحصري في عام 2022، استثمرت في ميزات لمنع سوء الاستخدام بما في ذلك “المرشحات لاعتراض المطالبات والمخرجات غير الآمنة” وأنها حظرت أي استخدام لخدماتها في نشاط غير قانوني.