عائلة تخوض معركة ضد العراة العميقة في واشنطن | التزييف العميق
في أكتوبر من العام الماضي، عادت فرانسيسا ماني إلى المنزل من المدرسة في ضواحي نيوجيرسي حاملة أخبارًا مدمرة لوالدتها دوروتا.
وفي وقت سابق من اليوم، تم استدعاء الفتاة البالغة من العمر 14 عامًا إلى مكتب نائب المدير وتم إخطارها بأنها ومجموعة من الفتيات في مدرسة ويستفيلد الثانوية وقعن ضحايا لإساءة المعاملة من قبل زميلة طالبة.
وتم تداول صور عارية مزيفة لها ولآخرين في جميع أنحاء المدرسة. لقد تم إنشاؤها بواسطة الذكاء الاصطناعي.
كانت دوروتا على دراية تامة بقوة هذه التكنولوجيا الجديدة نسبيًا، لكن السهولة التي تم بها إنشاء الصور أذهلتها.
وتذكرت قائلة: “لم أكن أعرف مدى السرعة التي يمكن أن يحدث بها ذلك، من خلال صورة واحدة فقط”. “يمكن أن يحدث ذلك لأي شخص، لأي شخص، بنقرة زر واحدة.”
وفقًا للدعوى القضائية الفيدرالية المرفوعة مؤخرًا، تم إنشاء الصور الفاضحة في Westfield High عبر استخدام تطبيق يسمى ClothOff، والذي يعمل تحت طبقة عميقة من السرية.
لكن تحقيقًا استمر ستة أشهر، وهو جزء من سلسلة البودكاست التي تنشرها صحيفة The Guardian والتي تسمى Black Box، كشف عن أسماء العديد من الأشخاص المرتبطين بالتطبيق، الذي يستقبل ملايين الزيارات الشهرية، ويتتبع أصوله إلى بيلاروسيا وروسيا.
ومع تراجع الصدمة بعد ظهر ذلك اليوم من شهر أكتوبر، مسحت فرانشيسكا ماني دموعها وقررت أنها ستتخذ إجراءً بالإعلان عن الأمر. كانت الأم وابنتها غير راضيتين عن رد مجلس إدارة المدرسة، وخابتا أملهما لأنه من غير المرجح أن يتم تحميل الجناة المزعومين المسؤولية الجنائية بسبب عدم وجود قوانين.
قالت فرانشيسكا لأمها: “أحتاج إلى القيام بشيء ما”. “هذا ليس جيدًا ولن أكون ضحية.”
وقام الرجلان منذ ذلك الحين بعدد من الرحلات إلى واشنطن، بما في ذلك خطاب حالة الاتحاد الأسبوع الماضي. لقد ظهروا معًا في قنوات الأخبار واستشهد بهم المشرعون في كل من نيوجيرسي والعاصمة كمحفزين لتشريعات جديدة لمحاسبة منشئي المحتوى التزييف العميق غير التوافقي والصريح جنسيًا قانونيًا في الولايات المتحدة.
كشفت القضية في ويستفيلد، وغيرها من القضايا المشابهة، عن ثغرات متزايدة في القوانين الفيدرالية وقوانين الولايات التي يتفق المشرعون على جانبي الممر السياسي على أنها لا تفعل ما يكفي لحماية الناس، وخاصة القاصرين، من الانتشار السريع للتزييف العميق الصريح للذكاء الاصطناعي.
وقالت يوتا سوراس، كبيرة المستشارين القانونيين في المركز الوطني للأطفال المفقودين والمستغلين: “هناك خطر فريد يحيط بهذه التطبيقات”. [NCMEC]. “لأن حجم الضحايا الذي يمكنهم خلقه في وقت قصير جدًا هائل”.
تعمل NCMEC بشكل مباشر مع عائلة ماني أثناء محاولتها معرفة ما إذا كانت أي من الصور التي تم إنشاؤها في Westfield High قد تم تداولها بشكل أكبر عبر الإنترنت.
وتلقى آباء الضحايا تأكيدات من مسؤولي المدرسة بأن الصور المزيفة العميقة قد تم حذفها، لكن المدرسة لم تعلن علنًا عن عدد الطلاب المتأثرين.
وقالت منطقة مدرسة ويستفيلد العامة إنها بدأت تحقيقًا في الحادث بمجرد علمها وقدمت المشورة “للطلاب الذين يبحثون عن الدعم”.
قال المشرف الدكتور ريموند غونزاليس: “تتصارع جميع المناطق التعليمية مع تحديات وتأثير الذكاء الاصطناعي والتكنولوجيا الأخرى المتاحة للطلاب في أي وقت وفي أي مكان”، مضيفًا أن المنطقة تواصل تعزيز الجهود لمنع وقوع حوادث مستقبلية من خلال “تثقيف الطلاب”. طلابنا ووضع مبادئ توجيهية واضحة لضمان استخدام هذه التقنيات الجديدة بشكل مسؤول في مدارسنا وخارجها.
أنكرت شركة ClothOff استخدام منصتها في قضية نيوجيرسي، واقترحت أنه ربما كان تطبيقًا منافسًا ولكنها لم تقدم أي دليل لإثبات هذا الادعاء.
بعد وقت قصير من التحدث علنًا، تمت دعوة الأم وابنتها إلى واشنطن للاحتفال بتقديم مشروع قانون في الكونجرس، قانون منع التزييف العميق للصور الحميمة.
يسعى التشريع إلى حظر الكشف غير التوافقي عن الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي من خلال جعل مشاركتها جريمة جنائية، بالإضافة إلى منح الضحايا حقوق اتخاذ إجراءات مدنية في المحكمة الفيدرالية.
ستزور دوروتا مبنى الكابيتول مرة أخرى هذا الأسبوع لحضور جلسة استماع للجنة الفرعية حول “معالجة الضرر الحقيقي من خلال التزييف العميق”، في حين يسعى مشروع قانون آخر، قدمه عضو الكونجرس الجمهوري توم كين جونيور، الذي يمثل منطقة العائلة، إلى إنشاء قواعد تصنيف لمحتوى الذكاء الاصطناعي لتسهيل التمييز.
وقالت فرانشيسكا لدى الكشف عن التشريع في واشنطن: “لمجرد أنني مراهقة لا يعني أن صوتي ليس قوياً”. “البقاء صامتا؟ ليس خيارا.”
يتمتع كل من مشروعي القوانين ونظيرهما في مجلس الشيوخ بدعم من الحزبين، ولكن مع تركيز مجلس النواب على القضايا الحزبية، بما في ذلك تحقيقات عزل الرئيس جو بايدن، تدرك دوروتا ماني أن وضع القوانين على المستوى الفيدرالي لا يزال في بداياته.
“هل أنا محبط؟ قالت: “لا. لأن هذه هي حكومتنا – لقد عملت دائمًا بهذه الطريقة”. “لهذا السبب أنا لست سياسيا. ولهذا السبب فهذه هي حملتي الأولى والأخيرة.
ومع ذلك، قامت خمس ولايات أمريكية على الأقل بسن قوانين للحد من استخدام التزييف العميق الصريح، مع تقديم حوالي 20 ولاية تشريعات، وفقًا لقاعدة بيانات يحتفظ بها NCMEC.
وفي نيوجيرسي، حصل مشروع قانون تم تقديمه في أعقاب الحادثة التي وقعت في مدرسة ويستفيلد الثانوية على موافقة لجنة في مجلس الشيوخ يوم الجمعة الماضي بدعم من الحزبين.
ماني، مهاجر بولندي جاء إلى الولايات المتحدة للالتحاق بالجامعة في التسعينيات، وهو رجل أعمال ثري أسس أكاديمية محلية لمرحلة ما قبل المدرسة ويدير شركة للتصميم الداخلي. وتتحدث أيضًا بصراحة عن الكيفية التي ساعد بها الامتياز المالي حملتها، والتي نالت إعجاب الحزبين في الكونجرس.
وقال متحدث باسم عضو الكونجرس في نيويورك، جو موريل، الذي قدم قانون منع التزييف العميق للصور الحميمة، إن الأم وابنتها “أخذتا الصدمة وحولتاها إلى دعوة شرسة لضمان عدم معاناة المزيد من النساء من الألم الذي عانت منه فرانشيسكا”. خلال”.
وأضاف المتحدث أن التقارير الأخيرة التي نشرتها صحيفة الغارديان والتي كشفت عن بعض الأفراد المرتبطين بتطبيق ClothOff “تؤكد سبب ضرورة فرض عقوبات جنائية ومدنية لمحاسبة الأشخاص على هذا السلوك الدنيء”.
“يجب علينا إنشاء رادعات قوية لمنع الناس من إنشاء مقاطع مزيفة عميقة وبالتأكيد من الاستفادة منها.”
لكن الحادثة التي وقعت في نيوجيرسي لم تكن معزولة في الولايات المتحدة. في الأسبوع الماضي، طردت مدرسة إعدادية في بيفرلي هيلز خمسة طلاب قاموا بإيذاء 16 طالبًا في الصف الثامن من خلال إنشاء صور صريحة مزيفة عميقة تم إنشاؤها بواسطة الذكاء الاصطناعي. ولم يعلق المتحدث باسم مجلس إدارة المدرسة على التطبيق المحدد الذي تم استخدامه لإنشاء الصور.
وقال الدكتور مايكل بريجي، المشرف على منطقة المدارس الموحدة في بيفرلي هيلز: “أصبحت هذه التكنولوجيا الناشئة في متناول الأفراد من جميع الأعمار بشكل متزايد”.
“إننا نشعر بالفزع إزاء أي سوء استخدام للذكاء الاصطناعي، ويجب علينا حماية أفراد المجتمع الأكثر ضعفاً، وهم أطفالنا.”
في ديسمبر من العام الماضي، تم إيقاف طالبين من أكاديمية Pinecrest Cove عن العمل بعد أن قاما بإنشاء صور عارية للعديد من زملاء الدراسة باستخدام تطبيق لم تذكر الشرطة المحلية اسمه.
وفي إساكوا بواشنطن، قامت الشرطة بالتحقيق مع طالب يبلغ من العمر 14 عامًا لأنه أنشأ صورًا عارية للعديد من زميلاته باستخدام صور التقطها في أحداث مدرسية، ثم شاركها لاحقًا عبر سناب شات، وفقًا لتقرير الشرطة الذي استعرضته صحيفة الغارديان. الذي لا يذكر اسم التطبيق قيد الاستخدام.
وقالت ماني إنها سمعت من آباء وأمهات في العديد من الأماكن في جميع أنحاء البلاد، بما في ذلك المناطق التي لم يتم ذكرها في وسائل الإعلام.
وقالت: “كثير من الناس لا يشعرون بالارتياح في إعلان ما حدث علناً”. “لأنهم، كما هو الحال في مدرستي، يسمعون باستمرار أنه لا يمكن فعل أي شيء.”
وعندما سُئلت عن رسالتها إلى أولئك الذين يقفون وراء التطبيق الذي يُقال إنه يستخدم لاستهداف ابنتها وزملائها في الفصل، أجابت ماني مباشرة: “عار عليهم. إنهم يكسبون المال فقط.”
لكنها تحولت على الفور إلى الخطوة التالية في حملتها، لاستهداف منصات مثل أبل وجوجل وأمازون والمؤسسات المالية مثل باي بال، وأميكس، وفيزا التي قالت إنها سمحت في النهاية لهذه التكنولوجيا بالازدهار.
“وإلا فإن الأمر يشبه مطاردة الأشباح.”
