يقول التقرير إن محتوى الاعتداء الجنسي على الأطفال يتزايد عبر الإنترنت باستخدام الصور المصنوعة بواسطة الذكاء الاصطناعي | تكنولوجيا

يتزايد الاستغلال الجنسي للأطفال عبر الإنترنت ويتخذ أشكالا جديدة مثل الصور ومقاطع الفيديو التي يتم إنشاؤها بواسطة الذكاء الاصطناعي، وفقا لتقييم سنوي صدر يوم الثلاثاء عن المركز الوطني للأطفال المفقودين والمستغلين (NCMEC)، وهو مركز تبادل معلومات مقره الولايات المتحدة للأطفال. الإبلاغ عن مواد الاعتداء الجنسي على الأطفال.

وقالت المنظمة في تقريرها السنوي CyberTipline إن التقارير المقدمة إلى NCMEC حول إساءة معاملة الأطفال عبر الإنترنت ارتفعت بأكثر من 12% في عام 2023 مقارنة بالعام السابق، متجاوزة 36.2 مليون تقرير. كانت غالبية النصائح الواردة تتعلق بتداول مواد الاعتداء الجنسي على الأطفال (CSAM) مثل الصور ومقاطع الفيديو، ولكن كانت هناك أيضًا زيادة في التقارير المتعلقة بالابتزاز الجنسي المالي، عندما يقوم أحد المحتالين عبر الإنترنت بإغراء طفل بإرسال صور أو مقاطع فيديو عارية ومن ثم يطلب المال.

تم ابتزاز بعض الأطفال والأسر لتحقيق مكاسب مالية من قبل الحيوانات المفترسة باستخدام CSAM المصنوعة بالذكاء الاصطناعي، وفقًا لـ NCMEC.

وقال متحدث باسم المركز إن المركز تلقى 4700 بلاغ عن صور أو مقاطع فيديو للاستغلال الجنسي للأطفال بواسطة الذكاء الاصطناعي التوليدي، وهي فئة بدأ تتبعها فقط في عام 2023.

“يشعر NCMEC بقلق عميق بشأن هذا الاتجاه المتنامي بسرعة، حيث يمكن للجهات الفاعلة السيئة استخدام الذكاء الاصطناعي لإنشاء صور أو مقاطع فيديو جنسية صريحة مزيفة استنادًا إلى أي صورة لطفل حقيقي أو إنشاء مواد الاعتداء الجنسي على الأطفال التي تصور أطفالًا تم إنشاؤها بواسطة الكمبيوتر يشاركون في أعمال جنسية مصورة”. يقول تقرير NCMEC.

“بالنسبة للأطفال الذين شوهدوا في عمليات التزييف العميق وعائلاتهم، فإن الأمر مدمر”.

وفقًا للمنظمة، فإن محتوى إساءة معاملة الأطفال الناتج عن الذكاء الاصطناعي يعيق أيضًا التعرف على الضحايا الحقيقيين من الأطفال.

إن إنشاء مثل هذه المواد أمر غير قانوني في الولايات المتحدة، حيث أن تصوير أي صور مرئية لقاصرين يمارسون سلوكًا جنسيًا صريحًا يعد جريمة فيدرالية، وفقًا لما ذكره المدعي العام في وزارة العدل في ماساتشوستس، والذي تحدث بشرط عدم الكشف عن هويته.

في المجمل، في عام 2023، تلقى CyberTipline أكثر من 35.9 مليون تقرير يشير إلى حوادث مشتبه بها لـ CSAM، تم تحميل أكثر من 90٪ منها خارج الولايات المتحدة. وتمت إحالة ما يقرب من 1.1 مليون بلاغ إلى الشرطة في الولايات المتحدة، وكان 63892 بلاغًا عاجلاً أو يتعلق بطفل في خطر وشيك، وفقًا لتقرير يوم الثلاثاء.

كان هناك 186 ألف تقرير يتعلق بالإغراء عبر الإنترنت، بزيادة 300% عن عام 2022؛ الإغراء هو شكل من أشكال الاستغلال يشمل فردًا يتواصل عبر الإنترنت مع شخص يعتقد أنه طفل بقصد ارتكاب جريمة جنسية أو اختطاف.

المنصة التي قدمت أكبر عدد من النصائح الإلكترونية كانت فيسبوك، بـ 17,838,422. وقدم موقع Meta’s Instagram 11,430,007 بلاغًا، كما قدمت خدمة المراسلة WhatsApp 1,389,618 بلاغًا. أرسلت Google إلى NCMEC 1,470,958 نصيحة، وأرسل Snapchat 713,055، وأرسل TikTok 590,376، وأبلغ Twitter عن 597,087.

في المجمل، قدمت 245 شركة تقارير CyberTipline إلى NCMEC من بين 1600 شركة حول العالم سجلت مشاركتها في برنامج تقارير CyberTip. إن موفري خدمات الإنترنت في الولايات المتحدة، مثل منصات التواصل الاجتماعي، مكلفون قانونًا بالإبلاغ عن حالات الاعتداء الجنسي على الأطفال إلى CyberTipline عندما يصبحون على علم بها.

وفقا لـ NCMEC، هناك انفصال بين حجم التقارير وجودة التقارير المقدمة. لا يمكن للمركز وسلطات إنفاذ القانون اتخاذ إجراءات قانونية ردًا على بعض التقارير، بما في ذلك تلك المقدمة بواسطة خوارزميات الإشراف على المحتوى، دون تدخل بشري. يمكن لهذه التقنية أن تمنع الشرطة من رؤية التقارير المتعلقة بإساءة معاملة الأطفال المحتملة.

وجاء في تقرير NCMEC أن “العدد المنخفض نسبيًا من الشركات التي تقدم التقارير والجودة الرديئة للعديد من التقارير يشير إلى استمرار الحاجة إلى اتخاذ إجراءات من جانب الكونجرس ومجتمع التكنولوجيا العالمي”.