عدد كبير من إعلانات الفيديو المزيفة لسوناك على فيسبوك يثير القلق بشأن مخاطر الذكاء الاصطناعي على الانتخابات | التزييف العميق
تم الدفع لأكثر من 100 إعلان فيديو مزيف ينتحل شخصية ريشي سوناك للترويج لها على فيسبوك في الشهر الماضي وحده، وفقًا لبحث أثار ناقوس الخطر بشأن المخاطر التي يشكلها الذكاء الاصطناعي قبل الانتخابات العامة.
وربما وصلت الإعلانات إلى ما يصل إلى 400 ألف شخص – على الرغم من أنها تبدو وكأنها تنتهك العديد من سياسات فيسبوك – وهي المرة الأولى التي يتم فيها التلاعب بصورة رئيس الوزراء بطريقة منهجية بشكل جماعي.
تم إنفاق أكثر من 12.929 جنيهًا إسترلينيًا على 143 إعلانًا، من 23 دولة بما في ذلك الولايات المتحدة وتركيا وماليزيا والفلبين.
وتشمل هذه اللقطات مقطع فيديو مزيفًا لمذيعة الأخبار في بي بي سي، سارة كامبل، وهي تقرأ أخبارًا عاجلة تزعم كذبًا أن فضيحة اندلعت حول حصول سوناك سرًا على “مبالغ هائلة من مشروع كان مخصصًا في البداية للمواطنين العاديين”.
إنه يحمل ادعاءً غير صحيح بأن إيلون ماسك أطلق تطبيقًا قادرًا على “جمع” معاملات سوق الأوراق المالية ويتبعه مقطع مزيف لسوناك يقول فيه إن الحكومة قررت اختبار التطبيق بدلاً من المخاطرة بأموال الناس العاديين.
تؤدي المقاطع بعد ذلك إلى صفحة أخبار بي بي سي المزيفة التي تروج لاستثمار احتيالي.
تم إجراء البحث من قبل فينيمور هاربر، وهي شركة اتصالات أنشأها ماركوس بيرد، المسؤول السابق في داونينج ستريت الذي ترأس فريق الاستجابة رقم 10 لمواجهة نظريات المؤامرة خلال أزمة كوفيد.
وحذر من أن الإعلانات، التي تمثل تحولا في نوعية المنتجات المزيفة، أظهرت أن الانتخابات هذا العام كانت معرضة لخطر التلاعب من خلال كمية كبيرة من الأكاذيب عالية الجودة التي يولدها الذكاء الاصطناعي.
“مع ظهور استنساخ الصوت والوجه الرخيص وسهل الاستخدام، لا يتطلب الأمر سوى القليل من المعرفة والخبرة لاستخدام صورة الشخص لأغراض ضارة.”
“لسوء الحظ، تتفاقم هذه المشكلة بسبب سياسات الإشراف المتراخية على الإعلانات المدفوعة. تتعارض هذه الإعلانات مع العديد من سياسات Facebook الإعلانية. ومع ذلك، يبدو أن عددًا قليلاً جدًا من الإعلانات التي واجهناها قد تمت إزالتها.
وقد تم الاتصال بشركة Meta، التي تمتلك موقع Facebook، للتعليق.
وقال متحدث باسم حكومة المملكة المتحدة: “نحن نعمل على نطاق واسع عبر الحكومة لضمان استعدادنا للرد بسرعة على أي تهديدات لعملياتنا الديمقراطية، من خلال فريق العمل المدافع عن الديمقراطية والفرق الحكومية المخصصة.
“يذهب قانون السلامة عبر الإنترنت الخاص بنا إلى أبعد من ذلك من خلال وضع متطلبات جديدة على منصات التواصل الاجتماعي لإزالة المعلومات الخاطئة والمعلومات المضللة غير القانونية بسرعة – بما في ذلك الأماكن التي يتم إنشاؤها بواسطة الذكاء الاصطناعي – بمجرد علمهم بها.”
وقال متحدث باسم بي بي سي: “في عالم يتسم بتزايد المعلومات المضللة، نحث الجميع على التأكد من حصولهم على أخبارهم من مصدر موثوق به. أطلقنا BBC Verify في عام 2023 للتصدي للتهديد المتزايد للمعلومات المضللة – الاستثمار في فريق متخصص للغاية مع مجموعة من الاستخبارات الجنائية والمفتوحة المصدر (OSINT) للتحقيق في مقاطع الفيديو والتحقق من صحتها والتحقق منها ومكافحة المعلومات المضللة وتحليل البيانات وشرح القصص المعقدة.
“نحن نبني الثقة مع الجماهير من خلال إظهار كيف يعرف صحفيو بي بي سي المعلومات التي ينقلونها، وتقديم شرح حول كيفية اكتشاف المحتوى المزيف والمزيف. وعندما ندرك وجود محتوى مزيف لهيئة الإذاعة البريطانية (بي بي سي)، فإننا نتخذ إجراءً سريعًا”.
ويشعر المنظمون بالقلق من نفاد الوقت لسن تغييرات شاملة لضمان مواكبة النظام الانتخابي في بريطانيا للتقدم في الذكاء الاصطناعي قبل الانتخابات العامة المقبلة، والتي من المتوقع إجراؤها في نوفمبر.
تجري الحكومة مناقشات مع الجهات التنظيمية، بما في ذلك اللجنة الانتخابية، التي تقول إن المتطلبات الجديدة بموجب التشريع اعتبارًا من عام 2022 لكي تتضمن مواد الحملات الرقمية “بصمة” لأنها ستقطع شوطًا طويلًا لضمان قدرة الناخبين على معرفة من دفع مقابل الإعلان أو من يحاول ذلك. للتأثير عليهم.
