“الوقت ينفد”: هل يمكن تجنب مستقبل التزييف العميق غير القابل للاكتشاف؟ | التزييف العميق

دبليومع أكثر من 4000 مشاركة، و20000 تعليق، و100000 تفاعل على فيسبوك، انتشرت صورة المرأة المسنة، وهي تجلس خلف كعكة عيد ميلادها الـ122 محلية الصنع، بسرعة كبيرة. يقول التعليق: “لقد بدأت بتزيين الكعك عندما كنت في الخامسة من عمري، ولا أستطيع الانتظار حتى أطور رحلتي في الخبز”.

الصورة مزيفة أيضًا بلا شك. إذا كانت الشموع الغريبة – التي يبدو أن إحداها تطفو في الهواء، وغير متصلة بأي شيء – أو النقط غير المتبلورة الغريبة على الكعكة في المقدمة لم تكشف عنها، فإن حقيقة أن المحتفل سيكون أكبر شخص سنًا في العالم بما يقرب من خمس سنوات ينبغي.

ولحسن الحظ، فإن المخاطر التي تواجه مصممي الكعك المعمرين الفيروسيين منخفضة. وهذا أمر جيد، نظرًا لأن الذكاء الاصطناعي التوليدي يصبح أفضل وأفضل، فإن أيام البحث عن علامات كاشفة لاكتشاف المنتجات المزيفة قد انتهت تقريبًا. وهذا أدى إلى سباق مع الزمن: هل يمكننا إيجاد طرق أخرى لاكتشاف المنتجات المزيفة، قبل أن يصبح من الصعب تمييزها عن الواقع؟

وقال مايك سبيرز، من كلية استشارات الذكاء الاصطناعي، حيث يقود عمل الشركة في مجال مكافحة المعلومات المضللة: “لم يعد أمامنا الوقت الكافي حتى نتمكن من القيام بالكشف اليدوي”. “تتطور النماذج بسرعة وإيقاع لا يصدق من وجهة نظر فنية ومثير للقلق للغاية.

“هناك جميع أنواع التقنيات اليدوية لاكتشاف الصور المزيفة، بدءًا من الكلمات التي بها أخطاء إملائية، وحتى البشرة الناعمة أو المتجعدة بشكل غير متناسب. الأيدي كلاسيكية، ومن ثم العيون هي أيضًا علامة جيدة جدًا. لكن حتى اليوم، يستغرق الأمر وقتًا طويلاً: إنه ليس شيئًا يمكنك توسيع نطاقه حقًا. والوقت ينفد – والنماذج تتحسن أكثر فأكثر

منذ عام 2021، أصدر منشئ الصور التابع لشركة OpenAI، Dall-E، ثلاثة إصدارات، كل منها أكثر قدرة بشكل جذري من سابقتها. أصدر المنافس المستقل Midjourney ستة إصدارات في نفس الفترة، في حين وصل نموذج Stable Diffusion المجاني والمفتوح المصدر إلى نسخته الثالثة، وانضمت شركة Gemini من Google إلى الشجار. وبما أن التكنولوجيا أصبحت أكثر قوة، فقد أصبح استخدامها أسهل أيضًا. تم دمج أحدث إصدار من Dall-E في ChatGPT وBing، بينما تقدم Google أدواتها الخاصة مجانًا للمستخدمين.

بدأت شركات التكنولوجيا في الاستجابة للطوفان القادم من الوسائط المولدة. وقد أنتج التحالف من أجل مصدر المحتوى وأصالته، والذي يضم بين أعضائه هيئة الإذاعة البريطانية (بي بي سي)، وجوجل، ومايكروسوفت، وسوني، معايير لوضع العلامات المائية ووضع العلامات، وفي فبراير/شباط أعلنت شركة OpenAI أنها ستعتمدها في Dall-E 3. والآن، أصبحت الصور التي تم إنشاؤها بواسطة تحتوي الأداة على ملصق مرئي وعلامة مائية يمكن قراءتها آليًا. في نهاية التوزيع، بدأت Meta في إضافة تصنيفاتها الخاصة إلى المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي وتقول إنها ستزيل المنشورات التي لم يتم تصنيفها.

قد تساعد هذه السياسات في معالجة بعض أشكال المعلومات الخاطئة الأكثر انتشارًا، مثل النكات أو الهجاء الذي ينتشر خارج سياقه الأصلي. لكن يمكنهم أيضًا خلق شعور زائف بالأمان، كما يقول سبايرز. “إذا اعتاد الجمهور على رؤية الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي وعليها علامة مائية، فهل هذا يعني أنهم يثقون ضمنيًا في أي منها بدون علامة مائية؟”

وهذه مشكلة، لأن وضع العلامات ليس عالميًا بأي حال من الأحوال، ومن غير المرجح أن يكون كذلك. قد توافق الشركات الكبرى مثل OpenAI على تصنيف إبداعاتها، لكن الشركات الناشئة مثل Midjourney لا تملك القدرة على تخصيص وقت هندسي إضافي لحل هذه المشكلة. وبالنسبة للمشاريع “مفتوحة المصدر”، مثل Stable Diffusion، فمن المستحيل فرض العلامة المائية ليتم تطبيقها، نظرًا لأنه دائمًا خيار “تفرع” التكنولوجيا وبناء التكنولوجيا الخاصة بك.

ويقول هنري باركر، رئيس الشؤون الحكومية في مجموعة التحقق من الحقائق Logically، إن رؤية العلامة المائية ليس بالضرورة أن يكون لها التأثير الذي يريده المرء. يقول باركر إن الشركة تستخدم الأساليب اليدوية والآلية لفحص المحتوى، لكن وضع العلامات لا يمكن أن يصل إلى أبعد من ذلك. “إذا أخبرت شخصًا ما أنه يشاهد مقطعًا مزيفًا قبل أن يشاهده، فإن علم النفس الاجتماعي لمشاهدة هذا الفيديو قوي جدًا لدرجة أنه سيظل يشير إليه كما لو كان حقيقة. لذا فإن الشيء الوحيد الذي يمكنك فعله هو أن تتساءل كيف يمكننا تقليل مقدار الوقت الذي يتم فيه تداول هذا المحتوى؟».

في نهاية المطاف، سيتطلب ذلك العثور على المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي وإزالته تلقائيًا. يقول باركر: لكن هذا صعب. “لقد كنا نحاول لمدة خمس سنوات في هذا الصدد، ونحن صادقون تماما في حقيقة أننا وصلنا إلى حوالي 70٪، من حيث الدقة التي يمكننا تحقيقها”. هو سباق تسلح بين الاكتشاف والإنشاء: حتى مولدات الصور التي ليس لديها نية خبيثة سوف ترغب في محاولة التغلب على أجهزة الكشف لأن الهدف النهائي هو إنشاء شيء حقيقي مثل الصورة.

يعتقد باركر منطقيًا أن الإجابة هي النظر حول الصورة: “كيف تحاول فعليًا النظر إلى الطريقة التي تتصرف بها الجهات الفاعلة في مجال التضليل؟” وهذا يعني مراقبة المحادثات حول الويب للقبض على المجرمين في مرحلة التخطيط على مواقع مثل 4chan وReddit، ومراقبة السلوك الضخم للحسابات المشبوهة التي تم اختيارها من قبل جهة فاعلة تابعة للدولة. وحتى في تلك الحالة، تظل مشكلة الإيجابيات الكاذبة صعبة. هل أتطلع إلى حملة تديرها روسيا؟ أم أنني أنظر إلى مجموعة من معجبي تايلور سويفت يشاركون المعلومات حول تذاكر الحفل؟

والبعض الآخر أكثر تفاؤلاً. يعتقد بن كولمان، الرئيس التنفيذي لشركة Reality Defender الناشئة للكشف عن الصور، أنه ستكون هناك دائمًا إمكانية الكشف، حتى لو كان الاستنتاج هو ببساطة وضع علامة على شيء ما على أنه ربما يكون مزيفًا بدلاً من التوصل إلى نتيجة نهائية. هذه العلامات يمكن أن تكون أي شيء من “مرشح على ترددات أعلى يشير إلى قدر كبير من السلاسة” إلى، بالنسبة لمحتوى الفيديو، الفشل في جعل ما هو غير مرئي، ولكن يمكن اكتشافه، هو الاحمرار الذي يظهره الجميع في كل مرة تنبض فيها قلوبهم بدماء جديدة حول وجوههم.

ويختتم كولمان حديثه قائلاً: “ستستمر الأمور في التقدم على الجانب المزيف، لكن الجانب الحقيقي لن يتغير”. “نحن نعتقد أننا سوف نقترب من نموذج واحد أكثر خضرة.”

التكنولوجيا، بطبيعة الحال، ليست سوى جزء من الحل. إذا كان الناس يصدقون حقًا أن صورة امرأة تبلغ من العمر 122 عامًا مع كعكة خبزتها بنفسها هي صورة حقيقية، فلن يتطلب الأمر استخدام أحدث مولدات الصور لخداعهم لتصديق صور أخرى أكثر ضررًا. أشياء. لكنها البداية.