هل يمكن أن يكون المحتوى الناتج عن الذكاء الاصطناعي خطيرًا على صحتنا؟ | تكنولوجيا

دعونا نتحدث عن الخيال العلمي.

رواية نيل ستيفنسون “Snow Crash” الصادرة عام 1992 هي الكتاب الذي أطلق آلاف الشركات الناشئة. كان أول كتاب يستخدم المصطلح الهندوسي أفاتار لوصف التمثيل الافتراضي لشخص ما، وقد صاغ مصطلح “ميتافيرس”، وكان أحد كتب مارك زوكربيرج المطلوبة للقراءة للمديرين التنفيذيين الجدد في فيسبوك قبل عقد من تغيير التركيز. الشركة بأكملها لمحاولة بناء عالم ستيفنسون الخيالي في الواقع.

تدور الحبكة حول صورة، عند عرضها في Metaverse، تختطف دماغ المشاهد وتشوهه أو تقتله. في خيال العالم، تحطم الصورة الدماغ، وتقدم له مدخلات لا يمكن معالجتها بشكل صحيح.

إنها فكرة متكررة في الخيال العلمي. ولعل المثال الواضح الأول جاء قبل أربع سنوات، في القصة القصيرة لكاتب الخيال العلمي البريطاني ديفيد لانجفورد، والتي تتخيل هجومًا إرهابيًا باستخدام “البازيليسك”، وهي صور تحتوي على “برامج ضمنية لا تستطيع المعدات البشرية تشغيلها بأمان”. في تكملة لتلك القصة، التي نُشرت في مجلة نيتشر عام 1999، يرسم لانجفورد أوجه تشابه سابقة، حتى أنه يستحضر سيرك مونتي بايثون الطائر، “برسمه الشهير عن أطرف نكتة في العالم والتي تجعل جميع المستمعين يضحكون حتى الموت”.

صاغ مشروع الخيال الجماعي SCP اسمًا لمثل هذه الأفكار: الخطر المعرفي. فكرة قد يكون التفكير فيها ضارًا.

والسؤال الوحيد الذي يستحق أن يؤخذ على محمل الجد بشكل متزايد هو: هل المخاطر المعرفية حقيقية؟

ما تعرفه يمكن أن يؤذيك

بدأت أفكر في هذا السؤال هذا الأسبوع، كجزء من تقاريرنا حول الجهود الرامية إلى التعرف تلقائيًا على الصور المزيفة العميقة خلال عام من الانتخابات حول العالم. منذ عام 2017، عندما سمعت هذا المصطلح لأول مرة في سياق المواد الإباحية التي يتم فيها تبادل الوجوه، أصبح من الممكن التعرف على الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي عن طريق الفحص. لكن هذه المهمة أصبحت أصعب فأصعب، ونحن الآن على أعتاب أن تصبح خارج نطاق قدرة الخبراء في هذا المجال. لذا، فهو سباق مع الزمن لبناء أنظمة يمكنها اكتشاف هذه المواد وتصنيفها تلقائيًا قبل أن تتجاوز هذه العتبة.

ولكن ماذا لو لم يكن وضع العلامات كافيًا؟ من قصتي:

يقول هنري باركر، رئيس الشؤون الحكومية في مجموعة التحقق من الحقائق Logically، إن رؤية العلامة المائية ليس بالضرورة أن يكون لها التأثير الذي يريده المرء. يقول باركر إن الشركة تستخدم الأساليب اليدوية والآلية لفحص المحتوى، لكن وضع العلامات لا يمكن أن يصل إلى أبعد من ذلك. “إذا أخبرت شخصًا ما أنه يشاهد مقطعًا مزيفًا قبل أن يشاهده، فإن علم النفس الاجتماعي لمشاهدة هذا الفيديو قوي جدًا لدرجة أنه سيظل يشير إليه كما لو كان حقيقة. لذا فإن الشيء الوحيد الذي يمكنك فعله هو أن تسأل كيف يمكننا تقليل مقدار الوقت الذي يتم فيه تداول هذا المحتوى؟

هل يمكننا أن نطلق على مثل هذا الفيديو خطرًا معرفيًا؟ يبدو أن شيئًا واقعيًا بشكل مقنع لدرجة أنك تتعامل معه بشكل لا إرادي على أنه حقيقة، حتى لو قيل لك خلاف ذلك، يناسب مشروع القانون.

وبطبيعة الحال، وهذا يصف أيضا الكثير من الخيال. إن قصة الرعب التي تظل عالقة في ذهنك وتتركك غير قادر على النوم ليلاً، أو مشهد غير سارة من العنف المصور الذي يجعلك تشعر بتوعك جسدي، يمكن أن تكون خطرًا إدراكيًا إذا تم توسيع التعريف إلى هذا الحد.

سقوط الدومينو

ولعل الأقرب إلى الأمثلة من الخيال هي التقنيات التي لا تخطف عواطفنا، بل انتباهنا. ففي نهاية المطاف، نادرًا ما تكون العواطف تحت سيطرتنا في أفضل الأوقات؛ إن الشعور بشيء لا تريد أن تشعر به هو تقريبًا تعريف المشاعر السلبية.

من المفترض أن يكون الاهتمام مختلفًا. إنه شيء لدينا سيطرة واعية عليه. نحن نتحدث عن “تشتت الانتباه” في بعض الأحيان، لكن نوبات الانتباه الأكثر خطورة تستدعي استخدام لغة طبية بشكل متزايد: “الهوس”، “الإكراه”، “الإدمان”.

إن فكرة مهاجمة التكنولوجيا لاهتمامنا ليست جديدة، وهناك مفهوم كامل لـ “اقتصاد الانتباه” يدعم هذا الوابل. في عالم الوسائط المدعومة بالإعلانات، حيث تتنافس الشركات بشكل متزايد ليس على أموالنا بشكل مباشر ولكن على وقتنا، الذي يقتصر بطبيعته على 24 ساعة فقط في اليوم، هناك دافع تجاري ضخم لجذب الانتباه والحفاظ عليه. من المؤكد أن بعض أدوات التجارة التي تم تطويرها لتحقيق هذا الهدف تبدو وكأنها تستفيد من شيء بدائي. تمت مناقشة النقاط الحمراء الصارخة للإشعارات الجديدة، ومدى حس اللمس في خلاصة السحب للتحديث، والدفع المستمر للتلاعب، بشكل مطول.

وأعتقد أن البعض قد تجاوزوا الحدود ليصبحوا مخاطر معرفية حقيقية. في حين أنها قد تكون خطرة فقط على أولئك الذين لديهم قابلية لاختطاف انتباههم، إلا أن هذا الإكراه يبدو حقيقيًا.

أحدهما هو نوع من الألعاب: الألعاب “النقرية” أو “الخاملة”، مثل لعبة Universal Paperclips التي حظيت بتقدير كبير، تعمل على تكثيف آليات المكافأة في اللعبة وصولاً إلى أبسط هياكلها. تُسمى الألعاب الخاملة بهذا الاسم لأنها تلعب بنفسها تقريبًا، حيث تقدم مجموعة مذهلة من أجهزة ضبط الوقت والعد التنازلي والترقيات، وتقدم باستمرار بعض التقدم أو التحسين أو الكفاءة في غضون ثوانٍ قليلة فقط. لقد فقدت أيامًا كاملة من الإنتاجية بالنسبة لهم، كما فعل كثيرون آخرون.

والسبب الآخر هو نوع المحتوى، الذي بدأت أفكر فيه على أنه “مقاطع فيديو الدومينو”، وهي المعادل غير التفاعلي للعبة خاملة. مقطع فيديو لبعض العمليات التي تتقدم بطريقة منظمة، ولكن لا يمكن التنبؤ بها تمامًا، مما يجذبك ويؤدي إلى إجبارك على المشاهدة حتى النهاية. في بعض الأحيان يكون هذا حرفيًا عبارة عن لعبة الدومينو. وفي أحيان أخرى، قد يكون شخص ما يقوم بتنظيف سجادة أو إزالة سترة بشكل منهجي. في بعض الأحيان قد لا تكتمل العملية أبدًا؛ Pong Wars هي “لعبة” يتم إنشاؤها تلقائيًا من Breakout، حيث تهدد كل منهما كرتين بغزو مساحة الكرة الأخرى. إنه لا ينتهي أبدًا، لكنك ستشاهده لفترة أطول مما يستحق.

هناك احتمال أن يكون هذا سيئًا قدر الإمكان. قد يكون هناك شيء مثير للاشمئزاز بطبيعته فيما يتعلق بحصد الاهتمام الحقيقي، وهذا يعني أن الدافع للتحديق فيهم بينما يتقدمون سيتم مواجهته دائمًا بالخجل أو الاشمئزاز من إضاعة الوقت.

ولكن ماذا لو لم يكن كذلك؟ كيف سيبدو الأمر إذا تم إطلاق الذكاء الاصطناعي التوليدي على وسائل التواصل الاجتماعي لجذب الانتباه على نطاق صناعي؟ إذا كانت النصيحة التي يقدمها الآباء لأطفالهم الصغار ليست مجرد توخي الحذر بشأن الأشخاص الذين يتحدثون إليهم عبر الإنترنت، بل الحذر مما يتحدثون عنه حتى. ينظر في؟

كل شيء خيال علمي حتى يصبح حقيقة.

TechScape الأوسع

انضم إلى Alex Hern في حدث Guardian Live عبر الإنترنت حول الذكاء الاصطناعي والتزييف العميق والانتخابات، يوم الأربعاء 24 أبريل الساعة 8 مساءً بتوقيت جرينتش. حجز التذاكر هنا.