إن نموذج الأعمال الذي يتبناه وادي السيليكون لا يتوافق مع الاعتدال في الرعب والكراهية على الإنترنت جون نوتون

دبليوفي منتصف التسعينيات، عندما كانت شبكة الإنترنت حديثة العهد وكان عالم الإنترنت يعج بالمدونات، لاحت في الأفق مشكلة مثيرة للقلق. إذا كنت أحد مزودي خدمة الإنترنت الذين يستضيفون المدونات، وكانت إحداها تحتوي على مواد غير قانونية أو تشهيرية، فقد تتحمل المسؤولية القانونية وترفع دعوى قضائية للإفلاس. خوفًا من أن يؤدي ذلك إلى إبطاء توسع التكنولوجيا الحيوية بشكل كبير، قام اثنان من المشرعين الأمريكيين، كريس كوكس ورون وايدن، بإدخال 26 كلمة في قانون آداب الاتصالات لعام 1996، والذي أصبح في النهاية المادة 230 من قانون الاتصالات للعام نفسه. الكلمات المعنية كانت كما يلي: “لا يجوز التعامل مع أي مزود أو مستخدم لخدمة كمبيوتر تفاعلية باعتباره ناشرًا أو متحدثًا لأي معلومات يقدمها مزود آخر لمحتوى المعلومات”. وكانت الآثار المترتبة على ذلك عميقة: فمن الآن فصاعدًا لا تتحمل أي مسؤولية عن المحتوى المنشور على النظام الأساسي الخاص بك.

وكانت النتيجة الزيادة الهائلة في المحتوى الذي ينشئه المستخدمون على الإنترنت. كانت المشكلة أن بعض هذا المحتوى كان حقيرًا أو تشهيريًا أو فظيعًا تمامًا. وحتى لو كان الأمر كذلك، فإن موقع الاستضافة لا يتحمل أي مسؤولية عنه. وفي بعض الأحيان، تسبب بعض هذا المحتوى في إثارة غضب عام إلى الحد الذي أصبح فيه مشكلة علاقات عامة بالنسبة للمنصات التي تستضيفه وبدأت في الانخراط في “الاعتدال”.

لكن الاعتدال يواجه مشكلتين. الأول هو أنه مكلف للغاية بسبب الحجم الهائل للمشكلة: تم تحميل 2500 مقطع فيديو جديد كل دقيقة على موقع يوتيوب، على سبيل المثال؛ تتم مشاركة 1.3 مليار صورة على Instagram يوميًا. والسبب الآخر هو الطريقة التي يتم بها الاستعانة بمصادر خارجية لعمل الاعتدال القذر في كثير من الأحيان لأشخاص في البلدان الفقيرة، الذين يصابون بالصدمة بسبب اضطرارهم إلى مشاهدة مقاطع فيديو عن القسوة التي لا توصف – مقابل أجر زهيد. وبالتالي فإن تكاليف إبقاء قنوات التواصل الاجتماعي الغربية نظيفة نسبياً يتحملها فقراء الجنوب العالمي.

تعرف المنصات هذا بطبيعة الحال، ولكنها في الآونة الأخيرة تتوصل إلى ما تعتقد أنه فكرة أفضل ــ الاعتدال بواسطة الذكاء الاصطناعي بدلا من البشر: الكشف عن المحتوى الدنيء وحذفه بواسطة آلات لا هوادة فيها وغير قابلة للصدمة. ما الذي لا يعجبك؟

هناك طريقتان للإجابة على هذا. الأول هو من خلال ملاحظة إتش إل مينكين التي تقول: “لكل مشكلة معقدة هناك إجابة واضحة، وبسيطة، وخاطئة”. والآخر هو عن طريق سؤال أحد علماء التحكم الآلي. علم التحكم الذاتي هي دراسة كيفية استخدام الأنظمة للمعلومات والتغذية الراجعة والتحكم لتنظيم نفسها وتحقيق النتائج المرجوة. إنه مجال تأسس عام 1948 على يد عالم الرياضيات العظيم نوربرت وينر باعتبارها الدراسة العلمية لـ “التحكم والاتصال في الحيوان والآلة”، وازدهرت في الخمسينيات والستينيات من القرن العشرين إلى طريقة جديدة في التفكير حول الآلات التي تعمل بالطاقة البشرية والتي نسميها المنظمات.

أحد الإنجازات العظيمة في هذا المجال تم تحقيقه من قبل عالم النفس البريطاني دبليو روس آشبي. لقد كان مهتمًا بكيفية تحقيق أنظمة ردود الفعل للاستقرار، وتوصل إلى ما أصبح يُعرف باسم “قانون التنوع المطلوب” – وهي فكرة مفادها أنه لكي يكون النظام مستقرًا، فإن عدد الحالات التي يمكن لآلية التحكم الخاصة به تحقيقها (عدد الحالات التي يمكن لآلية التحكم الخاصة به تحقيقها) متنوعة) يجب أن يكون أكبر من أو يساوي عدد الحالات في النظام الذي يتم التحكم فيه. في الستينيات، تمت إعادة صياغة هذا على أنه الفكرة التي يجب أن تكون عليها المنظمة قابل للحياةيجب أن تكون قادرة على التعامل مع التعقيد الديناميكي لبيئتها.

يبدو نظريا أليس كذلك؟ ولكن مع ظهور شبكة الإنترنت، وخاصة شبكة الإنترنت ووسائل الإعلام الاجتماعية، اكتسب قانون أشبي أهمية قاتمة. إذا كنت ميتا (née Facebook)، على سبيل المثال، ولديك مليارات من المستخدمين يقومون بإلقاء أشياء ــ بعضها حقير ــ على خوادمك في كل جزء من الثانية، فلديك ما كان أشبي يسميه إدارة التنوع مشكلة.

هناك طريقتان فقط للتعامل مع الأمر (إلا إذا كنت إيلون ماسك، الذي قرر عدم المحاولة). أحدهما هو خنق العرض. ولكن إذا فعلت ذلك فإنك تقوض نموذج عملك ــ الذي يتلخص في وجود الجميع على منصتك ــ وسوف تُتهم أيضاً بممارسة “الرقابة” في أرض التعديل الأول. والأمر الآخر يتلخص في تضخيم قدرتك الداخلية على التعامل مع السيل ـ وهو ما يعنيه “الاعتدال”. لكن حجم التحدي كبير لدرجة أنه حتى لو وظفت Meta نصف مليون مشرف بشري، فلن تكون على مستوى المهمة. ومع ذلك، حتى ذلك الحين، فإن المادة 230 ستعفيها من قانون الأرض. ومع ذلك، قد يكون التغلب على قانون آشبي اقتراحًا أكثر صرامة، حتى بالنسبة للذكاء الاصطناعي.

ابقوا متابعين.

ما كنت أقرأه

حقائق مصطنعة
الذكاء الاصطناعي ليس عديم الفائدة. ولكن هل يستحق كل هذا العناء؟ هو تقييم ذكي نموذجي أجرته مولي وايت لاستراتيجية “الابتكار بأي ثمن” التي يتبناها وادي السيليكون.

نعم، نحن كانط
يعد كتاب الفيلسوف السياسي ليا يبي كانط وقضية السلام مقالًا مدروسًا في الأوقات المالية.

أعمال جارية
مقالة مدركة عن فوائد النقابات العمالية كتبها نيل بيرباوم على مدونته Substack: من أجل التوازن بين العمل والحياة، انظر إلى النقابات العمالية!