خوارزميات وسائل التواصل الاجتماعي “تضخيم المحتوى الكاره للنساء” | وسائل التواصل الاجتماعي

تعمل الخوارزميات التي تستخدمها منصات وسائل التواصل الاجتماعي على تضخيم المحتوى المتطرف الذي يكره النساء بسرعة، والذي ينتشر من شاشات المراهقين إلى ملاعب المدارس حيث أصبح أمرًا طبيعيًا، وفقًا لتقرير جديد.

وقال الباحثون إنهم اكتشفوا زيادة بمقدار أربعة أضعاف في مستوى المحتوى المسيء للنساء الذي اقترحه TikTok على مدار فترة مراقبة مدتها خمسة أيام، حيث قدمت الخوارزمية مقاطع فيديو أكثر تطرفًا، وغالبًا ما تركز على الغضب واللوم الموجه إلى النساء.

وبينما نظرت هذه الدراسة بالذات في TikTok، قال الباحثون إن النتائج التي توصلوا إليها من المرجح أن تنطبق على منصات التواصل الاجتماعي الأخرى، ودعوا إلى اتباع نهج “نظام غذائي رقمي صحي” لمعالجة المشكلة، بدلاً من الحظر التام على الهواتف أو وسائل التواصل الاجتماعي التي “من المرجح أن تؤدي إلى” تكون غير فعالة”.

وتأتي الدراسة، التي أجرتها فرق في جامعة كوليدج لندن وجامعة كينت، في وقت يتجدد فيه القلق بشأن تأثير وسائل التواصل الاجتماعي على الشباب. وجدت الأبحاث التي أجريت الأسبوع الماضي أن الشباب من الجيل Z – الذين يقدس الكثير منهم المؤثر على وسائل التواصل الاجتماعي أندرو تيت – هم أكثر عرضة من جيل طفرة المواليد للاعتقاد بأن الحركة النسوية قد أضرت أكثر مما نفعت.

وفي الوقت نفسه، دعت والدة المراهقة المقتولة، بريانا غي، إلى حظر تطبيقات وسائل التواصل الاجتماعي على الهواتف الذكية لمن تقل أعمارهم عن 16 عامًا بعد سماع أدلة حول أنشطة قتلة ابنتها عبر الإنترنت.

تقول دراسة UCL/Kent، والتي تسمى Safer Scrolling، أن المحتوى الضار يتم تقديمه كترفيه من خلال العمليات الخوارزمية لوسائل التواصل الاجتماعي. وأضافت أنه يتم “دفع” المواد السامة أو التي تحض على الكراهية أو معادية للنساء إلى الشباب، حيث يتعرض الأولاد الذين يعانون من القلق وضعف الصحة العقلية لخطر متزايد.

قالت الباحثة الرئيسية الدكتورة كايتلين ريجير (دراسات المعلومات بجامعة كاليفورنيا في لوس أنجلوس): “لقد أصبحت الآن الآراء والأفكار الضارة أمرًا طبيعيًا بين الشباب”. “يؤثر الاستهلاك عبر الإنترنت على سلوكيات الشباب خارج الإنترنت، حيث نرى هذه الأيديولوجيات تنتقل من الشاشات إلى ساحات المدارس.”

أجرى الباحثون مقابلات مع شباب يتفاعلون مع محتوى متطرف عبر الإنترنت وينتجونه للمساعدة في إنشاء عدد من النماذج الأولية للأولاد المراهقين الذين قد يكونون عرضة للتطرف. تم إنشاء حسابات على TikTok لكل نموذج أصلي، ولكل منها اهتمامات محددة – ربما يبحثون عن محتوى عن الذكورة أو الوحدة – ثم شاهد الباحثون أكثر من 1000 مقطع فيديو اقترحته TikTok على صفحتها “من أجلك” على مدار سبعة أيام.

كان المحتوى المقترح الأولي يتماشى مع الاهتمامات المعلنة لكل نموذج أصلي، ولكن بعد خمسة أيام، قال الباحثون إن خوارزمية TikTok كانت تقدم أربعة أضعاف عدد مقاطع الفيديو التي تحتوي على محتوى معادٍ للنساء بما في ذلك التشييء أو التحرش الجنسي أو تشويه سمعة المرأة، والتي زادت من 13% من الموصى بها. مقاطع الفيديو إلى 56%.

قال ريجير: “تستهدف العمليات الخوارزمية على TikTok ومواقع التواصل الاجتماعي الأخرى نقاط ضعف الأشخاص – مثل الوحدة أو الشعور بفقدان السيطرة – وتتلاعب بالمحتوى الضار”. “عندما يتعاطى الشباب جرعات صغيرة من مواضيع مثل إيذاء النفس أو التطرف، فإن الأمر بالنسبة لهم يبدو وكأنه ترفيه.”

أجرى الباحثون أيضًا مقابلات مع الشباب وقادة المدارس حول تأثير وسائل التواصل الاجتماعي، ووجدوا أن الأيديولوجيات البغيضة والاستعارات الكارهة للنساء قد انتقلت من الشاشات إلى المدارس، وأصبحت جزءًا لا يتجزأ من ثقافات الشباب السائدة.

وقال جيف بارتون، الأمين العام لرابطة قادة المدارس والكليات، التي تعاونت في البحث: “تظهر النتائج التي توصلت إليها جامعة كاليفورنيا في لوس أنجلوس أن الخوارزميات – التي لا يعرف معظمنا عنها سوى القليل – لها تأثير كرة الثلج حيث تخدم المزيد من التطرف من أي وقت مضى”. المحتوى في شكل ترفيه.

“هذا أمر مقلق للغاية بشكل عام، ولكن بشكل خاص فيما يتعلق بتضخيم الرسائل حول الذكورة السامة وتأثيرها على الشباب الذين يحتاجون إلى أن يكونوا قادرين على النمو وتطوير فهمهم للعالم دون التأثر بمثل هذه المواد المروعة.

“ندعو TikTok بشكل خاص ومنصات التواصل الاجتماعي بشكل عام إلى مراجعة خوارزمياتها بشكل عاجل وتعزيز الضمانات لمنع هذا النوع من المحتوى، وندعو الحكومة وأوفكوم إلى النظر في تداعيات هذه المشكلة تحت رعاية قانون السلامة الجديد على الإنترنت.”

وقال آندي بوروز، مستشار مؤسسة مولي روز، التي أنشئت تخليدا لذكرى مولي راسل، التي قتلت نفسها بعد وقوعها في دوامة من اليأس على وسائل التواصل الاجتماعي: “يعزز هذا البحث كيف تستهدف خوارزميات تيك توك الشباب وتقصفهم بلا رحمة”. المحتوى الضار، وفي غضون أيام يمكن أن يقدم للمراهقين وابلًا شبه مستمر من مقاطع الفيديو غير الصحية والخطيرة في بعض الأحيان.

“لا يمكن أن يكون أكثر وضوحًا أن الهيئة التنظيمية Ofcom بحاجة إلى اتخاذ إجراءات جريئة وحاسمة لمعالجة الخوارزميات عالية المخاطر التي تعطي الأولوية لإيرادات شركات وسائل التواصل الاجتماعي على سلامة ورفاهية المراهقين.”

وفي حديثه خلال رحلة إلى أيرلندا الشمالية، قال رئيس الوزراء ريشي سوناك: “بصفتي أحد الوالدين، أشعر دائمًا بالقلق بشأن وسائل التواصل الاجتماعي وما تتعرض له فتياتي الصغيرات. ولهذا السبب يسعدني أننا أقررنا قانون السلامة عبر الإنترنت خلال العام الماضي، وهذا يعني أن الجهة التنظيمية تتمتع الآن بسلطات جديدة صارمة للتحكم في ما يتعرض له الأطفال عبر الإنترنت.

“وإذا لم تمتثل شركات التواصل الاجتماعي الكبرى لذلك، فإن الجهة التنظيمية قادرة على فرض غرامات كبيرة جدًا عليها، والأولوية الآن هي التأكد من أن هذا القانون قيد التنفيذ”.

وقال متحدث باسم TikTok: “لقد تم حظر كراهية النساء منذ فترة طويلة على TikTok ونحن نكتشف بشكل استباقي 93٪ من المحتوى الذي نزيله لانتهاك قواعدنا بشأن الكراهية. المنهجية المستخدمة في هذا التقرير لا تعكس كيفية تجربة الأشخاص الحقيقيين لـ TikTok.

وقال متحدث باسم Ofcom: “إن معالجة العنف ضد النساء والفتيات عبر الإنترنت يمثل أولوية بالنسبة لنا. يُظهر بحثنا أن النساء أقل ثقة بشأن سلامتهن الشخصية عبر الإنترنت، وأكثر تأثراً بالمحتوى الضار مثل التصيد.

“بموجب قانون السلامة على الإنترنت، سيكون على الخدمات عبر الإنترنت مثل وسائل التواصل الاجتماعي وخدمات البحث واجبات لحماية سلامة المستخدمين وحقوقهم – ويعد فهم ومعالجة المحتوى الذي يؤثر بشكل غير متناسب على النساء والفتيات عبر الإنترنت أمرًا أساسيًا في هذا الأمر.”