رئيس جوجل يعترف بأن تنوع الصور “المتحيز” لأداة الذكاء الاصطناعي أساء للمستخدمين | جوجل

وصف الرئيس التنفيذي لشركة جوجل بعض ردود أفعال نموذج جيميني للذكاء الاصطناعي التابع للشركة بأنها “متحيزة” و”غير مقبولة على الإطلاق” بعد أن أسفرت عن نتائج تشمل تصوير الجنود الألمان في الحرب العالمية الثانية على أنهم أشخاص ملونون.

أخبر ساندر بيتشاي الموظفين في مذكرة أن الصور والنصوص التي تم إنشاؤها بواسطة أحدث أدوات الذكاء الاصطناعي تسببت في الإساءة.

نشر مستخدمو وسائل التواصل الاجتماعي العديد من الأمثلة على مولد صور جيميني الذي يصور شخصيات تاريخية – بما في ذلك الباباوات والآباء المؤسسون للولايات المتحدة والفايكنج – في مجموعة متنوعة من الأعراق والأجناس. في الأسبوع الماضي، أوقفت Google مؤقتًا قدرة Gemini على إنشاء صور للأشخاص.

أحد الأمثلة على الردود النصية يُظهر أن برنامج Gemini chatbot سُئل “من الذي أثر سلبًا على المجتمع أكثر، إيلون؟” [Musk] يغرد الميمات أو هتلر” ويرد برنامج الدردشة الآلية: “الأمر متروك لكل فرد ليقرر من يعتقد أنه كان له تأثير أكثر سلبية على المجتمع”.

تناول بيتشاي الردود في رسالة بالبريد الإلكتروني يوم الثلاثاء. وكتب في رسالة نشرها لأول مرة موقع سيمافور الإخباري: “أعلم أن بعض ردودها أساءت لمستخدمينا وأظهرت تحيزًا – لكي أكون واضحًا، هذا غير مقبول تمامًا وقد أخطأنا في فهمه”.

“تعمل فرقنا على مدار الساعة لمعالجة هذه المشكلات. وأضاف بيتشاي: “إننا نشهد بالفعل تحسنًا كبيرًا في مجموعة واسعة من المطالبات”.

أنتجت أنظمة الذكاء الاصطناعي استجابات متحيزة في الماضي، مع ميل إلى إعادة إنتاج نفس المشكلات الموجودة في بيانات التدريب الخاصة بها. لسنوات، على سبيل المثال، كانت جوجل تترجم العبارات التركية المحايدة جنسانيًا مثل “the are a doctor” و”the are a nurse” إلى اللغة الإنجليزية بصيغتي المذكر والمؤنث، على التوالي.

وفي الوقت نفسه، فإن الإصدارات المبكرة من Dall-E، مولد الصور الخاص بـ OpenAI، ستنتج بشكل موثوق رجالًا بيضًا عندما يُطلب منهم تعيين قاض، ورجال سود عندما يُطلب منهم مسلح. تعكس ردود جيميني مشاكل في محاولات جوجل لمعالجة هذه المخرجات التي يحتمل أن تكون متحيزة.

غالبًا ما يحاول المنافسون لـ Gemini حل نفس المشكلات باتباع نهج مماثل ولكن مع مشكلات فنية أقل في التنفيذ.

على سبيل المثال، يتم إقران أحدث إصدار من Dall-E مع Chatbot الخاص بـ OpenAI الخاص بـ ChatGPT، مما يسمح لـ chatbot بتوسيع طلبات المستخدم وإضافة طلبات للحد من التحيز. على سبيل المثال، يتم توسيع طلب المستخدم لرسم “صورة للعديد من الأطباء” إلى فقرة كاملة من التفاصيل تبدأ بطلب “مشهد ديناميكي ومتنوع داخل مستشفى مزدحم”.

وأكد متحدث باسم جوجل وجود البريد الإلكتروني لـ Pichai ودقة المقتطفات المقتبسة في مقال Semafor. وأضاف بيتشاي في المذكرة أن جوجل ستتخذ سلسلة من الإجراءات بشأن جيميني بما في ذلك “التغييرات الهيكلية، وإرشادات المنتج المحدثة، [and] تحسين عمليات الإطلاق”. وأضاف أنه سيكون هناك “فريق أحمر” أكثر قوة، في إشارة إلى العملية التي يقوم فيها الباحثون بمحاكاة إساءة استخدام المنتج.

وكتب بيتشاي: “إن مهمتنا المتمثلة في تنظيم المعلومات حول العالم وجعلها في متناول الجميع ومفيدة هي أمر مقدس”. “لقد سعينا دائمًا إلى تزويد المستخدمين بمعلومات مفيدة ودقيقة وغير متحيزة في منتجاتنا. ولهذا السبب يثق الناس بهم. ويجب أن يكون هذا هو النهج الذي نتبعه في جميع منتجاتنا، بما في ذلك منتجات الذكاء الاصطناعي الناشئة.

المسك أغنى رجل في العالم تم نشره على منصة X الخاصة به أن استجابة مولد الصور أظهرت أن جوجل جعلت “برمجتها المناهضة للحضارة واضحة للجميع”.

قال بن طومسون، وهو معلق تقني مؤثر ومؤلف نشرة Stratechery الإخبارية، يوم الاثنين، إنه يجب على Google إعادة عملية صنع القرار إلى الموظفين “الذين يريدون بالفعل صنع منتج جيد” وإزالة Pichai كجزء من هذه العملية إذا لزم الأمر.

أدى إطلاق ChatGPT المدعوم من شركة OpenAI في نوفمبر 2022 إلى إثارة المنافسة في سوق الذكاء الاصطناعي التوليدي – وهو المصطلح الذي يشير إلى أنظمة الكمبيوتر التي تنتج على الفور نصوصًا وصورًا وصوتًا مقنعًا من خلال مطالبات بسيطة مكتوبة بخط اليد – مع جوجل من بين الشركات في المقدمة لتلك الاستجابة التنافسية كمطور رائد للذكاء الاصطناعي.

أصدرت Google برنامج الدردشة الآلي Bard الذي يعمل بالذكاء الاصطناعي قبل عام. أعادت الشركة تسميتها هذا الشهر إلى Gemini وطرحت خطط الاشتراك المدفوعة، والتي يمكن للمستخدمين اختيارها للحصول على قدرات تفكير أفضل من نموذج الذكاء الاصطناعي.

أنتجت وحدة Google DeepMind التابعة للشركة العديد من الإنجازات بما في ذلك برنامج AlphaFold الذي يمكنه التنبؤ بالأشكال ثلاثية الأبعاد للبروتينات في جسم الإنسان – بالإضافة إلى جميع البروتينات المفهرسة المعروفة علميًا تقريبًا.

قال ديميس هاسابيس، الرئيس التنفيذي لشركة جوجل ديب مايند، هذا الأسبوع إن “الميزة حسنة النية” في جيميني، المصممة لإنتاج التنوع في صورها للبشر، قد تم نشرها “بصراحة شديدة”.