لماذا كان “مهرجان الغرور” الذي نظمه سوناك حول سلامة الذكاء الاصطناعي… ناجحًا بالفعل | تكنولوجيا

Fأو ماكس تيجمارك، كانت قمة الذكاء الاصطناعي التي عقدت الأسبوع الماضي في بلتشلي بارك لحظة عاطفية. كان أستاذ معهد ماساتشوستس للتكنولوجيا وباحث الذكاء الاصطناعي وراء رسالة هذا العام تدعو إلى التوقف مؤقتًا في تطوير الأنظمة المتقدمة. لم يحدث ذلك، لكنه كان بمثابة مساهمة حاسمة في الزخم السياسي والأكاديمي الذي أدى إلى اجتماع بلتشلي.

“[The summit] لقد جعلني في الواقع أكثر تفاؤلاً. قال لي: “لقد فاق الأمر بالفعل توقعاتي”. “لقد عملت منذ حوالي 10 سنوات، على أمل أن تعقد في يوم من الأيام قمة دولية حول سلامة الذكاء الاصطناعي. إن رؤية ذلك يحدث بأم عيني – وقد تم بشكل جيد للغاية – كان أمرًا مؤثرًا للغاية.

وأضاف تيجمارك، وهو يمسك بورقة نقدية بقيمة 50 جنيهًا إسترلينيًا وعليها وجه محلل رموز بلتشلي آلان تورينج، أن عبقرية الحوسبة – الشخصية التأسيسية في تاريخ الذكاء الاصطناعي – قد ثبتت صحتها. “أنا أتفق مع تورينج – النتيجة الافتراضية إذا سارعنا إلى بناء آلات أكثر ذكاءً منا هي أننا نفقد السيطرة على مستقبلنا ومن المحتمل أن يتم القضاء علينا.”

لكن تيجمارك يعتقد أنه تم إحراز تقدم في بلتشلي. وفيما يلي ملخص سريع لما حدث.

إعلان بلتشلي

بدأت القمة ببيان وقعته حوالي 30 حكومة، بما في ذلك الولايات المتحدة والصين، إلى جانب الاتحاد الأوروبي. ووصف ريشي سوناك البيان بأنه “لا يصدق للغاية”، بعد أن نجح في إقناع القوى العظمى المتنافسة، والبلدان ذات وجهات النظر المتنوعة حول تطوير الذكاء الاصطناعي، بالموافقة على رسالة مشتركة.

يبدأ الإعلان بالإشارة إلى أن الذكاء الاصطناعي يوفر “فرصًا عالمية هائلة” مع إمكانية “تحويل وتعزيز رفاهية الإنسان والسلام والرخاء” – ولكن التكنولوجيا يجب أن يتم تصميمها بطريقة “تتمحور حول الإنسان وجديرة بالثقة ومسؤولة”. . هناك أيضًا تركيز على التعاون الدولي، بما في ذلك الإشارة إلى “شبكة دولية شاملة للبحث العلمي” بشأن سلامة الذكاء الاصطناعي.

لكن القسم الأكثر جدارة بالملاحظة أشار إلى الغرض الرئيسي للقمة: التأكد من أن الذكاء الاصطناعي الحدودي – وهو المصطلح الذي يشير إلى الأنظمة الأكثر تقدما – لا يخرج عن نطاق السيطرة بشكل رهيب. وفي إشارة إلى قدرة الذكاء الاصطناعي على التسبب في كارثة، قال: “هناك احتمال لحدوث أضرار جسيمة، وحتى كارثية، سواء كانت متعمدة أو غير مقصودة، تنبع من القدرات الأكثر أهمية لنماذج الذكاء الاصطناعي هذه”.

هذه الجملة الملفتة للانتباه سبقتها إشارة إلى أضرار أكثر إلحاحا مثل الهجمات السيبرانية والمعلومات المضللة. إن الجدل حول ما إذا كان الذكاء الاصطناعي قادراً على القضاء على البشرية لا يزال مستمراً ــ وهناك أيضاً اعتقاد بأن المخاوف مبالغ فيها ــ ولكن يبدو أن هناك إجماعاً على أن المعلومات المضللة التي يولدها الذكاء الاصطناعي تشكل مصدر قلق مباشر يحتاج إلى المعالجة.

لقد تم تحقيق طموح سوناك في جعل القمة حدثًا منتظمًا. وستستضيف كوريا الجنوبية حدثًا افتراضيًا في غضون ستة أشهر، وستستضيف فرنسا قمة كاملة في غضون 12 شهرًا.

فهل تؤدي هذه الكلمات المجمعة بعناية إلى تغيير تنظيمي أو تشريعي؟ تقول شارلوت ووكر أوزبورن، الشريك التكنولوجي في شركة المحاماة الدولية موريسون فورستر، إن الإعلان “من المرجح أن يدفع مستوى معين من الإجماع التشريعي والحكومي الدولي حول المبادئ الرئيسية لتنظيم الذكاء الاصطناعي”. على سبيل المثال، تستشهد بالمبادئ الأساسية مثل الشفافية حول متى وكيف يتم استخدام الذكاء الاصطناعي، والمعلومات حول البيانات المستخدمة في أنظمة التدريب ومتطلبات الجدارة بالثقة (التي تغطي كل شيء بدءًا من النتائج المتحيزة وحتى التزييف العميق).

ومع ذلك، يقول ووكر أوزبورن: “من غير المرجح وجود نهج موحد حقًا” بسبب “اختلاف الأساليب في التنظيم والحوكمة بشكل عام” بين البلدان. ومع ذلك، يشكل الإعلان علامة بارزة، ولو فقط لأنه يدرك أن الذكاء الاصطناعي لا يمكن أن يستمر في التطور دون رقابة أقوى.

تقرير حالة الذكاء الاصطناعي

أعلن سوناك عن تقرير “حالة علوم الذكاء الاصطناعي” في القمة، حيث ترأس التقرير الافتتاحي يوشوا بنجيو، أحد “عرابي الذكاء الاصطناعي” الثلاثة، الذين فازوا بجائزة ACM Turing – وهي المكافئة لجائزة نوبل في علوم الكمبيوتر. – عام 2018 عن عمله في مجال الذكاء الاصطناعي. ستضم المجموعة التي تكتب التقرير أكاديميين بارزين في مجال الذكاء الاصطناعي، وستدعمها لجنة استشارية مكونة من الدول التي حضرت القمة (وبالتالي ستشارك فيها الولايات المتحدة والصين).

كان بنجيو أحد الموقعين على خطاب تيجمارك، كما وقع على بيان في مايو يحذر فيه من أن التخفيف من خطر الانقراض بسبب الذكاء الاصطناعي يجب أن يكون أولوية عالمية إلى جانب الأوبئة والحرب النووية. إنه يأخذ موضوع سلامة الذكاء الاصطناعي على محمل الجد.

وقال رئيس وزراء المملكة المتحدة إن الفكرة مستوحاة من اللجنة الحكومية الدولية المعنية بتغير المناخ، ويدعمها الأمين العام للأمم المتحدة، أنطونيو غوتيريش. الذين حضروا القمة. ومع ذلك، لن يكون هذا مشروعًا تستضيفه الأمم المتحدة، وسيستضيف معهد سلامة الذكاء الاصطناعي المدعوم من الحكومة البريطانية مكتب بينجيو لإعداد التقرير.

اختبارات السلامة الدولية

واتفقت مجموعة من الحكومات التي حضرت القمة وشركات الذكاء الاصطناعي الكبرى على التعاون في اختبار نماذج الذكاء الاصطناعي الخاصة بها قبل وبعد إصدارها للعامة. وتضمنت الحكومات الـ11 الموقعة على الاتفاق الاتحاد الأوروبي والولايات المتحدة والمملكة المتحدة وأستراليا واليابان، ولكن ليس الصين. وشملت الشركات الثماني جوجل، ومطور ChatGPT OpenAI، ومايكروسوفت، وأمازون، وميتا.

وقد وافقت المملكة المتحدة بالفعل على شراكات بين معهد سلامة الذكاء الاصطناعي التابع لها ونظيره الأمريكي (الذي تم الإعلان عنه قبل القمة الأسبوع الماضي)، وكذلك مع سنغافورة، للتعاون في اختبارات السلامة. هذا إعداد طوعي وهناك بعض الشكوك حول مدى التأثير الذي ستحدثه إعلانات بلتشلي إذا لم تكن مدعومة باللوائح التنظيمية. وقال سوناك للصحفيين الأسبوع الماضي إنه ليس مستعدا لإصدار تشريع بعد، وأن هناك حاجة إلى مزيد من الاختبار للنماذج المتقدمة أولا (على الرغم من أنه أضاف أنه ربما تكون هناك حاجة إلى “متطلبات ملزمة” في مرحلة ما).

وهذا يعني أن الأمر التنفيذي الذي أصدره البيت الأبيض بشأن استخدام الذكاء الاصطناعي، والذي صدر في نفس الأسبوع الذي انعقدت فيه القمة، وقانون الذكاء الاصطناعي المرتقب للاتحاد الأوروبي، يتقدمان بشكل أكبر على المملكة المتحدة في تقديم تنظيم جديد وملزم للتكنولوجيا.

تقول مارثا بينيت، المحللة الرئيسية في شركة فوريستر: “عندما يتعلق الأمر بكيفية تصرف صانعي النماذج… من المرجح أن يكون لقانون الذكاء الاصطناعي للاتحاد الأوروبي الوشيك والأمر التنفيذي للرئيس بايدن تأثير أكبر”.

ومع ذلك، فإن آخرين سعداء بالكيفية التي نجح بها بلتشلي في تشكيل المناقشة وجمع وجهات النظر المتباينة معًا. كانت البروفيسورة دام موفي كالدر، نائبة المدير ورئيسة كلية العلوم والهندسة في جامعة جلاسكو، تشعر بالقلق من أن القمة ستركز أكثر من اللازم على المخاطر الوجودية، وليس على “القضايا الحقيقية والحالية”. وتعتقد أن هذا الخوف قد هدأ. وتقول: “إن القمة والإعلان يتجاوزان مجرد مخاطر “الذكاء الاصطناعي الحدودي”. “على سبيل المثال، تم ذكر قضايا مثل الشفافية والعدالة والمساءلة والتنظيم والرقابة البشرية المناسبة والأطر القانونية صراحة في الإعلان. كما هو التعاون. هذا عظيم.”

اقرأ المزيد عن هذه القصة

الأسبوع في سام بانكمان فرايد

استغرق الأمر أقل من خمس ساعات حتى تتوصل هيئة المحلفين إلى أن الملياردير السابق سام بانكمان فرايد، أو SBF، البالغ من العمر 31 عامًا، كان لديه نية إجرامية عندما تسلل “المليارات من الباب الخلفي” لبورصة العملات المشفرة وصندوق التحوط FTX الخاص به. فيما يلي نظرة على كيفية تغطية الأمر – وما هو التالي قبل صدور الحكم عليه في مارس/آذار.

TechScape الأوسع