مايكروسوفت تقول إن كوريا الشمالية وإيران تستخدمان الذكاء الاصطناعي في القرصنة | القرصنة

قالت مايكروسوفت يوم الأربعاء إن خصوم الولايات المتحدة – وخاصة إيران وكوريا الشمالية، وبدرجة أقل روسيا والصين – بدأوا في استخدام الذكاء الاصطناعي التوليدي لشن أو تنظيم عمليات إلكترونية هجومية.

وقالت مايكروسوفت إنها اكتشفت وعطلت، بالتعاون مع شريكها التجاري OpenAI، العديد من التهديدات التي استخدمت أو حاولت استغلال تكنولوجيا الذكاء الاصطناعي التي طورتها.

وفي تدوينة، قالت الشركة إن التقنيات كانت “في مرحلة مبكرة” وليست “جديدة أو فريدة بشكل خاص” ولكن من المهم فضحها علنًا حيث يستفيد منافسو الولايات المتحدة من نماذج اللغات واسعة النطاق لتوسيع قدرتهم على اختراق الشبكات والتأثير. عمليات.

لقد استخدمت شركات الأمن السيبراني منذ فترة طويلة التعلم الآلي في مجال الدفاع، وذلك في المقام الأول للكشف عن السلوكيات الشاذة في الشبكات. لكن المجرمين والمتسللين الهجوميين يستخدمونها أيضًا، وقد أدى إدخال نماذج اللغات الكبيرة بقيادة ChatGPT من OpenAI إلى تعزيز لعبة القط والفأر هذه.

استثمرت مايكروسوفت مليارات الدولارات في OpenAI، وتزامن إعلان الأربعاء مع إصدارها لتقرير يشير إلى أنه من المتوقع أن يعزز الذكاء الاصطناعي التوليدي الهندسة الاجتماعية الضارة، مما يؤدي إلى مزيد من التزييف العميق واستنساخ الصوت. تهديد للديمقراطية في عام ستجري فيه أكثر من 50 دولة انتخابات، مما يؤدي إلى تضخيم المعلومات المضللة وما يحدث بالفعل،

قدمت مايكروسوفت بعض الأمثلة. في كل حالة، تم تعطيل جميع حسابات الذكاء الاصطناعي وأصول المجموعات المذكورة:

وقد استخدمت مجموعة التجسس الإلكتروني في كوريا الشمالية والمعروفة باسم كيمسوكي هذه النماذج للبحث في مؤسسات الفكر والرأي الأجنبية التي تدرس البلاد، ولإنشاء محتوى من المرجح أن يستخدم في حملات القرصنة والتصيد الاحتيالي.

وقد استخدم الحرس الثوري الإيراني نماذج لغات كبيرة للمساعدة في الهندسة الاجتماعية، وفي استكشاف الأخطاء البرمجية وإصلاحها، بل وحتى في دراسة الكيفية التي قد يتجنب بها المتسللون اكتشافهم في شبكة مخترقة. يتضمن ذلك إنشاء رسائل بريد إلكتروني تصيدية “بما في ذلك رسالة تتظاهر بأنها قادمة من وكالة تنمية دولية وأخرى تحاول جذب ناشطات نسويات بارزات إلى موقع ويب أنشأه مهاجمون حول الحركة النسائية”. يساعد الذكاء الاصطناعي على تسريع وتعزيز إنتاج البريد الإلكتروني.

استخدمت وحدة الاستخبارات العسكرية الروسية GRU المعروفة باسم Fancy Bear النماذج للبحث في تقنيات الأقمار الصناعية والرادار التي قد تتعلق بالحرب في أوكرانيا.

وقد تفاعلت مجموعة التجسس السيبراني الصينية المعروفة باسم “أكواتيك باندا” ــ والتي تستهدف مجموعة واسعة من الصناعات والتعليم العالي والحكومات من فرنسا إلى ماليزيا ــ مع النماذج “بطرق تشير إلى استكشاف محدود للكيفية التي يستطيع بها حاملو شهادة الماجستير في القانون تعزيز عملياتهم الفنية. “

كان لدى المجموعة الصينية مافريك باندا، التي استهدفت مقاولي الدفاع الأمريكيين من بين قطاعات أخرى لأكثر من عقد من الزمان، تفاعلات مع نماذج واسعة النطاق مما يشير إلى أنها كانت تقوم بتقييم فعاليتها كمصدر للمعلومات “حول موضوعات قد تكون حساسة، وأفراد بارزين، وإقليميين”. الجغرافيا السياسية والنفوذ الأمريكي والشؤون الداخلية”.

وفي مدونة منفصلة نُشرت يوم الأربعاء، قالت OpenAI إن برنامج الدردشة الآلي الحالي الخاص بها من طراز GPT-4 يقدم “قدرات محدودة ومتزايدة فقط لمهام الأمن السيبراني الخبيثة بما يتجاوز ما يمكن تحقيقه بالفعل باستخدام الأدوات المتاحة للجمهور وغير المدعومة بالذكاء الاصطناعي”.

ويتوقع الباحثون في مجال الأمن السيبراني أن يتغير ذلك.

في إبريل/نيسان الماضي، صرحت مديرة وكالة الأمن السيبراني وأمن البنية التحتية الأميركية، جين إيسترلي، للكونجرس بأن “هناك تهديدين وتحديين محددين للعصر. أحدهما هو الصين، والآخر هو الذكاء الاصطناعي”.

وقال إيسترلي في ذلك الوقت إن الولايات المتحدة بحاجة إلى ضمان بناء الذكاء الاصطناعي مع أخذ الأمن في الاعتبار.

يؤكد منتقدو الإصدار العام لـ ChatGPT في نوفمبر 2022 – والإصدارات اللاحقة من قبل المنافسين بما في ذلك Google و Meta – أنه كان متسرعًا بشكل غير مسؤول، مع الأخذ في الاعتبار أن الأمن كان إلى حد كبير فكرة لاحقة في تطويرهم.

وقال أميت يوران، الرئيس التنفيذي لشركة الأمن السيبراني تينابل: “بالطبع، تستخدم الجهات الفاعلة السيئة نماذج لغة كبيرة – وقد تم اتخاذ هذا القرار عندما تم فتح صندوق باندورا”.

يشكو بعض المتخصصين في مجال الأمن السيبراني من إنشاء Microsoft وترويجها لأدوات لمعالجة نقاط الضعف في نماذج اللغات الكبيرة في حين أنها قد تركز بشكل أكثر مسؤولية على جعلها أكثر أمانًا.

“لماذا لا نقوم بإنشاء نماذج تأسيسية أكثر أمانًا للصندوق الأسود LLM بدلاً من بيع أدوات دفاعية لمشكلة يساعدون في خلقها؟” سأل غاري ماكجرو، الخبير المخضرم في مجال أمن الكمبيوتر والمؤسس المشارك لمعهد بيريفيل للتعلم الآلي.

وقال إدوارد أموروسو، الأستاذ بجامعة نيويورك وكبير ضباط الأمن السابق في شركة AT&T، إنه على الرغم من أن استخدام الذكاء الاصطناعي ونماذج اللغات الكبيرة قد لا يشكل تهديدًا واضحًا على الفور، إلا أنه “سيصبح في النهاية أحد أقوى الأسلحة في هجوم كل جيش دولة قومية”.