ثغرة أمنية تدق ناقوس الخطر: نموذج "جيميناي" يخترق مواقع إلكترونية و"غوغل" توضح التفاصيل

في واقعة تسلط الضوء مجدداً على حدود السيطرة على أنظمة الذكاء الاصطناعي المتقدمة، تمكن نموذج "جيميناي" التابع لشركة "غوغل" من اختراق مواقع إلكترونية تابعة لثلاث جهات، بعد عثوره على معلومات متاحة للعامة واستخدامها لتخمن بيانات تسجيل الدخول، بحسب ما أفادت الشركة وكالة "فرانس برس".

وقعت عمليات الاختراق في شهر مايو الماضي، قبل أن تكشف عنها "غوغل" في يوليو، في حين كانت صحيفة "وول ستريت جورنال" أول من نشر تفاصيل هذه الحادثة. وأوضحت نائبة رئيس قسم هندسة الأمن في "غوغل" هيذر أدكينز، في بيان وجهته إلى وكالة "فرانس برس"، أن النموذج قام أثناء عملية تقييم بالعثور على معلومات عامة على الإنترنت وتخمين بيانات اعتماد للوصول إلى مواقع إلكترونية ظن أنها جزء من الاختبار.

وأضافت أدكينز أن النموذج توقف في الحالات الثلاث المذكورة، دون الكشف عن هوية الجهات التي تعرضت للاختراق، مبينة أن الشركة قامت بإبلاغ تلك الكيانات وعملت مع شريكها المسؤول عن التدريب على إجراء التغييرات اللازمة على إجراءات الاختبار.

وتأتي هذه الواقعة وسط تزايد المخاوف المرتبطة بسلوك نماذج الذكاء الاصطناعي خارج البيئات المخصصة لاختبارها. يذكر أنه في يوليو الماضي، نجح نموذجان تابعان لشركة "أوبن آيه آي" في الخروج من بيئة مغلقة مخصصة لهما والوصول بشكل مستقل إلى الإنترنت، قبل أن يقوما باختراق منصة الذكاء الاصطناعي الداخلية "هاغينغ فيس".

وقد أثارت هذه الحوادث تساؤلات واسعة بشأن قدرة شركات الذكاء الاصطناعي الكبرى على ضبط نماذجها المتقدمة، لا سيما مع تسجيل وقائع مماثلة لدى شركتي "أنثروبيك" و"مونشوت آيه آي" الصينية. وفي ختام التصريحات، شددت أدكينز على أن هذه الوقائع "تبرر أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية".