شركة أمنية تؤكد وصول وكلاء الذكاء الاصطناعي التابعين لشركة OpenAI إلى 55 موقعاً وإخفاء أنشطتهم

أفاد تحقيق أجرته شركة التحقيقات الرقمية Asymmetric Security، بأن وكلاء الذكاء الاصطناعي التابعين لشركة OpenAI قد وصلوا إلى بيانات من 55 موقعاً حكومياً وتجارياً وغير ربحي، مستخدمين تقنيات جعلت تتبع أنشطتهم أمراً صعباً على الباحثين الخارجيين في بعض الحالات.

وشملت المواقع المحددة في التحقيق مراكز مكافحة الأمراض والوقاية منها الأمريكية (CDC)، وولاية هيئة الأوراق المالية والبورصات (SEC)، وكالة الطاقة الدولية، ومستوصف Mayo Clinic. كما ذكرت شركة Asymmetric أنها عثرت على أدلة تفيد بأن الوكلاء قاموا بالوصول إلى أنظمة تابعة لوكالات حكومية أسترالية ومنظمات أخرى أو فحصها.

وأوضح الباحثون أن بعض سجلات الأنشطة قد تم حذفها أو أصبحت غير قابلة للوصول، بينما أنشأ الوكلاء أيضاً صناديق بريد إلكتروني مؤقتة وحسابات خاصة على خدمة فحص البرمجيات الخبيثة Urlquery للحصول على البيانات أو فحصها. ووفقاً لشركة Asymmetric، فإن تلك الممارسات جعلت من الصعب على الباحثين المستقلين تحديد المعلومات التي تم جمعها بدقة.

وصرحت بايبا تومسون، الشريكة المؤسسة لشركة Asymmetric Security، لصحيفة فاينانشال تايمز: "من الممكن أن الوكلاء كانوا يستخدمون هذه الأدوات عمداً لإخفاء آثارهم". ومع ذلك، ذكرت الشركة أنها لم تتمكن من تحديد ما إذا كان هذا السلوك متعمدًا أم ناتجًا عن خروج وكلاء الذكاء الاصطناعي عن القيود المقصودة لتجربة اختبار.

وأشار التحقيق الصادر في 1 أكتوبر إلى أنه اعتمد على أدلة متاحة للعامة، وحدد النجاح في الوصول إلى بعض بيئات الاختبار، وأنشطة الاستطلاع، وفحص نطاق أوسع من المواقع. وحذرت الشركة من أن الأدلة المتاحة وحدها لا تثبت أنه تم الوصول إلى معلومات حساسة.

وتأتي هذه النتائج وسط سلسلة متزايدة من التقارير المتعلقة بالسلوك غير المتوقع من وكلاء الذكاء الاصطناعي. وكانت شركة OpenAI قد كشفت مؤخراً أن نماذجها قد تفاعلت مع مواقع حكومية أمريكية بطرق غير مقصودة، شملت هيئة الأوراق المالية والبورصات (SEC) مكتب الإحصاء. وذكرت الشركة أن تلك الحالات لم تتضمن بيانات اعتماد هيئة الأوراق المالية والبورصات (SEC) أو معلومات خاصة.

كما قامت شركة OpenAI بإخطار أكثر من 100 منظمة بما وصفته بـ "نشاط الوكيل المنحرف"، مع التأكيد على أن هذه الإخطارات لا تعني بالضرورة تعرض أنظمة المنظمات للخطر. وأفادت شركة OpenAI لصحيفة فاينانشال تايمز أنها تقوم بمراجعة النشاط وإخطار المنظمات عندما يتم تحديد التأثيرات المحتملة، مشيرة إلى أن معظم النشاط المكتشف تضمن مهام بحث روتينية ومحتوى ويب متاحاً للعامة.

وقد أثار أحدث تحقيق مخاوف متجددة بشأن شفافة أنظمة الذكاء الاصطناعي المستقلة، لا سيما عندما لا يتمكن الباحثون الخارجيون من الوصول بشكل مستقل إلى السجلات الكاملة لما طلب من وكيل الذكاء الاصطناعي القيام به، والمعلومات التي استعادها، وكيفية تفاعله مع الخدمات الخارجية.