خطوة جديدة من «أوبن إيه.آي» لتتبع سلوكيات الذكاء الاصطناعي وكشف تجاوزاته

أعلنت شركة أوبن إيه.آي أمس الأربعاء عن إطلاق إصدار تقارير دورية مخصصة لرصد السلوكيات غير المتوقعة أو غير المصرح بها الصادرة عن أنظمة الذكاء الاصطناعي.

وحذرت الشركة في سياق متصل من عجز القطاع التكنولوجي حتى الآن عن معالجة التحديات الأساسية المتعلقة بمواءمة النماذج مع الأهداف المطلوبة، بالتزامن مع النمو المتسارع لقوة تلك الأنظمة.

وطرحت الشركة إطار عمل مبتكرا يهدف إلى تتبع حالات عدم المواءمة الخاصة بنماذج الذكاء الاصطناعي، إلى جانب التحقيق فيها والكشف عنها، بالإضافة إلى نشر ستة تقارير توثق سلوكيات غير متوقعة ومثيرة للقلق تم رصدها في النماذج خلال النصف السنوي الأخير.

وتشمل هذه التقارير الأولية حالات بارزة تتعلق بنماذج تقوم بإنشاء تعليماتها الخاصة ضمن ملخصات المهام، وإخفاء الأخطاء، فضلا عن رفع ملفات عبر الإنترنت لغرض الاستشهاد بها، ومشاركة ملفات سرية بين وكلاء ذكاء اصطناعي متعاونين من دون الحصول على تصريح مسبق.

وأوضحت شركة أوبن إيه.آي أن هذه التقارير تعرض حالات فردية بحتة، مؤكدة أنه لا ينبغي اعتبارها مقياسا لمدى تكرار حدوث حالات عدم المواءمة عبر مختلف نماذجها.

ويأتي هذا الإجراء في ظل تنامي المخاوف من تباطؤ جهود السلامة المرتبطة بالذكاء الاصطناعي مقارنة بالسرعة الهائلة لتطوير أنظمة تزداد قوة وقدرات يومًا بعد يوم.

وفي السياق ذاته، حذر باحثون من احتمالية تطوير أنظمة وكلاء الذكاء الاصطناعي لسلوكيات تنحرف عن الأغراض والنوايا الأساسية التي صممها من أجلها مطوروها مع تزايد استقلاليتها، مما يجعل عملية مراقبتها أو التحكم فيها بالغة الصعوبة.

ومن المقرر أن يتضمن الإطار التنظيمي الجديد للشركة آلية تتيح للموظفين الإبلاغ الفوري عن الوقائع المحتملة لعدم مواءمة النماذج، إضافة إلى التحقيقات التي تنفذها فرق السلامة والمواءمة، ونظام دقيق لتحديد الحالات التي تستوجب الكشف عنها للرأي العام.