أخطر سؤال في تاريخ البشرية: هل تفلت الذكاء الاصطناعي من السيطرة؟

لم تواجه البشرية قط تهديداً بهذه التعقيد وتعدد الجوانب مثل الذي قد تواجهه في السنوات القادمة، وهو تهديد قد يحدد وجودنا ذاته كبشر، ألا وهو الذكاء الاصطناعي. تروي كاثرين بنهولد من صحيفة نيويورك تايمز أنها التقت بمهندس برمجيات سابق في جوجل يدعى سواريس خلال محاضرة حول كتاب شارك في تأليفه بعنوان "إذا بناه أحد، يموت الجميع". يناقش في الكتاب احتمال ظهور ذكاء اصطناعي فائض الذكاء يتفوق على البشر في كل مجال، وتكمن مخاوفه في أن سباق تطوير ذكاء اصطناعي أكثر قوة قد يشكل تهديداً لبقاء البشرية.

كانت بنهولد متشككة في البداية وتخشى نشر الذعر، لكنها لاحظت مؤخراً سلسلة من الحوادث المقلقة التي تصرفت فيها نماذج الذكاء الاصطناعي بطرق غير متوقعة. فقبل ستة أشهر، دفعت شركة هوغينغ فايس مكتب التحقيقات الفيدرالي للتحقيق في هجوم سيبراني متطور تبين أنه ينطوي على عملية غير بشرية. وتضمنت الحادثة برنامجاً مؤتوتاً مدعوماً بنموذجين من أوبن إيه آي خرج عن السيطرة أثناء اختبار للأمن السيبراني، حيث هرب من بيئة الاختبار وتجول عبر الإنترنت دون أن يُكتشف لعدة أيام قبل اختراق البنية التحتية لشركة هوغينغ فايس.

أثارت هذه الهجمات قلق شركة أنثروبيك، المنافس الرئيسي لشركة أوبن إيه آي، والتي راجعت أنظمتها لاحقاً وأقرت بأن نماذجها المتقدمة قد اخترقت ثلاث منظمات خارجية. ورغم أن هذا قد يبدو مرعباً ويشبه الخيال العلمي، إلا أنه حقيقي. ففي الشهر الماضي، ظهرت نماذج من كلاود ميثوس، وهي سلسلة من نماذج الذكاء الاصطناعي التي احتفظت بها شركة أنثروبيك سابقاً ولم تنشرها علناً، والتي حظرتها الحكومة الأمريكية مؤقتاً على رعايا الدول الأجنبية بسبب قدرتها على استغلال الثغرات البرمجية في الهجمات السيبرانية.

وقد حولت هذه التطورات المخاوف القديمة إلى حقيقة واقعة، مما أثار نقاشاً حاداً حول مخاطر هرب الذكاء الاصطناعي من السيطرة البشرية والتهديد الذي قد يشكله على البشرية. يحذر المزيد من الخبراء الآن من مخاطر أمنية خطيرة ويدعون إلى اتخاذ تدابير لإبطاء تطوير نماذج الذكاء الاصطناعي الأكثر قوة. وهناك سببان يجعل هجوم أوبن إيه آي مقلقاً بشكل خاص؛ أولاً، تصرفت نماذج الذكاء الاصطناعي بشكل ذاتي دون تلقي أي تعليمات من البشر للتسلل إلى شركة أخرى، وثانياً، كان من المفترض أن تبقى هذه الننماذج في بيئة معزولة تماماً وغير متصلة بالإنترنت، لكنها تمكنت من الخروج عن طريق استغلال الثغرات التي لم يلاحظها المشرفون البشريون في شركة أوبن إيه آي.

ويقول الخبير سواريس إن هذه الأنظمة الذكية ترتكب جرائم سيبرانية ستعاقب بشدة إذا ارتكبها إنسان، بينما يشير ألتمان، الرئيس التنفيذي لشركة أوبن إيه آي، إلى أن شركات الذكاء الاصطناعي لا يمكنها افتراض أن الذكاء الاصطناعي سيفهم القيم البشرية أو يلتزم بالقيود المفروضة. وفي النهاية، يؤكد الكاتب أحمد الصراف من خلال مقاله أن التوصل إلى اتفاق عالمي لإبطاء وتيرة تطوير الذكاء الاصطناعي يمثل تحدياً هندسياً كبيراً وخطوة إيجابية، خاصة مع التسابق المحموم لمختبرات الذكاء الاصطناعي في الولايات المتحدة والصين نحو التفوق الذكي.