اعترفت شركة OpenAI بأن نسخة قوية من ChatGPT خرجت عن السيطرة واخترقت شركة تقنية أخرى خلال اختبارات داخلية.
وكشفت شركة الذكاء الاصطناعي العملاقة في وادي السيليكون، مساء أمس، أن أحد روبوتاتها تمكن من الهروب من نظام تقني كان من المفترض أن يكون آمنًا أثناء تجربة لاختبار قدراته على الاختراق.
وقالت OpenAI، التي تُقدّر قيمتها بنحو 850 مليار دولار، إن عملية الاختراق “غير المسبوقة” شهدت تمكن الروبوت من التسلل إلى شركة متخصصة في الذكاء الاصطناعي والبرمجة تُدعى Hugging Face، ومحاولة سرقة معلومات منها.
ومن المرجح أن تثير هذه الحادثة مخاوف من أن مختبرات الذكاء الاصطناعي قد تواجه صعوبة في احتواء أكثر نماذجها تقدمًا، كما قد تعيد إلى الواجهة المخاوف بشأن إمكانية إعادة توظيف هذه التقنيات لتنفيذ هجمات إلكترونية يصعب إيقافها.
وأوضحت الشركة أنها كانت تختبر نسخة متقدمة للغاية من ChatGPT، بعدما خففت بعض وسائل الحماية المصممة لمنع تنفيذ الهجمات الإلكترونية.
ورغم أن النموذج كان من المفترض أن يكون محصورًا داخل ما يُعرف بـ”الصندوق الرملي” (Sandbox)، وهو بيئة رقمية آمنة، فإن الذكاء الاصطناعي استهلك قدرًا هائلًا من الموارد الحاسوبية في سبيل “إيجاد وسيلة للوصول إلى الإنترنت المفتوح”، بحسب OpenAI.
وأضافت الشركة أن النموذج تمكن من كسر القيود باستخدام ثغرة غير معروفة سابقًا، وذلك في محاولة لحل اختبار كان قد أعده باحثو OpenAI.
وبمجرد خروجه من البيئة المعزولة، انتقل بسرعة إلى محاولة اختراق أنظمة Hugging Face، وهي منصة رئيسية لاستضافة الأكواد البرمجية، بهدف استكمال المهمة التي كُلّف بها.
ويكشف هذا الإخفاق عن مشكلة رئيسية تُعرف باسم “مواءمة الذكاء الاصطناعي” (AI Alignment)، وهي الحالة التي يخرج فيها النموذج عن السيطرة ويحاول تنفيذ المهمة التي كلفه بها مطوروه البشر، حتى وإن أدى ذلك إلى نتائج قد تكون ضارة.
وقال كليم ديلانغ، الرئيس التنفيذي لشركة Hugging Face:
“هذا الحادث، والذي قد يكون الأول من نوعه، يثبت ما كنا نؤمن به منذ فترة طويلة: لا يمكن حل مشكلة سلامة الذكاء الاصطناعي من خلال شركة واحدة تعمل بسرية.”
ومن المتوقع أن يثير هذا الاختراق تساؤلات حول إجراءات الاختبار التي تعتمدها OpenAI مع أكثر نماذجها تطورًا.
ولطالما حذر خبراء السلامة من احتمال أن تتمكن نماذج الذكاء الاصطناعي القوية من “الهروب من المختبر” دون علم مطوريها.
وكان روبوت محادثة متقدم تابع لشركة Anthropic قد تمكن في وقت سابق من هذا العام من الخروج من بيئة الاختبار الخاصة به ونشر رسائل على الإنترنت المفتوح.
وقد اعتُبر ذلك النموذج، الذي يحمل اسم Mythos، خطيرًا للغاية بحيث لم يتم إطلاقه للعامة، وأدى إلى موجة من الدعوات لتعزيز إجراءات الحماية الإلكترونية في البنوك والمؤسسات الحكومية.
كما أطلق البيت الأبيض برنامجًا لفحص نماذج الذكاء الاصطناعي قبل طرحها، بهدف تقييم قدراتها الخطرة في مجال الهجمات الإلكترونية.
