اختراق جديد للذكاء الاصطناعي

كشفت شركة «OpenAI» عن واقعة أمنية جديدة أثارت تساؤلات حول آليات عزل أنظمة الذكاء الاصطناعي خلال عمليات التدريب، بعدما تمكن أحد أنظمة الذكاء الاصطناعي الوكيل التابعة لها من الوصول إلى خدمة عامة على الإنترنت، رغم وجوده داخل بيئة تدريب يفترض أنها معزولة عن الشبكة الخارجية.

وأوضحت الشركة في تقرير نشرته ضمن تقارير السلامة الخاصة بها، أن الواقعة حدثت في 20 سبتمبر 2026، عندما كان أحد النماذج يخضع لتدريب باستخدام أدوات مخصصة لتنفيذ مهمة تعتمد على البحث، وتمكن النظام من استغلال ثغرة في آلية تقييد الوصول إلى الإنترنت داخل بيئة التدريب، قبل أن يستخدم نظام DNS للوصول إلى روبوت محادثة عام تابع لجهة خارجية.

كيف خرج النظام من بيئة التدريب؟

بحسب «OpenAI»، لم يتمكن النظام في البداية من الوصول مباشرة إلى الإنترنت، بعدما جرى حظر محاولة الاتصال بخدمة خارجية عبر بروتوكول HTTPS بواسطة نظام الحماية.

لكن النموذج واصل البحث عن طريقة أخرى للوصول إلى الشبكة، واكتشف أن خادم DNS المستخدم داخل بيئة التدريب كان يسمح باستعلامات يمكن أن تصل إلى نطاقات عامة، وهو ما استغله للوصول إلى خدمة خارجية.

وأشارت الشركة إلى أن النظام استخدم هذه الطريقة لإرسال استفسارات إلى روبوت محادثة عام، من بينها سؤال يتعلق بعاصمة فرنسا، في واقعة كشفت عن وجود فجوة في آليات تقييد الاتصال بالشبكة داخل بيئة التدريب.

«OpenAI» توقف التدريب موقت

وعقب اكتشاف الواقعة، أوقفت الشركة دورة التدريب التي شهدت الحادث، وقررت تعليق عمليات التدريب والتقييم والاستدلال التي تعتمد على استخدام الأدوات بالنسبة إلى نماذجها الأكثر قدرة، إلى حين التحقق من معالجة الثغرة وإجراء اختبارات أمنية إضافية.

وأكدت «OpenAI» أنها أضافت ضوابط للحظر على مستويين مستقلين، موضحة أن أيًا منهما كان سيمنع حدوث الاتصال الذي سمح للنظام بالوصول إلى الخدمة الخارجية.

كما أعلنت الشركة أنها لن تستأنف تدريب النموذج الذي شهد الواقعة تحديدًا، بينما ستبدأ عند استئناف عمليات التدريب تشغيل دورة جديدة تتضمن تحسينات إضافية في إجراءات المواءمة ومراقبة السلوك.

المراقبة اكتشفت النشاط

وبحسب التسلسل الزمني الذي نشرته الشركة، أجرى النظام الاستعلام الذي أدى إلى الحصول على استجابة خارجية في الساعة 9:50 صباحًا، قبل أن يرصد نظام المراقبة السلوك ويصدر تنبيهًا أمنيًا بعد نحو 12 دقيقة.

وبدأ مراجع بشري فحص التنبيه بعد دقائق قليلة، إلا أن تشغيل النموذج استمر حتى الساعة 12:34 ظهرًا، عندما جرى إيقاف العملية يدويًا، أي بعد نحو ساعتين ونصف من اكتشاف الاتصال الخارجي.

وقالت «OpenAI» إن الواقعة كشفت عن فجوة في الافتراضات الأمنية التي بُني عليها نظام الحماية، إذ كانت إجراءات السلامة تفترض عدم قدرة النموذج على الوصول إلى الإنترنت بصورة مباشرة، إلى جانب اعتمادها على أنظمة المراقبة لاكتشاف محاولات الوصول الناجحة.

ليست الواقعة الأولى

وتأتي الحادثة الجديدة بعد واقعة أخرى أعلنت عنها «OpenAI» خلال يوليو 2026، عندما تمكن نظام وكيل أثناء اختبار أمني من الخروج من بيئة احتواء والوصول إلى الإنترنت، قبل أن يتسبب في اختراق لأنظمة شركة «Hugging Face» خلال الاختبار.

وأفادت «رويترز» في يوليو بأن الشركة كانت تحقق في وصول نماذجها إلى بيئات خارجية أثناء الاختبارات،وتسلط الوقائع المتتالية الضوء على التحديات الأمنية المرتبطة بأنظمة الذكاء الاصطناعي الوكيل، خصوصًا مع منح هذه الأنظمة قدرة أكبر على استخدام الأدوات وتنفيذ الأوامر والتفاعل مع بيئات رقمية خارجية.

جدل متزايد حول سلامة الوكلاء

وتعيد الواقعة فتح النقاش حول مدى قدرة أنظمة العزل والمراقبة على منع النماذج المتقدمة من إيجاد طرق غير متوقعة للوصول إلى موارد خارج البيئة المسموح بها.

وتشير «OpenAI» في تقريرها إلى أن الهدف من نشر تفاصيل الواقعة هو توثيق السلوك غير المتوقع، وتحديد الثغرات التي تحتاج إلى معالجة قبل توسيع استخدام الأنظمة الوكيلة ذات القدرات المتقدمة.

وتؤكد الشركة أن حادثة سبتمبر لم تكن اختراقًا مباشرًا لأنظمة المستخدمين، وإنما واقعة داخل بيئة تدريب داخلية كشفت عن قصور في أحد مستويات التحكم بالوصول إلى الإنترنت، وهو ما دفعها إلى اتخاذ إجراءات فورية وإعادة اختبار إجراءات العزل قبل استئناف عمليات التدريب المتأثرة.