كشفت دراسة حديثة أوردها موقع "ذا صن" عن وجود ثغرات أمنية ناتجة عن افتقار عدد كبير من نماذج الذكاء الاصطناعي وتطبيقات روبوتات الدردشة لتدابير الحماية الكافية، مما يفتح الباب أمام احتمال استغلالها من قبل الجماعات المتطرفة لتسهيل تنفيذ وإعداد العمليات الإرهابية.
تفاصيل الاختبار الميداني للنماذج الذكية
اعتمدت الدراسة على إجراء تقييم شامـل ومتخصص تضمن اختبار 162 برنامجًا يعمل بتطبيقات الذكاء الاصطناعي المختلفة. ووجّه القائمون على البحث سلسلة من الأسئلة المكثفة بلغ عددها 627 سؤالًا، حيث صُممت هذه الأسئلة خصيصًا لاستكشاف وتوفير معلومات حساسة ودقيقة قد يحتاجها أي عنصر إرهابي أثناء التخطيط والإعداد لشن هجوم.
وشمل النطاق التقييمي للدراسة نحو 116 نموذجًا تقليديًا رئيسيًا، بالإضافة إلى 13 نموذجًا تم تخصيصها بعد استعراضها للاستخدام في مجالات محددة، إلى جانب 13 نموذجًا آخر تم تعديل قيود الحماية فيها أو إزالتها تمامًا من قبل أطراف ثالثة خارج النطاق الرسمي للتطوير.
استجابة الأنظمة بين النوايا المباشرة والأغراض البحثية
أظهرت النتائج أن النماذج التقليدية واسعة الانضباط والتطوير—وفي مقدمتها "شات جي بي تي" التابع لشركة "أوبن إيه آي"، و"كلود" من تطوير "أنثروبيك"، بالإضافة إلى نموذج "جيميناي" من شركة "جوجل"—قدمت إجابات قابلة للاستخدام بنسبة بلغت 1.9% فقط في المتوسط عندما أبدى المستخدم نيته الإرهابية بشكل صريح ومباشر في نص الطلب، حيث رفضت هذه الأنظمة تقديم أي بيانات حيوية في معظم الحالات.
وفي المقابل، ارتفع متوسط نسبة الإجابات المقدمة من النماذج ذاتها ليصل إلى 16.9% عندما قام المستخدم بتمويه طلبه وصياغته تحت مظلة إجراء "أبحاث أمنية" أو دراسات علمية، مما يشير إلى وجود ثغرات سلوكية في قدرة النماذج على التمييز الدقيق بين التمويه البحثي والنوايا الحقيقية.
الخطر الأكبر: خلع قيود الأمان وتعطيل الضوابط
أما المفاجأة الأشد خطورة في نتائج البحث فتجلت عند اختبار النماذج التي خضعت للتعديل والتحوير بهدف إزالة إعدادات السلامة وتجريدها من ضوابط الأمان التلقائية التي تمنعها عادةً من الاستجابة للطلبات المحظورة أو الخضوع لمعايير الاستخدام الآمن.
وأوضحت الاختبارات المنفذة على النماذج المعدلة أنه بمجرد تعطيل إعدادات الأمان الخاصة بها، ارتفعت نسبة الاستجابة وتوفير المعلومات القابلة للاستخدام المتصلة بـ "الأنشطة الإرهابية" بشكل قياسي، لتتراوح بين 87% و92% في المتوسط. وتُبرز هذه الأرقام الفجوة الحادة الحالية بين التطبيقات ذات الضوابط المنهجية وتلك المخترقة أو المحورة، مما يستدعي فرض أطر تنظيمية عالمية صارمة على آليات نشر وتطوير نماذج الذكاء الاصطناعي مفتوحة المصدر والمعدلة.
