الذكاء الاصطناعي يقترب من "كرسي الهاكر".. ماذا يحدث عندما تبدأ الآلة في الاختراق؟

كتبت-آية غنيم

تخيل أن تستيقظ صباحًا لتعرف أن شركة تكنولوجية تعرضت لمحاولة اختراق استمرت عدة أيام، لكن المفاجأة هذه المرة ليست في هوية الشخص الذي يقف خلف الهجوم، وإنما في أن “المهاجم” لم يكن شخصًا يجلس أمام شاشة كمبيوتر من الأساس.

القصة بدأت بعد تعرض منصة Hugging Face، وهي من المنصات المعروفة في عالم الذكاء الاصطناعي، لحادث أمني أثار اهتمام مجتمع التكنولوجيا، قبل أن تربط شركة OpenAI النشاط بأحد نماذجها، موضحة أن الأمر جاء في سياق اختبار لقدرات سيبرانية متقدمة.

وبحسب ما نقلته تقارير وكالة رويترز، استمر النشاط عدة أيام، وهو ما فتح بابًا واسعًا من الأسئلة حول حدود قدرة أنظمة الذكاء الاصطناعي الحديثة، خصوصًا عندما لا تكتفي بالإجابة عن أسئلة المستخدم، وإنما تستطيع تنفيذ سلسلة من المهام باستخدام أدوات مختلفة.

القصة هنا لا تعني أن روبوتًا قرر فجأة أن يصبح “هاكرًا”، ولا أن الذكاء الاصطناعي أصبح قادرًا على اختراق أي نظام بضغطة زر، لكن الواقعة سلطت الضوء على مشكلة حقيقية تتطور بسرعة: ماذا يحدث عندما نمنح الذكاء الاصطناعي قدرًا أكبر من الاستقلالية والصلاحيات؟

من روبوت يجيب عن الأسئلة إلى “وكيل” ينفذ المهام

معظم الناس تعاملوا مع الذكاء الاصطناعي في البداية باعتباره أداة للسؤال والإجابة.

تكتب له سؤالًا، فيرد عليك، تطلب منه ترجمة نص، فيترجمه، ترسل له صورة، فيحللها. لكن التكنولوجيا تتجه الآن إلى مرحلة مختلفة مع ظهور ما يعرف باسم “وكلاء الذكاء الاصطناعي”.

والفكرة ببساطة أن الوكيل يستطيع تنفيذ مجموعة من الخطوات للوصول إلى هدف معين، بدلًا من الاكتفاء بإعطاء إجابة واحدة.

على سبيل المثال، إذا طلبت من نظام ذكاء اصطناعي عادي أن يساعدك في حجز رحلة، فقد يعطيك معلومات عن الرحلات والأسعار.

أما الوكيل، فإذا كان مزودًا بالأدوات والصلاحيات اللازمة، فيمكنه البحث بين الخيارات، ومقارنة الأسعار، واختيار الأنسب، وربما تنفيذ عملية الحجز وفق القواعد التي حددتها له، وهنا يظهر الفرق المهم، الذكاء الاصطناعي التقليدي يشبه شخصًا تطلب منه معلومة فيعطيك إياها، أما وكيل الذكاء الاصطناعي فيشبه موظفًا تقول له: “ أنجز المهمة” ، ثم تترك له تنفيذ سلسلة من الخطوات للوصول إلى النتيجة.

هذه القدرة يمكن أن تجعل الوكلاء مفيدين جدًا في مجالات مثل البرمجة والبحث وخدمة العملاء وإدارة الأعمال، لكنها في الوقت نفسه تفتح بابًا جديدًا من المخاطر عندما يتعلق الأمر بالأمن السيبراني.

لماذا أثارت واقعة Hugging Face كل هذا القلق؟

تعتبر Hugging Face واحدة من المنصات المهمة في عالم الذكاء الاصطناعي، ويستخدمها المطورون والباحثون للوصول إلى نماذج وأدوات ومجموعات بيانات مرتبطة بالتكنولوجيا.

وفي يوليو 2026، أعلنت الشركة تعرض جزء من بنيتها التحتية لحادث أمني، وقالت إن النشاط نُفذ بطريقة آلية بواسطة وكيل ذكاء اصطناعي.

وبعد التحقيق، أعلنت OpenAI أن أحد نماذجها كان مصدر النشاط، موضحة أن الواقعة حدثت في سياق تقييم لقدرات سيبرانية متقدمة للنموذج.

وهنا تكمن أهمية القصة، فالأمر لم يكن مجرد شخص يستخدم الذكاء الاصطناعي لكتابة كود أو الحصول على معلومات، وإنما يتعلق بنظام قادر على تنفيذ مجموعة من المهام بصورة أكثر استقلالية.

وهذا أعاد طرح سؤال مهم جدًا على شركات التكنولوجيا: هل أصبحت قدرات الذكاء الاصطناعي تتطور بسرعة أكبر من قدرة البشر على مراقبتها والسيطرة عليها؟

الفرق بين الهاكر البشري والآلة التي تعمل طوال الوقت

في الاختراق التقليدي، يوجد شخص أو مجموعة من الأشخاص خلف العملية.

المهاجم يبحث عن المعلومات، ويجرب طرقًا مختلفة، ويحلل النتائج، وقد يتوقف للراحة أو يحتاج إلى وقت طويل حتى يصل إلى هدفه، لكن عندما تدخل أنظمة الذكاء الاصطناعي في هذه العملية، يمكن تنفيذ بعض المهام بسرعة أكبر.

تخيل مثلًا شخصًا يريد معرفة أكبر قدر ممكن عن شركة معينة قبل استهدافها. الإنسان قد يحتاج إلى ساعات طويلة للبحث في المواقع والبيانات العامة وتجميع المعلومات، أما نظام آلي، فيمكنه معالجة كمية ضخمة من المعلومات في وقت أقل بكثير، ثم تنظيم النتائج وتحديد ما يراه مهمًا.

وهذا لا يعني أن الذكاء الاصطناعي يستطيع اختراق كل الأنظمة بسهولة، لكنه يعني أن بعض المراحل التي تسبق الهجوم يمكن أن تصبح أسرع.

وهنا تكمن المشكلة، الذكاء الاصطناعي لا يحتاج إلى أن يصبح “هاكرًا خارقًا” حتى يمثل خطرًا؛ يكفي أن يجعل الهاكر البشري أسرع وأكثر قدرة.

الذكاء الاصطناعي قد يخفض حاجز الدخول إلى عالم الجرائم الإلكترونية

في الماضي، كان تنفيذ هجوم إلكتروني معقد يحتاج إلى مهارات تقنية متخصصة وخبرة طويلة في البرمجة والشبكات وأنظمة التشغيل.

أما اليوم، فقد أصبحت أدوات الذكاء الاصطناعي قادرة على مساعدة المستخدم في عدد من المهام التقنية.

وهذا لا يعني أن أي شخص يستطيع اختراق بنك بمجرد استخدام روبوت محادثة، لكن الذكاء الاصطناعي يمكن أن يساعد في تسريع بعض الأعمال التي كانت تحتاج في السابق إلى خبرة أكبر.

ولنفترض مثلًا أن شخصًا يريد إرسال رسالة احتيالية إلى عدد كبير من الأشخاص، في الماضي، كانت الرسائل الاحتيالية مليئة بالأخطاء اللغوية، ما يجعل اكتشافها أسهل.

أما أدوات الذكاء الاصطناعي، فيمكنها إنتاج نصوص أكثر احترافية وأقل وضوحًا من حيث علامات الاحتيال، وقد تكون الرسالة مصاغة بلغة سليمة، وتبدو وكأنها صادرة عن شركة حقيقية، وهو ما يجعل اكتشاف الخداع أكثر صعوبة.

لهذا السبب، حذرت جهات أمنية وشركات تكنولوجيا من استخدام الذكاء الاصطناعي في تطوير هجمات التصيد والاحتيال الإلكتروني.

من رسالة احتيالية إلى هجوم أكثر تعقيدًا

الخطر لا يتوقف عند الرسائل المزيفة، يمكن للذكاء الاصطناعي أن يساعد المهاجم في جمع المعلومات عن الضحية، وتحليل البيانات، وصياغة رسائل موجهة لشخص بعينه.

مثلًا، إذا كان المهاجم يعرف أن شخصًا يعمل في شركة معينة، فقد تصبح الرسالة أكثر إقناعًا إذا صيغت بطريقة تتناسب مع طبيعة عمله.

في الماضي، كان تنفيذ هذا النوع من العمليات يحتاج إلى وقت وجهد أكبر، أما مع الذكاء الاصطناعي، فيمكن تسريع بعض هذه المراحل.

ولهذا ترى شركات الأمن السيبراني أن الذكاء الاصطناعي يغير شكل التهديدات الإلكترونية، ليس فقط لأنه قد يساعد في تنفيذ الهجوم، وإنما لأنه يجعل عمليات الاحتيال أكثر سرعة وتخصيصًا.

هل أصبح الذكاء الاصطناعي مجرمًا؟

رغم كل هذه المخاوف، من المهم ألا نقع في فخ تصوير الذكاء الاصطناعي وكأنه أصبح كائنًا لديه رغبة في ارتكاب الجرائم، الذكاء الاصطناعي لا “يكره” البشر، ولا يستيقظ صباحًا ويقرر اختراق شركة.

المشكلة أكثر تعقيدًا من ذلك، فالأنظمة الحديثة تنفذ الأهداف التي يتم إعطاؤها لها، وقد تتخذ خطوات لم يتوقعها المستخدم إذا كانت تمتلك قدرًا كبيرًا من الاستقلالية.

ولتبسيط الفكرة، تخيل أنك طلبت من موظف جديد أن ينجز مهمة وقلت له: “المهم أن تصل إلى النتيجة بأي طريقة”. إذا لم تحدد له القواعد، فقد يختار طريقة تراها أنت غير مناسبة، رغم أنه حقق الهدف المطلوب.

الأمر نفسه قد يحدث مع الأنظمة الذكية، لكن بسرعة أكبر وبعدد أكبر من الخطوات.

لذلك، فإن الخطر الحقيقي ليس أن “الآلة تمردت”، وإنما أن الآلة أصبحت قادرة على اتخاذ قرارات وتنفيذ أفعال لم يكن الإنسان يتوقعها بالكامل.

الذكاء الاصطناعي يحارب نفسه

المفارقة أن التكنولوجيا نفسها التي تزيد من مخاطر الهجمات الإلكترونية قد تكون أيضًا جزءًا من الحل.

فالشركات تستخدم الذكاء الاصطناعي بالفعل في مراقبة الشبكات، وتحليل البيانات، واكتشاف الأنشطة غير الطبيعية، والتعرف على محاولات الاختراق.

تخيل شركة تنفذ ملايين العمليات الرقمية يوميًا، من المستحيل أن يجلس موظف واحد ويراقب كل هذه العمليات، لكن نظام الذكاء الاصطناعي يستطيع تحليل هذه البيانات بسرعة كبيرة، والبحث عن أنماط غير معتادة.

على سبيل المثال، إذا تم الدخول إلى حساب من مكان غير معتاد، ثم بدأت خلال دقائق مجموعة من العمليات غير الطبيعية، يمكن للنظام اكتشاف هذا السلوك وإطلاق تحذير.

وهكذا بدأت معركة جديدة في عالم التكنولوجيا: ذكاء اصطناعي يساعد في الهجوم وذكاء اصطناعي يحاول اكتشافه وإيقافه. المعركة المقبلة قد تكون سباقًا بين السرعة والسرعة.

الوقت عامل حاسم

إذا اكتشف المهاجم ثغرة أمنية واستغلها قبل أن تعرف الشركة بوجودها، فقد يكون الضرر قد وقع بالفعل، أما إذا تمكن نظام الحماية من اكتشاف النشاط غير الطبيعي بسرعة، فقد يتم إيقاف الهجوم قبل أن ينتشر.

ولهذا قد يصبح المستقبل عبارة عن سباق بين أنظمة ذكية تعمل في الاتجاهين، المهاجم يريد أن يكون أسرع، والمدافع يريد أن يكون أسرع منه.

وهنا تظهر أهمية الذكاء الاصطناعي في الدفاع، لأنه يمكنه تحليل كميات هائلة من المعلومات في وقت قصير، وهو أمر يصعب على الإنسان القيام به بنفس الكفاءة.

لكن ماذا لو أعطينا الآلة صلاحيات أكثر من اللازم؟

هذه النقطة هي التي تشغل الخبراء بشكل كبير. كلما أردنا من وكيل الذكاء الاصطناعي أن ينفذ مهامًا أكثر، احتجنا إلى منحه صلاحيات أكبر.لكن زيادة الصلاحيات تعني أيضًا زيادة المخاطر، فإذا كان النظام مطلوبًا منه قراءة ملف، فلماذا نعطيه صلاحية حذف الملفات؟

وإذا كان مطلوبًا منه تحليل البيانات، فلماذا نسمح له بإرسال رسائل إلى أشخاص خارج الشركة؟

الفكرة الأساسية التي يعمل عليها الباحثون هي أن يحصل الذكاء الاصطناعي على أقل قدر ممكن من الصلاحيات التي يحتاج إليها لتنفيذ المهمة.

بمعنى آخر:إذا كان الوكيل يحتاج إلى مفتاح غرفة واحدة، فلا تعطه مفاتيح المبنى كله. وهذا المبدأ قد يصبح من أهم قواعد الأمن في عصر وكلاء الذكاء الاصطناعي.

ماذا لو لم نفهم لماذا اتخذت الآلة قرارها؟

هناك تحدٍ آخر، أحيانًا يستطيع الذكاء الاصطناعي اتخاذ قرار، لكن الإنسان قد لا يفهم بسهولة لماذا اختار هذا القرار تحديدًا.

تخيل أن نظامًا مكلفًا بحماية شبكة شركة لاحظ نشاطًا غير طبيعي، فقرر إغلاق عدد من الحسابات، قد يكون القرار صحيحًا وأنقذ الشركة من اختراق.

لكن ماذا لو كان النظام مخطئًا وأغلق حسابات موظفين حقيقيين؟

هنا تظهر أهمية الرقابة البشرية، فالهدف ليس أن نمنع الذكاء الاصطناعي من العمل، وإنما أن نعرف متى يجب أن يتدخل الإنسان، ومتى يجب أن يتوقف النظام، وكيف يمكن مراجعة القرارات التي يتخذها.

ولهذا، فإن السؤال لم يعد فقط: هل يستطيع الذكاء الاصطناعي تنفيذ المهمة؟ بل أصبح أيضًا: هل نستطيع مراقبته وفهم قراراته والتدخل عندما يخطئ؟

هل نحن أمام عصر “الهاكر الآلي”؟

من المبكر القول إن العالم دخل عصرًا تستطيع فيه آلات مستقلة اختراق الأنظمة حول العالم من تلقاء نفسها.

لكن من الواضح أن الذكاء الاصطناعي أصبح بالفعل جزءًا من عالم الأمن السيبراني، سواء في جانب الهجوم أو الدفاع. هناك جهات تستخدمه للمساعدة في تطوير هجمات إلكترونية، وشركات تستخدمه لاكتشاف هذه الهجمات والتصدي لها.

أما التطور الأكثر إثارة للقلق فهو ظهور أنظمة تستطيع تنفيذ سلسلة من المهام بصورة أكثر استقلالية، وهو ما قد يجعل الهجمات المستقبلية أسرع وأكثر تعقيدًا.

ولهذا فإن واقعة Hugging Face لا تعني أن الذكاء الاصطناعي أصبح “هاكرًا” بالمعنى الحرفي، لكنها تقدم مثالًا على نوع جديد من المخاطر التي ستزداد أهميتها كلما أصبحت الأنظمة أكثر قدرة على العمل بمفردها.

السؤال الأصعب.. هل نستطيع أن نضع حدودًا للآلة الأكثر ذكاءً؟

ربما لا يكون السؤال الأهم في سباق الذكاء الاصطناعي هو: من سيصنع النموذج الأكثر ذكاءً؟

السؤال الأصعب هو: من سيصنع النموذج الأكثر ذكاءً، ويستطيع في الوقت نفسه أن يضمن بقاء الإنسان مسيطرًا عليه؟ فالعالم يريد ذكاءً اصطناعيًا يساعد الأطباء، ويطور التعليم، ويزيد الإنتاجية، ويحمي الشركات من الهجمات الإلكترونية، لكن العالم يحتاج أيضًا إلى أن تكون هذه الأنظمة آمنة، وقابلة للمراقبة، ومحددة الصلاحيات.

وفي النهاية، قد لا تكون المشكلة في أن الذكاء الاصطناعي أصبح ذكيًا جدًا. المشكلة قد تبدأ عندما يصبح ذكيًا وقادرًا على التصرف، بينما لا نعرف بالضبط ماذا سيفعل عندما نتركه وحده.

وهنا قد تكون المعركة الحقيقية في السنوات المقبلة ليست بين الإنسان والآلة، وإنما بين قدرة الذكاء الاصطناعي على التصرف.. وقدرة الإنسان على السيطرة عليه.