لأسباب أخلاقية.. دولتان إسلاميتان تحظران تطبيق ذكاء اصطناعي

تصاعد القلق العالمي من انفلات تقنيات الذكاء الاصطناعي ، فجّرت إندونيسيا وماليزيا مفاجأة مدوية بحظر تطبيق «جروك» التابع للملياردير إيلون ماسك قرار صادم جاء على خلفية اتهامات خطيرة للتطبيق بقدرته على إنتاج صور ذات طابع جنسي لأشخاص دون علمهم أو موافقتهم ، ما فتح بابًا واسعًا للجدل حول أخلاقيات الذكاء الاصطناعي وحدود استخدامه ، وأعاد ملف الخصوصية الرقمية إلى الواجهة بقوة.

برنامج دردشة آلي لإنتاج آلاف الصور

ويستخدم برنامج الدردشة الآلي " جروك "، الذي طورته شركة "إكس إيه آي" التابعة لرجل الأعمال إيلون ماسك، والمتاح عبر منصة التواصل الاجتماعي "إكس"، لإنتاج آلاف الصور لأشخاص حقيقيين في أوضاع غير لائقة، بمن فيهم أطفال. وأعلنت دولتا جنوب شرق آسيا عن الحظر خلال عطلة نهاية الأسبوع، بينما يدرس المسؤولون في المملكة المتحدة وأوروبا وأستراليا وكندا والهند اتخاذ إجراءات مماثلة.

صرح موتيا حظر المحتوى لحماية النساء والأطفال وعامة الناس 

وصرح وزير الاتصالات والشؤون الرقمية الإندونيسي، موتيا حفيظ، في بيان له أن الحظر يهدف إلى "حماية النساء والأطفال وعامة الناس من مخاطر المحتوى الإباحي المُزيّف المُولّد باستخدام تقنية الذكاء الاصطناعي" وأبلغ مسؤولون ماليزيون وسائل الإعلام المحلية أن الحظر جاء عقب إساءة استخدام تطبيق جروك بشكل متكرر لإنشاء صور فاحشة، وجنسية صريحة، وغير لائقة، ومسيئة للغاية، وصور مُعدّلة دون موافقة، بما في ذلك محتوى يتضمن نساءً وقاصرين.

هيئة الاتصالات وضع ضمانات أكثر فعالية ضد المستخدمين

وأعلنت هيئة الاتصالات والوسائط المتعددة الماليزية أنها وجهت إشعارات إلى شركتي X وxAI في وقت سابق من هذا الشهر، مطالبةً بوضع ضمانات أكثر فعالية ضد المستخدمين الذين يُنشئون صورًا جنسية لأشخاص حقيقيين. أطلق السيد ماسك تطبيق Grok في عام 2023، مُسوّقًا له كبديل جريء لبرامج الدردشة الآلية التي تعمل بالذكاء الاصطناعي "المُراعية للسياسة" مثل ChatGPT من OpenAI ، وأثارت أداة الذكاء الاصطناعي جدلًا واسعًا الصيف الماضي بعد أن أشاد تحديثٌ لها بأدولف هتلر ودعم محرقة ثانية.

معالجة مشكلة المحتوى المتطرف

وهدف تحديث لاحق إلى معالجة مشكلة المحتوى المتطرف ، إلا أن إضافة "وضع جريء" بعد أسابيع قليلة سمحت لها بإنشاء محتوى للبالغين ، ويرى خبراء التكنولوجيا والاتصال أنه لا بد من حجب أعمال شركة xAI بموجب قانون السلامة على الإنترنت والذي يمنح العديد من الدول صلاحية حجب خدماتها في حال رفضها الامتثال للقانون، ومن المتوقع أن تعمل بعض الدول خلال الأسابيع القادمة على تفعيل صلاحيات تجريم إنشاء صور حميمة دون موافقة أصحابها.