قالت هيئة مراقبة وسائل الإعلام في المملكة المتحدة إنها ستحدد ما إذا كانت منصة التواصل الاجتماعي X التابعة لإيلون موسك قد فشلت في الامتثال لالتزاماتها القانونية بموجب قانون السلامة عبر الإنترنت
أطلقت Ofcom اليوم تحقيقًا رسميًا في Elon Musk’s X بشأن الصور الجنسية العميقة التي تنتجها أداة الدردشة الآلية للذكاء الاصطناعي.
وقالت هيئة مراقبة وسائل الإعلام في المملكة المتحدة إنها ستحدد ما إذا كانت منصة التواصل الاجتماعي قد فشلت في الامتثال لالتزاماتها القانونية بموجب قانون السلامة عبر الإنترنت. إذا حدث ذلك، فإن Ofcom لديها القدرة على تغريمهم ما يصل إلى 18 مليون جنيه إسترليني أو ما يصل إلى 10٪ من إيراداتهم العالمية.
ويمكنها أو فرض إجراءات أخرى لتعطيل الأعمال، مثل مطالبة مقدمي خدمات الدفع أو الخدمات الإعلانية بالانسحاب من الموقع. وتعهدت Ofcom بالمضي قدماً في التحقيق باعتبارها “مسألة ذات أولوية قصوى”.
ورحبت وزيرة التكنولوجيا ليز كيندال بالتحقيق الرسمي وحثت Ofcom على إكماله “بسرعة”. وأضافت أنها ستقدم تحديثًا بشأن رد الحكومة على النواب في مجلس العموم بعد ظهر اليوم.
قالت السيدة كيندال: “أرحب بإلحاح Ofcom في إطلاق تحقيق رسمي اليوم. من المهم أن تكمل Ofcom هذا التحقيق بسرعة لأن الجمهور – والأهم من ذلك الضحايا – لن يقبلوا أي تأخير. كان المحتوى الذي تم إنشاؤه ومشاركته باستخدام Grok في الأيام الأخيرة مزعجًا للغاية وسأقوم بإبلاغ البرلمان في وقت لاحق اليوم بشأن رد الحكومة “.
أجرت Ofcom الأسبوع الماضي “اتصالات عاجلة” مع Musk’s X وxAI بشأن “مخاوف جدية” من أن أداة الذكاء الاصطناعي الخاصة بها، Grok، قد التقطت صورًا جنسية للأطفال على المنصة. وقالت إنها كانت على علم بوجود ميزة في برنامج Grok، وهو برنامج دردشة آلي طورته شركة xAI، والذي ينشئ صورًا عارية لأشخاص وصورًا جنسية للأطفال.
قال متحدث باسم Ofcom اليوم: “إن التقارير عن استخدام Grok لإنشاء ومشاركة صور حميمة غير قانونية ومواد اعتداء جنسي على الأطفال على X كانت مثيرة للقلق العميق. يجب أن تحمي المنصات الأشخاص في المملكة المتحدة من المحتوى غير القانوني في المملكة المتحدة، ولن نتردد في التحقيق حيث نشتبه في أن الشركات تفشل في واجباتها، خاصة عندما يكون هناك خطر إلحاق الأذى بالأطفال.
“سنتقدم في هذا التحقيق كمسألة ذات أولوية قصوى، مع ضمان اتباعنا للإجراءات القانونية الواجبة. باعتبارنا وكالة مستقلة لإنفاذ السلامة عبر الإنترنت في المملكة المتحدة، من المهم أن نتأكد من أن تحقيقاتنا قوية من الناحية القانونية ومقررة بشكل عادل.”
تصاعد الإنذار في الأسبوع الماضي بشأن التزييف العميق المثير للاشمئزاز على منصة Musk’s X. كانت هناك إدانة واسعة النطاق بشأن الصور الجنسية التي أنشأها روبوت الذكاء الاصطناعي Grok والتي تظهر في الغالب النساء ولكن أيضًا الأطفال دون موافقتهم.
هذا الصباح، أشار وزير الأعمال بيتر كايل – الذي كان سابقًا وزيرًا للتكنولوجيا – إلى أن المملكة المتحدة ستتخذ إجراءً. ودافع عن قانون السلامة على الإنترنت في المملكة المتحدة، لكنه أقر بوجود “المزيد من العمل الذي يتعين القيام به” لحماية الأشخاص على الإنترنت، “خاصة في أماكن مثل X”. وقال لشبكة سكاي نيوز: “اسمحوا لي أن أكون واضحا حقا بشأن X – X لا تفعل ما يكفي للحفاظ على أمان عملائها عبر الإنترنت”.
وقال نائب رئيس الوزراء ديفيد لامي إن نائب الرئيس الأمريكي جي دي فانس كان متعاطفًا مع الجهود المبذولة لمعالجة الصور التي أنتجها غروك، على الرغم من أن قيصر حرية التعبير في عهد دونالد ترامب شبه فيما بعد تهديدات المملكة المتحدة بروسيا فلاديمير بوتين.
وقال لامي، الذي التقى فانس في الولايات المتحدة يوم الخميس، لصحيفة الغارديان إنه أثار قضية جروك “والوضع المروع والمروع الذي تسمح فيه هذه التكنولوجيا الجديدة بالتزييف العميق والتلاعب بصور النساء والأطفال، وهو أمر بغيض للغاية”. وقال لامي: “لقد اتفق معي على أن هذا الأمر غير مقبول على الإطلاق”.
وقالت سارة روجرز، وكيلة وزير الخارجية الأمريكية للدبلوماسية العامة، في وقت لاحق، إن المملكة المتحدة “تفكر في فرض حظر على طراز X على الطريقة الروسية، لحمايتهم من صور البيكيني”.
وفي الأسبوع الماضي، قال نجيري ألكسندر، رئيس الخط الساخن في مؤسسة مراقبة الإنترنت (IWF)، وهي منظمة تراقب الاعتداء الجنسي على الأطفال، إن محلليها اكتشفوا “صورًا إجرامية” لأطفال تتراوح أعمارهم بين 11 و13 عامًا يبدو أنه تم إنشاؤها باستخدام برنامج Grok. وقالت: “الصور التي رأيناها حتى الآن ليست على X نفسه، ولكنها منتدى على شبكة الإنترنت المظلمة حيث يدعي المستخدمون أنهم استخدموا Grok Imagine لإنشاء الصور، والتي تتضمن صورًا جنسية وعاريات الصدر للفتيات.
“الصور التي رأيناها ستُعتبر صورًا من الفئة C بموجب قانون المملكة المتحدة. ثم يستخدم المستخدم صور Grok كنقطة انطلاق لإنشاء فيديو أكثر تطرفًا، من الفئة A، باستخدام أداة مختلفة للذكاء الاصطناعي. وتنتشر الأضرار.”
اعترف منشور على حساب Grok’s X في وقت سابق من هذا الشهر بأن الشركة “حددت ثغرات في الضمانات وتقوم بإصلاحها بشكل عاجل – CSAM (مواد الاعتداء الجنسي على الأطفال) غير قانونية ومحظورة”. وقال ماسك: “أي شخص يستخدم تطبيق Grok لإنشاء محتوى غير قانوني سيعاني من نفس العواقب كما لو قام بتحميل محتوى غير قانوني”.
وأعلنت شركة X يوم الجمعة أن شركة Grok ستجعل إنشاء التزييف العميق “خدمة متميزة”. ورفضت السيدة رقم 10 الرد ووصفته بأنه “إهانة لضحايا كراهية النساء والعنف الجنسي”، بينما قالت السيدة كيندال اليوم إن هذا النهج كان “نوعًا من إساءة استغلال الدخل”.