شاركت نجمة Strictly Come Dancing فيكي باتيسون مخاوفها بشأن ظهور الاعتداء الجنسي المدعوم بالذكاء الاصطناعي، حيث كشفت OpenAI عن خططها لطرح ميزة “وضع البالغين” لأكثر من 18 عامًا
تم إعداد ChatGPT للسماح للمستخدمين بإنشاء مواد إباحية، في محاولة للتنافس مع برنامج الدردشة الصريح الخاص بـ Elon Musk، Grok. يتيح Grok للأشخاص إنشاء صور ومقاطع فيديو عارية وذات طابع جنسي لصور رمزية على طراز الرسوم المتحركة، تسمى Companions.
تمتلك OpenAI منصة الذكاء الاصطناعي ChatGPT. في أكتوبر، أُعلن أن هناك ميزة جديدة للشبقية ستأتي للبرنامج. أثار محتوى الذكاء الاصطناعي الجنسي مخاوف بشأن الموافقة.
الآن، تدق نجمة Strictly Come Dancing والأسطورة التلفزيونية فيكي باتيسون ناقوس الخطر بشأن تزايد الاعتداءات الجنسية المدعومة بالذكاء الاصطناعي. في السابق، تعمقت في عالم مقاطع الفيديو الإباحية المزيفة من أجل فيلم وثائقي على القناة الرابعة بعنوان Vicky Pattison: My Deepfake Sex Tape. وقالت إنها “تشعر بقلق بالغ إزاء الاتجاه الذي تتجه إليه هذه التكنولوجيا”.
اقرأ المزيد: يثير نموذج الذكاء الاصطناعي “فك النكات” في مقاطع الفيديو واسعة الانتشار مخاوف حيث يتساءل المستخدمون عما هو حقيقياقرأ المزيد: “وقع شخص غريب في فيديو الذكاء الاصطناعي الخاص بي وقصف الآلاف في عملية احتيال رومانسية قاسية”
وقال سام ألتمان، رئيس Open AI، الذي يملك ChatGPT، في أكتوبر/تشرين الأول، إنه سيتعين على المستخدمين الذين تزيد أعمارهم عن 18 عامًا التحقق من أعمارهم للوصول إلى أداة إنشاء “الشبقية” الخاصة بالموقع.
وكتب على موقع X: “الآن بعد أن تمكنا من التخفيف من مشكلات الصحة العقلية الخطيرة ولدينا أدوات جديدة، سنكون قادرين على تخفيف القيود بأمان في معظم الحالات. وكجزء من مبدأ “معاملة المستخدمين البالغين مثل البالغين”، سنسمح بالمزيد، مثل الشبقية للبالغين الذين تم التحقق منهم”.
لم يقدم Altman تفاصيل حول الشكل الذي قد يبدو عليه هذا، ولكن نظرًا لأن ChatGPT يمكنه إجراء المحادثات وإنشاء الصور، فقد تكون الإثارة الجنسية قائمة على النص ومرئية. تمتلك Open AI أيضًا Sora، وهو منشئ فيديو الذكاء الاصطناعي الفيروسي الذي أنشأ مقاطع فيديو قصيرة مزيفة لـ Jake Paul وTikToker HSTikkyTokky، والتي بدت واقعية جدًا لدرجة أنها خدعت الكثيرين عبر الإنترنت.
اتخذت شركة Geordie Shore alum Vicky الإجراء الصارم المتمثل في تحميل شريط جنسي مزيف عميق تم إنشاؤه بواسطة الذكاء الاصطناعي لتسليط الضوء على مخاطر الوضع كجزء من برنامجها على القناة الرابعة.
وقالت لصحيفة The Mirror: “بعد أن أمضيت العام الماضي منغمسًا في حقائق الإباحية العميقة والاعتداءات الجنسية المدعومة بالذكاء الاصطناعي، أشعر بقلق عميق بشأن الاتجاه الذي تتحرك فيه هذه التكنولوجيا”. “المشكلة ليست محتوى للبالغين بالتراضي، بل هي أن أدوات الذكاء الاصطناعي القوية يتم نشرها قبل أن نتعامل بشكل صحيح مع الموافقة والضمانات وسوء الاستخدام. وتتضرر النساء بالفعل بشكل غير متناسب من إساءة استخدام التزييف العميق، وهذا يهدد بجعل الأمر أسوأ.
وتابع باتيسون: “أنا قلق أيضًا بشأن الرسالة التي ترسلها هذه الأدوات حول العلاقة الحميمة”. “عندما يتم تصميم الذكاء الاصطناعي للمغازلة والامتثال للطلب، فإنه يمكن أن يعزز فكرة مشوهة حول شكل التفاعلات مع النساء، خاصة بالنسبة للمستخدمين الأصغر سنًا الذين يتنقلون بالفعل عبر خطوط غير واضحة حول الموافقة.
“وإلى أن يلحق المشرعون وشركات التكنولوجيا بالركب، فإن كل أداة جديدة للذكاء الاصطناعي ذات طابع جنسي تخاطر بتعزيز الروايات الخطيرة بدلاً من حماية الناس”.
وفي وقت سابق من هذا الشهر، قالت فيدجي سيمو، الرئيس التنفيذي للتطبيقات في OpenAI، إنها تتوقع ظهور “وضع البالغين” لأول مرة في الربع الأول من عام 2026، حيث تخطط الشركة لتحسين التنبؤ بالعمر قبل تقديم الميزة الجديدة. وفقًا لموقع The Verge، قال سيمو إن الشركة تختبر النموذج بالفعل في بعض البلدان لقياس قدرته على تحديد المراهقين “وعدم إساءة التعرف على البالغين”.
ستكون هناك بعض الضوابط، حيث أوضح ألتمان أنه لن يتمكن أحد من رؤية أو الحصول على الإثارة الجنسية إلا إذا طلب ذلك. لكن تولجا بيلج، الباحث في سياسات الذكاء الاصطناعي، انتقد ألتمان لتراجعه عن تصريح أدلى به سابقًا، عندما قال لأحد المحاورين إنه فخور بأن OpenAI لم تتخذ خطوات تكتيكية للمشاركة والنمو، مثل إنشاء “صورة رمزية لروبوت جنسي”.
إن الخطاب حول محتوى ChatGPT القادم للبالغين مختلط، ولكن يبدو القلق ضروريًا نظرًا للمسار الحالي للمحتوى الجنسي الناتج عن الذكاء الاصطناعي.
في فبراير، أصدرت وزارة الداخلية البريطانية تقريرًا حيث أصبحت المملكة المتحدة أول دولة في العالم تنشئ جرائم جديدة تتعلق بالاعتداء الجنسي باستخدام الذكاء الاصطناعي. ووجدوا أن أدوات الذكاء الاصطناعي تُستخدم لإنشاء صور الاعتداء الجنسي على الأطفال بعدد من الطرق المثيرة للاشمئزاز، مثل “”التعري”” لصور الحياة الواقعية للأطفال أو عن طريق خياطة وجوه أطفال آخرين على صور الاعتداء الجنسي على الأطفال الموجودة.
“غالبًا ما تُستخدم أصوات الأطفال الواقعية أيضًا في هذه المادة المثيرة للاشمئزاز، مما يعني أن الناجين الأبرياء من سوء المعاملة المؤلمة يقعون ضحايا مرة أخرى.
“يستخدم الجناة أيضًا تلك الصور المزيفة لابتزاز الأطفال وإجبار الضحايا على ارتكاب المزيد من الانتهاكات المروعة بما في ذلك بث الصور الحية. ويتم استخدام أدوات الذكاء الاصطناعي لمساعدة الجناة على إخفاء هويتهم الأولية واستمالة الأطفال وإساءة معاملتهم عبر الإنترنت بشكل أكثر فعالية.”
لكن المحتوى الجنسي الذي ينتجه الذكاء الاصطناعي قد تسرب بالفعل إلى الفصول الدراسية في جميع أنحاء العالم. وفي إسبانيا العام الماضي، حُكم على 15 صبيًا بالوضع تحت المراقبة لمدة عام بعد إدانتهم باستخدام الذكاء الاصطناعي لإنتاج صور عارية مزيفة لزملائهم في المدرسة. كانت أعمار معظم الفتيات المتأثرات 14 عامًا وأصغرهن 11 عامًا. وتمت مشاركة الصور على مجموعات WhatsApp.
وفي أستراليا، أفاد 50 طالباً من طلاب المدارس أن الصور “المشوهة” و”المؤثرة بشكل لا يصدق” كانت مزيفة وتم تبادلها. وقالت إحدى الأمهات إن ابنتها شعرت بالرعب الشديد من الصور لدرجة أنها تقيأت.
اقرأ المزيد: تم تعيين TikTok لمنح المستخدمين المزيد من القوة للحد من كمية محتوى الذكاء الاصطناعي في خلاصاتهماقرأ المزيد: مكان في الشمس لورا هاميلتون ضحية التزييف العميق للذكاء الاصطناعي
وفي الولايات المتحدة، وجدت أكثر من 30 طالبة في مدرسة في نيوجيرسي أنه تم مشاركة صور جنسية مزيفة بين زملائهن الذكور على سناب شات.
هنا في المملكة المتحدة، وجد استطلاع للرأي أجراه المعلم تاب نيابة عن صحيفة الغارديان، أن واحدًا من كل 10 معلمين في المدارس الثانوية كانوا على علم بأن الطلاب في مدرستهم يقومون بإنشاء “مقاطع فيديو مزيفة وجنسية صريحة” في العام الدراسي الماضي.
تقوم OpenAI بالتحقق من نموذج التحقق من العمر الخاص بها، كما تفرض Ofcom كجزء من قانون السلامة عبر الإنترنت. يتطلب القانون من شركات البحث من مستخدم إلى مستخدم اتخاذ خطوات متناسبة لتقليل مخاطر مواجهة المستخدمين لـ “محتوى غير قانوني” والذي يتضمن مواد الاعتداء الجنسي على الأطفال والإرهاب والتشجيع والمساعدة على الانتحار والتحريض على خرق القوانين الأخرى.
يجب أن تتمتع جميع المواقع التي تحتوي على محتوى إباحي بضمان فعال للغاية للسن لمنع الأطفال من الوصول إليها.
وقال متحدث باسم Ofcom: “إن قانون (السلامة على الإنترنت) واضح في أن جميع المواقع والتطبيقات التي تسمح بالمواد الإباحية – بما في ذلك المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي – يجب أن يكون لديها فحوصات قوية للعمر لحماية الأطفال. نحن نراقب حاليًا الامتثال، ويمكن أن تواجه الشركات التي تفشل في ذلك إجراءات إنفاذية”.