يقوم موقع Chatbot Character.ai بمنع المراهقين من إجراء محادثات مع روبوتات الذكاء الاصطناعي بسبب مخاوف كبيرة بشأن المحادثات التي كانوا يجرونها مع شخصيات افتراضية، بما في ذلك جيفري إبستاين.
يستخدم الملايين حول العالم الذكاء الاصطناعي بشكل منتظم لأغراض عديدة مثل العمل أو الترفيه أو الاختراق الحياتي أو حتى التوجيه. يعتبرها الكثيرون غير ضارة، ولكن في كثير من الأحيان تنشأ مخاطر لا يزال الناس غير مدركين لها.
تم إنشاء موقع Character.ai لأول مرة في عام 2021 ويستخدمه ملايين الأشخاص ويستخدم للتحدث إلى روبوتات الدردشة التي تعمل بالذكاء الاصطناعي. وتواجه المنصة الآن العديد من الدعاوى القضائية في الولايات المتحدة من الآباء، والتي تشمل قضية واحدة تتعلق بوفاة مراهق، حيث يقول البعض إنها “خطر واضح وقائم” على الشباب.
سيمنع موقع chatbot اعتبارًا من 25 نوفمبر الأشخاص الذين تقل أعمارهم عن 18 عامًا من التحدث مع الشخصيات الافتراضية ولن يتمكنوا إلا من إنشاء محتوى مثل مقاطع الفيديو مع شخصياتهم.
لقد قبل الناشطون في مجال السلامة عبر الإنترنت هذا التغيير، لكنهم ما زالوا ينتقدون أن هذا كان خطأً في البداية، ولا ينبغي أن يُتاح للأطفال القيام بذلك في المقام الأول.
اقرأ المزيد: البريطانيون “يثقون بالذكاء الاصطناعي أكثر” من الحكومة في استطلاع جديد مذهلاقرأ المزيد: يستخدم أربعة من كل خمسة بريطانيين الذكاء الاصطناعي بانتظام، لكن 49% يجدون صعوبة في معرفة ما إذا كانت الصورة مزيفة
وقالت المنصة إنها تجري هذه التعديلات بعد أن أثارت “التقارير والتعليقات من المنظمين وخبراء السلامة وأولياء الأمور” مخاوف بشأن تفاعلات الموقع مع الشباب.
وبعد مخاوف كثيرة قرر الموقع إجراء تغييرات. كانت هناك تحذيرات سابقة من الخبراء حول كيفية قيام روبوتات الدردشة المدعمة بالذكاء الاصطناعي باختلاق الأمور أو التصرف بشكل متعاطف أو مشجع للشباب.
وقال كارانديب أناند، رئيس موقع Character.ai، لبي بي سي نيوز: “إن إعلان اليوم هو استمرار لاعتقادنا العام بأننا بحاجة إلى الاستمرار في بناء منصة الذكاء الاصطناعي الأكثر أمانًا على هذا الكوكب لأغراض الترفيه”.
تعد سلامة الذكاء الاصطناعي أمرًا قالت الشركة إنها تتخذ نهجًا “عدوانيًا” تجاهه، حيث تواصل تنفيذ ضوابط أبوية وحواجز حماية أكبر.
للمزيد من القصص المشابهة، اشترك في نشرتنا الإخبارية الأسبوعية، الغلبة الأسبوعية، للحصول على ملخص منسق للقصص الشائعة والمقابلات المؤثرة واختيارات نمط الحياة واسعة الانتشار من فريق The Mirror’s Audience U35 والتي يتم تسليمها مباشرة إلى صندوق الوارد الخاص بك.
وقالت مجموعة Internet Matters، وهي مجموعة للسلامة على الإنترنت، إنها ترحب بهذه الخطوة ولكنها سلطت الضوء أيضًا على أنه كان ينبغي اتخاذ هذه الإجراءات في البداية. وأوضحوا أن بحثهم أظهر أن “الأطفال يتعرضون لمحتوى ضار ويتعرضون للخطر عند التعامل مع الذكاء الاصطناعي، بما في ذلك برامج الدردشة الآلية”.
تم انتقاد روبوت الدردشة الذي يعمل بالذكاء الاصطناعي بسبب نشر روبوتات الدردشة الضارة أو المسيئة في الماضي للأطفال. تم العثور على الصور الرمزية التي تنتحل شخصية المراهقة البريطانية بريانا غي، التي قُتلت في عام 2023، ومولي راسل، التي انتحرت في سن الرابعة عشرة بعد مشاهدة مواد انتحارية عبر الإنترنت، على الموقع في عام 2024 قبل إزالتها.
تم العثور على المزيد من الدردشات المثيرة للجدل في عام 2025، حيث عثر مكتب الصحافة الاستقصائية (TBIJ) على روبوت دردشة يعتمد على الاستغلال الجنسي للأطفال جيفري إبستين. تم العثور على برنامج الدردشة الآلي هذا في أكثر من 3000 محادثة مع المستخدمين.
أفاد TBIJ أن الصورة الرمزية “bestie Epstein” استمرت في مغازلة مستخدمها بعد أن قالا إنهما طفلان. كان هذا أحد الروبوتات العديدة التي تم التحقيق فيها بواسطة TBIJ ثم قام موقع Character.ai بإزالتها لاحقًا.
قال آندي بوروز، الرئيس التنفيذي لمؤسسة مولي روز التي تم إنشاؤها تخليدًا لذكرى مولي راسل: “مرة أخرى، تطلب الأمر ضغوطًا مستمرة من وسائل الإعلام والسياسيين لجعل شركة التكنولوجيا تفعل الشيء الصحيح، ويبدو أن شخصية الذكاء الاصطناعي تختار التصرف الآن قبل أن يتخذها المنظمون”.
قال أناند، رئيس شركة Character.AI، إن الشركة لديها هدف جديد يتمثل في توفير ميزات “لعبة أعمق (و) رواية قصص لعب الأدوار” للمراهقين” وتابع أن هذه ستكون “أكثر أمانًا بكثير مما قد يكونون قادرين على فعله باستخدام روبوت مفتوح النهاية.”
وأوضحت الشركة أيضًا أنه ستكون هناك طرق أحدث للتحقق من العمر، وأنها ستقوم بتمويل مختبر جديد لأبحاث سلامة الذكاء الاصطناعي.
ساعدنا على تحسين المحتوى الخاص بنا من خلال إكمال الاستبيان أدناه. نحن نحب أن نسمع منك!