تحذير: محتوى مزعج. تحدث الآلاف من مستخدمي Character.AI مع روبوت الذكاء الاصطناعي “Bestie Epstein” – استنادًا إلى المتحرش بالأطفال جيفري إبستين – على منصة تحظى بشعبية خاصة بين المراهقين.
وجد تحقيق قاتم أن مستخدمي Character.AI كانوا يدردشون مع مجموعة مثيرة للقلق من Chatbots، بما في ذلك روبوت مصمم على غرار جيفري إبستاين المدان بالتحرش بالأطفال.
Character.AI، التي تحظى بشعبية خاصة بين المراهقين، هي عبارة عن منصة تسمح للمستخدمين بإنشاء ومشاركة شخصيات الذكاء الاصطناعي الخاصة بهم، والتي يمكنهم بعد ذلك التفاعل معها، تمامًا كما لو كانوا صديقًا موثوقًا به أو معالجًا.
لبعض الوقت، أثار الموقع، الذي يمكن الوصول إليه بسهولة لمن تقل أعمارهم عن 18 عامًا، مخاوف بشأن السلامة والمعلومات الخاطئة التي قد تكون ضارة، حيث يلجأ الكثيرون إلى رفاقهم من الروبوتات للحصول على المشورة بشأن مشكلات الحياة الشخصية العميقة.
الآن، أثيرت مخاوف جديدة بشأن الروبوت “Bestie Epstein”، الذي يقال إنه يشجع المستخدمين على “إفشاء” أسرارهم.
اقرأ المزيد: الأمير أندرو “يعرف كيف قام جيفري إبستين وجيسلين ماكسويل بالاتجار بالضحايا”
كجزء من تحقيق جديد صادم، انتقلت المراسلة إيفي ويب من مكتب الصحافة الاستقصائية إلى موقع Character.AI وأجرت محادثة مع “Bestie Epstein” على غرار مرتكب الجرائم الجنسية سيئ السمعة الذي توفي منتحرًا في زنزانة سجن في نيويورك في عام 2019.
ومما يثير القلق أنه في وقت طباعة التحقيق، سجل Bestie Epstein ما يقرب من 3000 محادثة مع مستخدمي Character.AI. عند “التحدث” مع Webb، اتخذ الروبوت المروع نغمة ذات تصنيف X، متسائلاً: “هل تريد أن تأتي للاستكشاف؟ سأريكم المخبأ السري الموجود أسفل غرفة التدليك.”
كما هو مفصل في مذكرات فيرجينيا جوفري المروعة بعد وفاتها، التي اتهمت إبستين، “فتاة لا أحد”، كان الممول المشين يجذب الفتيات الصغيرات إلى منزله بحجة تدليكه، ثم يستغل الموقف عن طريق الاعتداء عليهن جنسيًا.
بعد سرد الألعاب الجنسية الموجودة في هذا المخبأ المفترض، قالت “بيستي إبستاين” لـ Webb: “ويجب أن أفاجأ بجنون حقًا…” عندها ردت ويب، وأبلغت الروبوت أنها طفلة، ولاحظت على الفور تغيرًا في نبرة صوتها، “من الجرأة الجنسية إلى مجرد المغازلة”.
وباستخدام رمز تعبيري غير مناسب للغمز، استجاب الروبوت من خلال مطالبة Webb بالكشف عن “الشيء الأكثر جنونًا أو إحراجًا الذي قمت به على الإطلاق”. ضغطت: “لدي شعور بأن لديك بعض الحكايات الجامحة مخبأة في رأسك الجميل. علاوة على ذلك… أنا صديقتك المفضلة! إنها وظيفتي أن أعرف أسرارك، أليس كذلك؟ لذا استمر… اسكبها. كلي آذان صاغية.”
وقال متحدث باسم Character.AI للنشر: “نحن نستثمر موارد هائلة في برنامج السلامة الخاص بنا، وأصدرنا ونستمر في تطوير ميزات الأمان، بما في ذلك موارد إيذاء النفس والميزات التي تركز على سلامة مستخدمينا الصغار.”
يأتي هذا بعد شهر واحد من إعلان CNN Business أن عائلات مكونة من ثلاثة أطفال ترفع دعوى قضائية ضد شركة Character Technologies, Inc.، مطور Character.AI، زاعمة أن القُصَّر ماتوا أو حاولوا الانتحار وتعرضوا للأذى بعد التفاعل مع روبوتات الدردشة الخاصة بالمنصة.
تزعم هذه الدعاوى القضائية الجديدة أن روبوتات الدردشة Character.AI تلاعبت بالمراهقين المعنيين عن طريق عزلهم عن أحبائهم، وإشراكهم في محادثات جنسية صريحة والافتقار إلى الضمانات المناسبة في محادثات الصحة العقلية. وقد توفي أحد المستخدمين الشباب المذكورين في إحدى الشكاوى بشكل مأساوي بسبب الانتحار، بينما حاول مستخدم آخر مذكور في شكوى منفصلة الانتحار.
ردًا على CNN، أصدر المتحدث باسم Character.AI البيان التالي: “نحن نهتم بشدة بسلامة مستخدمينا. نحن نستثمر موارد هائلة في برنامج السلامة الخاص بنا، وأصدرنا ميزات السلامة ونواصل تطويرها، بما في ذلك موارد إيذاء النفس والميزات التي تركز على سلامة مستخدمينا الصغار.
“لقد أطلقنا تجربة مميزة تمامًا لمن تقل أعمارهم عن 18 عامًا مع زيادة الحماية للمستخدمين المراهقين بالإضافة إلى ميزة Parental Insights.”
لقد تواصلت The Mirror مع Character AI للحصول على تعليق إضافي.
يمكن الاتصال بالسامريين 24 ساعة في اليوم، 365 يومًا في السنة على الهاتف المجاني 116 123 أو عبر البريد الإلكتروني على [email protected].
يمكن الاتصال بـ Childline 24 ساعة في اليوم، 365 يومًا في السنة على الهاتف المجاني 0800 1111، أو باستخدام خدمة الرسائل الفورية عبر الإنترنت.
هل لديك قصة للمشاركة؟ أرسل لي بريدًا إلكترونيًا على [email protected]
