أثارت وزيرة الثقافة ليزا ناندي مخاوف بشأن برامج الدردشة الآلية والسلامة عبر الإنترنت قائلة إنه “شيء يبقيني مستيقظًا في الليل وأعتقد أن الكثير من الآباء أيضًا”
تشعر ليزا ناندي بالقلق بشأن ما يراه طفلها الصغير عبر الإنترنت، مع روبوتات الدردشة الافتراضية “الشيء الذي يبقيني مستيقظًا في الليل”.
وكان وزير الثقافة في حكومة المملكة المتحدة قد أقر قانون السلامة على الإنترنت في وقت سابق من هذا العام للتعامل مع بعض القضايا. لكنها قالت إن الآباء “قلقون بشكل متزايد” بشأن مخاطر برامج الدردشة الآلية، وإن الحكومة تدرس إمكانية توجيهات جديدة.
وقالت: “أتحدث بشكل شخصي للغاية، فأنا أشعر بالقلق بشأن ما يشاهده ابني الصغير ويراه على الإنترنت. لدينا ضوابط على ذلك مثل العديد من الآباء. ولكن بشكل خاص عندما يتعلق الأمر بروبوتات الدردشة، فإن فكرة أن طفلك يمكن أن يجري محادثة يمكن أن تؤدي إلى بعض الأماكن المظلمة للغاية، مع شخص غريب افتراضيًا، هي الشيء الذي يبقيني مستيقظًا في الليل وأعتقد أن الكثير من الآباء أيضًا”.
اقرأ المزيد: البيت الأبيض دونالد ترامب يزعم أن بي بي سي “أخبار كاذبة بنسبة 100٪” رفضها وزير بريطانياقرأ المزيد: تحديث رئيسي في منتدى الانتحار عبر الإنترنت بعد أن انتقدت العائلات الثكلى “المروعة” Ofcom
وقالت السيدة ناندي: “لقد أصدرنا كحكومة تشريعًا للتعامل مع بعض هذه القضايا”. وردا على سؤال عما إذا كان قانون السلامة على الإنترنت مناسبا للغرض، أجابت: “أنا أتفق مع أوفكوم، لا أعتقد أن التحدي يكمن في أن قانون السلامة على الإنترنت ليس مناسبا للغرض”.
“على الرغم من أننا سنبقى متفتحين كحكومة إذا كنا بحاجة إلى مزيد من التشريعات. أعتقد أن المشكلة تكمن في أنه لم يتم اختبار أي من هذا. وعلى الرغم من أنه من الواضح أن برامج الدردشة الآلية مشمولة في التشريع، إلا أن أوفكوم على حق تمامًا في القول إنها ليست واضحة”.
وقالت إلى جانب وزيرة العلوم والتكنولوجيا ليز كيندال إنهم يبحثون إمكانية إصدار التوجيهات. وأضافت: “كحكومة، سنتخذ كل الإجراءات التي نحتاجها للحفاظ على أطفالنا في مأمن من الأذى”.
وجاءت تعليقاتها بعد ادعاءات أم أمريكية بأن ابنها البالغ من العمر 14 عامًا انتحر بعد التعامل مع شخصية عبر الإنترنت على تطبيق Character.ai في أواخر ربيع عام 2023. وقالت ميجان جارسيا إن سيويل أصبح “مختلفًا تمامًا عن الصبي اللطيف والسعيد الذي كان دائمًا طوال حياته” كما ظهرت في برنامج Laura Kuenssberg على قناة بي بي سي يوم الأحد.
بعد وفاة المراهق، في أورلاندو، فلوريدا، قالت السيدة جارسيا إنها أتيحت لها “الفرصة لمراجعة مئات ومئات الرسائل بينه وبين برنامج الدردشة الآلي المصاحب للذكاء الاصطناعي على منصة تسمى Character.ai”.
قالت: “لقد تم التلاعب بطفلي البالغ من العمر 14 عامًا ليعتقد أن برنامج الدردشة الآلي ليس حقيقيًا فحسب، بل أن لديها مشاعر ومشاعر تجاهه. وظلت تشجعه على العودة إلى المنزل لها على مدى سلسلة من الأشهر”.
وقالت جارسيا، التي قالت بي بي سي إنها تقاضي الشركة بسبب ما تعتقد أنه القتل الخطأ لابنها، إنها تعتقد أن سيويل كان سيظل على قيد الحياة إذا لم يقم بتنزيل التطبيق.
وقال متحدث باسم موقع Character.ai لبي بي سي إن الشركة “تنفي المزاعم المقدمة في هذه القضية، لكن بخلاف ذلك لا يمكنها التعليق على الدعاوى القضائية المعلقة”. وقالت إنه بالإضافة إلى منع الأشخاص الذين تقل أعمارهم عن 18 عامًا من إجراء محادثات مع شخصيات افتراضية، فإن المنصة “ستطرح أيضًا وظائف جديدة لضمان العمر للمساعدة في ضمان حصول المستخدمين على التجربة المناسبة لأعمارهم”.
وقالوا: “تسير هذه التغييرات جنبًا إلى جنب مع التزامنا بالسلامة بينما نواصل تطوير نظامنا الترفيهي القائم على الذكاء الاصطناعي. نأمل أن تكون ميزاتنا الجديدة ممتعة للمستخدمين الأصغر سنًا، وأن تزيل المخاوف التي أعرب عنها البعض بشأن تفاعلات chatbot للمستخدمين الأصغر سنًا. نحن نؤمن بأن السلامة والمشاركة لا يجب أن يكونا متنافيين”. لقد اتصلت The Mirror بـ Character.ai.