أصدر مركز الإنترنت الآمن في المملكة المتحدة تنبيهًا بشأن استخدام الشباب لأحدث التقنيات لالتقاط صور مريضة لأطفال آخرين – مما قد يعرضهم لخطر الابتزاز
حذرت مجموعات سلامة الويب اليوم من أن الأطفال يستخدمون الذكاء الاصطناعي لإنشاء صور غير لائقة لأطفال آخرين.
قال مركز الإنترنت الآمن في المملكة المتحدة إنه تلقى تقارير من المدارس تفيد بأن الأطفال يصنعون أو يحاولون التقاط صور غير لائقة لشباب آخرين باستخدام مولدات صور الذكاء الاصطناعي. وقالت منظمة حماية الطفل إن مثل هذه الصور – التي تشكل قانونًا مواد اعتداء جنسي على الأطفال – يمكن أن يكون لها تأثير ضار على الأطفال ويمكن استخدامها لإساءة معاملتهم أو ابتزازهم.
حثت UKSIC المدارس على التأكد من أن أنظمة التصفية والمراقبة الخاصة بها قادرة على حظر المواد غير القانونية بشكل فعال عبر الأجهزة المدرسية في محاولة لمكافحة ظهور مثل هذا النشاط. وقال المخرج ديفيد رايت: “إننا نتلقى الآن تقارير من المدارس عن أطفال يستخدمون هذه التكنولوجيا لتصوير ومحاولة التقاط صور غير لائقة لأطفال آخرين. تتمتع هذه التكنولوجيا بإمكانيات هائلة للخير، لكن التقارير التي نشاهدها لا ينبغي أن تكون مفاجئة”. “لا يدرك الشباب دائمًا مدى خطورة ما يفعلونه، ولكن يجب توقع هذه الأنواع من السلوكيات الضارة عندما تصبح التقنيات الجديدة، مثل مولدات الذكاء الاصطناعي، في متناول الجمهور بشكل أكبر.”
وأضاف: “لقد رأينا بوضوح مدى انتشار التحرش الجنسي والاعتداء الجنسي عبر الإنترنت من مراجعة Ofsted في عام 2021، وكان هذا وقت ما قبل تقنيات الذكاء الاصطناعي التوليدية. وعلى الرغم من أن أرقام الحالات صغيرة حاليًا، إلا أننا في سفح التلال ونحتاج إلى رؤية”. ويتم اتخاذ الخطوات الآن، قبل أن تصبح المدارس مكتظة وتنمو المشكلة.
“إن الزيادة في المحتوى الإجرامي الذي يتم إنتاجه في المدارس هو أمر لا نريد رؤيته أبدًا، ويجب القيام بالتدخلات بشكل عاجل لمنع انتشاره بشكل أكبر. ونحن نشجع المدارس على مراجعة أنظمة التصفية والمراقبة الخاصة بها والتواصل للحصول على الدعم عند التعامل مع الحوادث. وأمور الحماية.”
حذرت مؤسسة مراقبة الإنترنت الشهر الماضي من أن الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي للاعتداء الجنسي على الأطفال أصبحت الآن واقعية للغاية بحيث لا يمكن تمييزها عن الصور الحقيقية – حتى بالنسبة للمحللين المدربين. وقال الاتحاد الدولي لرفع الأثقال إنه اكتشف الآلاف من هذه الصور على الإنترنت.
أصبح الذكاء الاصطناعي بشكل متزايد مجالًا للتركيز في النقاش حول السلامة عبر الإنترنت خلال العام الماضي، على وجه الخصوص، منذ إطلاق برنامج الدردشة الآلي ChatGPT الذي يعمل بالذكاء الاصطناعي في نوفمبر الماضي، حيث دعت العديد من مجموعات السلامة عبر الإنترنت والحكومات وخبراء الصناعة إلى تنظيم أكبر للقطاع. بسبب المخاوف من أنها تتطور بشكل أسرع من قدرة السلطات على الاستجابة لها.