تحسينات الذكاء الاصطناعي في روبلوكس لمواجهة المحتوى المخالف
أعلنت شركة “روبلوكس” الأمريكية، في تحديث أمني أطلقته أواخر مارس/آذار الجاري، عن انتقالها إلى منظومة ذكاء اصطناعي جديدة ومتعددة الوسائط لمراقبة المحتوى داخل منصتها. يهدف هذا التحديث، الذي تسبب سابقاً في أزمات قانونية للعبة، إلى فحص شامل للمشاهد والنصوص والأشكال ثلاثية الأبعاد لضمان توافقها مع معايير المحتوى المعتمدة، وضمان بيئة آمنة للمستخدمين.
جاءت هذه الخطوة لمعالجة المشاكل التي واجهتها “روبلوكس” سابقاً، حيث تم حظرها في العديد من الدول، بما في ذلك دول عربية، بسبب وجود محتوى غير لائق لمنصة موجهة للأطفال. تكمن أبرز معالجة للمحتوى المخالف في آلية عمل منظومة الذكاء الاصطناعي الجديدة، والتي تفحص كافة عناصر المشهد داخل اللعبة بشكل متزامن، مما يسد الثغرات التي كانت تسمح بتجاوز المرشحات التقليدية.
آلية عمل الذكاء الاصطناعي الجديد
يعتمد النموذج الجديد على قدرة فائقة على تحليل كافة مكونات المشاهد في “روبلوكس”، بدءاً من النصوص المكتوبة، وصولاً إلى تصميمات الشخصيات والأشكال ثلاثية الأبعاد، وغيرها من التفاصيل البصرية. بناءً على هذا التحليل الشامل، يتخذ الذكاء الاصطناعي قراراً حول مدى توافق المحتوى مع معايير اللعبة المحددة. هذا النهج يتناقض بشكل واضح مع أنظمة الرقابة التقليدية التي غالباً ما تركز على عنصر واحد في كل مرة، مما يفسر الثغرات التي كانت موجودة سابقاً.
في حال اكتشاف أي محتوى مخالف، تقوم المنظومة الجديدة بإغلاق الخادم أو اللعبة الداخلية المعنية بشكل فوري. منذ إطلاق النظام، نجحت “روبلوكس” في إغلاق ما يقرب من 5000 خادم يومياً بسبب وجود محتوى غير لائق، مما يعكس فعالية الآلية الجديدة ومدى الانتشار السابق للمحتوى المخالف.
مزايا إضافية وتطلعات مستقبلية
إلى جانب آلية الإغلاق، تخطط “روبلوكس” لتطوير النظام مستقبلاً ليشمل القدرة على حذف اللاعبين والمستخدمين الذين يكررون مخالفة قواعد المحتوى. كما يتيح النظام الجديد لكل لاعب الاطلاع على المخالفات التي قام بها عبر لوحة تحكم شخصية، وهو ما ينطبق أيضاً على صناع الألعاب والمحتوى الذين يمكنهم الآن مراقبة أنشطتهم داخل ألعابهم بتفصيل أكبر.
تتعاون “روبلوكس” أيضاً مع شركتا “كييورد” (Keywords Studios) الآيرلندية و”رايوت” الأمريكية لإطلاق شهادة معتمدة لمديري المجتمع والمحتوى في الألعاب الجماعية المماثلة. يعتبر موقع “ديجيتال تريندز” التقني هذا التحديث أحد أبرز الخطوات التي اتخذتها الشركة لمعالجة أزمة المحتوى المخالف، والتي طالما أثارت شكاوى المستخدمين.
ما الخطوة التالية؟
تترقب الأوساط التقنية والمجتمعية الاستمرار في تطوير منظومة الذكاء الاصطناعي لمواجهة الانتهاكات المتجددة، فضلاً عن متابعة أثر شهادات الاعتماد الجديدة على جودة المحتوى وإدارة المجتمعات داخل الألعاب الجماعية. يبقى السؤال حول مدى سرعة تكيف المستخدمين مع المعايير الجديدة، وقدرة الشركة على تطبيق آليات الحذف والتقييد بفعالية وعدالة.