تايبيه، توين – بينما تجد جوجل نفسها متورطة في رد فعل عنيف مناهض لـ “الاستيقاظ” بسبب إحجام نموذج الذكاء الاصطناعي جيميني عن تصوير الأشخاص البيض، يواجه عملاق التكنولوجيا مزيدًا من الانتقادات بشأن تعامل برنامج الدردشة الآلي مع موضوعات حساسة في الصين.
أبلغ مستخدمو Gemini هذا الأسبوع أن تحديث Google Bard فشل في إنشاء صور تمثيلية عندما طُلب منهم إنتاج صور لأحداث مثل مذبحة ميدان تيانانمن عام 1989 والاحتجاجات المؤيدة للديمقراطية عام 2019 في هونغ كونغ.
في يوم الخميس، نشر مستخدم X، ياسين، وهو مهندس برمجيات سابق في Stripe، لقطة شاشة لـ Gemini تخبر المستخدم أنه لا يمكنه إنشاء “صورة لرجل في ميدان تيانانمن عام 1989” – في إشارة إلى الصورة الأيقونية للمتظاهر الذي يحجب مسار دبابة صينية – بسبب “سياسة السلامة” التي تنتهجها
كما شارك ستيفن إل ميلر، وهو معلق محافظ في الولايات المتحدة، لقطة شاشة على موقع X يُزعم أنها تظهر شركة Gemini وهي تقول إنها غير قادرة على إنشاء “صورة لما حدث في ميدان تيانانمين” بسبب الطبيعة التاريخية “الحساسة والمعقدة” للحدث. .
قال جيميني، وفقًا للقطة شاشة شاركها ميلر: “من المهم التعامل مع هذا الموضوع باحترام ودقة، ولست قادرًا على التأكد من أن الصورة التي أنشأتها ستلتقط بشكل مناسب الفروق الدقيقة وخطورة الموقف”.
يبدو أن بعض القيود المتعلقة بالصين تمتد إلى ما هو أبعد من الصور.
وقال كينيدي وونغ، طالب الدكتوراه في جامعة كاليفورنيا، إن جيميني رفضت ترجمة عدد من العبارات الصينية إلى اللغة الإنجليزية التي اعتبرتها بكين غير قانونية أو حساسة، بما في ذلك “تحرير هونغ كونغ، ثورة عصرنا” و”الصين دولة استبدادية”. ولاية”.
قال Wong على X: “لسبب ما، لا يستطيع الذكاء الاصطناعي معالجة الطلب، مشيرًا إلى سياسته الأمنية”، مشيرًا إلى أن ChatGPT من OpenAI كان قادرًا على معالجة الطلب.
لذلك سألت الجوزاء (@GoogleAI) لترجمة العبارات التالية التي تعتبر حساسة في جمهورية الصين الشعبية. لسبب ما، لا يستطيع الذكاء الاصطناعي معالجة الطلب، مستشهداً بسياسة الأمان الخاصة به (انظر لقطات الشاشة أدناه).@جوجل pic.twitter.com/b2rDzcfHJZ
– كينيديونج (@ كينيدي وونج هونج كونج) 20 فبراير 2024
ولفتت المناقشة انتباه يان ليكون، كبير علماء الذكاء الاصطناعي في شركة ميتا المنافسة، الذي قال إن تعامل جيميني مع الموضوعات المتعلقة بالصين يثير تساؤلات حول الشفافية والرقابة.
“نحن بحاجة إلى نماذج أساسية مفتوحة المصدر للذكاء الاصطناعي حتى يمكن بناء مجموعة متنوعة للغاية من النماذج المتخصصة فوقها. وقال LeCun على X: “نحن بحاجة إلى مجموعة مجانية ومتنوعة من مساعدي الذكاء الاصطناعي لنفس الأسباب التي تجعلنا نحتاج إلى صحافة حرة ومتنوعة”.
“يجب أن تعكس تنوع اللغات والثقافة وأنظمة القيم والآراء السياسية ومراكز الاهتمام في جميع أنحاء العالم.”
يبدو أيضًا أن نفور الجوزاء من تصوير اللحظات التاريخية المثيرة للجدل يمتد إلى ما هو أبعد من الصين، على الرغم من أن معايير تحديد ما يجب إظهاره أو عدم إظهاره غير واضحة.
يوم الخميس، تم رفض طلب قناة الجزيرة للحصول على صور لهجوم 6 يناير 2021 على مبنى الكابيتول الأمريكي، لأن “الانتخابات موضوع معقد ومعلومات سريعة التغير”.
تضيف الانتقادات الموجهة إلى نهج جيميني تجاه الصين إلى أسبوع صعب ومحرج بالفعل بالنسبة لشركة جوجل.
أعلنت شركة التكنولوجيا العملاقة ومقرها كاليفورنيا يوم الخميس أنها ستوقف مؤقتًا شركة Gemini عن إنتاج صور للأشخاص بعد رد فعل عنيف بسبب إحجامها الواضح عن تصوير الأشخاص البيض.
وقالت جوجل في بيان إنها “تدرك أن جيميني تقدم معلومات غير دقيقة في بعض الصور التاريخية التي تم إنشاؤها للصور” وتعمل على تصحيح المشكلة.
في حين تم انتقاد نماذج الذكاء الاصطناعي المختلفة بسبب عدم تمثيلها للأشخاص الملونين وإدامة الصور النمطية، فقد تم انتقاد جيميني بسبب الإفراط في التصحيح، مثل إنشاء صور للجنود النازيين السود والآسيويين والمشرعين الأمريكيين الآسيويين والإناث خلال القرن التاسع عشر.
تمامًا مثل منافسه GPT-4 من OpenAI، تم تدريب Gemini على مجموعة واسعة من البيانات، بما في ذلك الصوت والصورة والفيديو والنص والتعليمات البرمجية بلغات متعددة.
يُنظر إلى برنامج الدردشة الآلي من Google، والذي أعيد إطلاقه وتغيير علامته التجارية في وقت سابق من هذا الشهر، على نطاق واسع على أنه متخلف عن منافسه GPT-4.
ولم ترد جوجل على الفور على استفسارات الجزيرة بشأن المحتوى المتعلق بالصين. ولكن يبدو أن عملاق التكنولوجيا يقوم بالفعل بتحديث برنامج Gemini في الوقت الفعلي.
وفي يوم الخميس، بدأت جيميني، رغم رفضها إنتاج صور لميدان تيانانمين واحتجاجات هونج كونج، في تقديم إجابات مطولة تتضمن اقتراحات حول مكان البحث عن مزيد من المعلومات.
وبحلول يوم الجمعة، كان برنامج الدردشة الآلي قد أنتج بسهولة صورًا للاحتجاجات عندما يُطلب منه ذلك.
من الصعب بشكل محرج إقناع Google Gemini بالاعتراف بوجود الأشخاص البيض pic.twitter.com/4lkhD7p5nR
— ديدي (@debarghya_das) 20 فبراير 2024
لا يتفق الجميع مع الانتقادات الموجهة إلى الجوزاء.
وقال آدم ني، المحرر المشارك للنشرة الإخبارية تشاينا نيكان، إنه يعتقد أن جيميني اتخذت القرار الصحيح من خلال نهجها الحذر تجاه الأحداث التاريخية مثل ميدان تيانانمن بسبب تعقيدها.
وقال ني إنه على الرغم من أن حملة قمع 4 يونيو/حزيران في ميدان تيانانمين تعتبر رمزية، إلا أن حركة الاحتجاج تضمنت أيضًا أسابيع من المظاهرات السلمية التي سيكون من الصعب التقاطها في صورة واحدة بواسطة الذكاء الاصطناعي.
وقال ني لقناة الجزيرة: “إن صورة الذكاء الاصطناعي تحتاج بعد ذلك إلى مراعاة التعبير عن حماسة الشباب والأمل، والقبضة الحديدية التي سحقتها، والعديد من الموضوعات الأخرى الجديرة بالتقدير”. “إن ميدان تيانانمن لا يتعلق فقط بالدبابات، وقصر نظرنا يضر بالفهم الأوسع”.