الولايات المتحدة

لماذا تعرضت أداة Google للذكاء الاصطناعي للانتقاد لعرضها صورًا لأشخاص ملونين

فريق التحرير
كتب فريق التحرير اضافة تعليق

كان الآباء المؤسسون لأميركا يصورون النساء السود والمحاربين اليونانيين القدماء كنساء ورجال آسيويين ــ كان هذا هو العالم الذي أعيد تصوره بواسطة أداة الذكاء الاصطناعي التوليدية من جوجل، جيميني، في أواخر فبراير.

المحتويات
ما هو جوجل الجوزاء؟ما نوع الصور التي أنشأها الجوزاء؟كيف يعمل الجوزاء؟هل يواجه الذكاء الاصطناعي التوليدي مشكلة تحيز؟هل هذا هو السبب وراء إنشاء الجوزاء لصور غير لائقة؟ماذا كان رد الفعل على صور الجوزاء؟ماذا كان رد جوجل؟ما الخطأ الآخر الذي أخطأ فيه الجوزاء؟هل علقت جوجل الجوزاء؟كيف أثر الجدل على جوجل؟

أدى إطلاق ميزة توليد الصور الجديدة إلى إرسال منصات التواصل الاجتماعي إلى موجة من الفضول والارتباك. عندما أدخل المستخدمون أي مطالبات لإنشاء صور للأشخاص تم إنشاؤها بواسطة الذكاء الاصطناعي، كان برنامج Gemini يعرض لهم إلى حد كبير نتائج تظهر أشخاصًا ملونين – سواء كان ذلك مناسبًا أم لا.

شارك مستخدمو X الضحك أثناء محاولتهم بشكل متكرر إنشاء صور لأشخاص بيض في برج الجوزاء وفشلوا في القيام بذلك. وفي حين اعتُبرت بعض الحالات مضحكة على الإنترنت، فإن حالات أخرى، مثل صور الأشخاص ذوي البشرة السمراء الذين يرتدون الزي النازي في الحرب العالمية الثانية وعليها صلبان معقوفة، أثارت غضبًا كبيرًا، مما دفع جوجل إلى تعطيل الأداة مؤقتًا.

إليك المزيد عن Google Gemini والجدل الأخير المحيط به.

ما هو جوجل الجوزاء؟

كانت أول مساهمة لشركة Google في سباق الذكاء الاصطناعي عبارة عن برنامج دردشة آلي اسمه Bard.

تم الإعلان عن Bard كبرنامج ذكاء اصطناعي للمحادثة أو “chatbot”، يمكنه محاكاة المحادثة مع المستخدمين، من قبل الرئيس التنفيذي لشركة جوجل، ساندر بيتشاي، في 6 فبراير 2023، وتم طرحه للاستخدام في 21 مارس 2023.

لقد كان قادرًا على إنتاج المقالات أو حتى التعليمات البرمجية عند تقديم مطالبات مكتوبة من قبل المستخدم، ومن ثم يُعرف باسم “الذكاء الاصطناعي التوليدي”.

قالت Google إن Gemini ستحل محل Bard وتم توفير نسخة مجانية ومدفوعة من Gemini للجمهور من خلال موقعها الإلكتروني وتطبيق الهاتف الذكي. أعلنت Google أن برنامج Gemini سيعمل مع أنواع مختلفة من المدخلات والمخرجات، بما في ذلك النصوص والصور ومقاطع الفيديو.

إن جانب توليد الصور في الجوزاء هو جزء من الأداة الذي حظي بأكبر قدر من الاهتمام، بسبب الجدل الدائر حوله.

ما نوع الصور التي أنشأها الجوزاء؟

كانت الصور التي تصور النساء والأشخاص الملونين خلال الأحداث التاريخية أو في المناصب التي شغلها الرجال البيض تاريخيًا هي الأكثر إثارة للجدل. على سبيل المثال، أظهر أحد العروض البابا الذي كان على ما يبدو امرأة سوداء.

في تاريخ الكنيسة الكاثوليكية، من المحتمل أن يكون هناك ثلاثة باباوات سود، مع انتهاء خدمة البابا الأسود الأخير في عام 496 م. لا يوجد دليل مسجل على وجود بابا أنثى في التاريخ الرسمي للفاتيكان، لكن أسطورة من العصور الوسطى تشير إلى أن امرأة شابة، البابا جوان، تنكرت وشغلت منصب البابا في القرن التاسع.

كيف يعمل الجوزاء؟

Gemini هو نظام ذكاء اصطناعي توليدي يجمع بين النماذج التي ابتكرها Bard – مثل LaMDA، الذي يجعل الذكاء الاصطناعي محادثة وبديهية، وImagen، وهي تقنية تحويل النص إلى صورة – أوضحت مارغريت ميتشل، كبيرة علماء الأخلاق في شركة Hugging Face الناشئة للذكاء الاصطناعي .

يتم تحميل أدوات الذكاء الاصطناعي التوليدية بـ “بيانات التدريب” التي تستمد منها المعلومات للإجابة على الأسئلة وتطلب إدخال المستخدمين.

تعمل الأداة مع “النصوص والصور والصوت والمزيد في نفس الوقت”، حسبما أوضحت مدونة كتبها بيتشاي وديميس هاسابيس، الرئيس التنفيذي والمؤسس المشارك لمختبر الذكاء الاصطناعي البريطاني الأمريكي Google DeepMind.

وأوضح ميتشل: “يمكن أن يأخذ الأمر مطالبات نصية كمدخلات لإنتاج استجابات محتملة كمخرجات، حيث تعني كلمة “محتمل” هنا تقريبًا “محتمل إحصائيًا” نظرًا لما يتم رؤيته في بيانات التدريب”.

هل يواجه الذكاء الاصطناعي التوليدي مشكلة تحيز؟

تعرضت نماذج الذكاء الاصطناعي التوليدية لانتقادات بسبب ما يُنظر إليه على أنه تحيز في خوارزمياتها، خاصة عندما تتجاهل الأشخاص ذوي البشرة الملونة أو تديم الصور النمطية عند توليد النتائج.

يواجه الذكاء الاصطناعي، مثله مثل التكنولوجيا الأخرى، خطر تضخيم التحيزات المجتمعية الموجودة مسبقًا، وفقًا لأيو توميتي، المؤسس المشارك للحركة المناهضة للعنصرية ومقرها الولايات المتحدة، “حياة السود مهمة”.

قامت الفنانة ستيفاني دينكينز بتجربة قدرة الذكاء الاصطناعي على تصوير النساء السود بشكل واقعي على مدى السنوات السبع الماضية. وجد دينكينز أن الذكاء الاصطناعي يميل إلى تشويه ملامح الوجه وملمس الشعر عند إعطائه مطالبات لإنشاء الصور. أبلغ فنانون آخرون حاولوا إنشاء صور للنساء السود باستخدام منصات مختلفة مثل Stability AI أو Midjourney أو DALL-E عن مشكلات مماثلة.

ويقول النقاد أيضًا إن نماذج الذكاء الاصطناعي التوليدية تميل إلى المبالغة في إضفاء الطابع الجنسي على صور النساء السود والآسيويات التي تولدها. وأفادت بعض النساء السود والآسيويات أيضًا أن مولدات الذكاء الاصطناعي تعمل على تفتيح لون بشرتهن عندما يستخدمن الذكاء الاصطناعي لإنشاء صور لأنفسهن.

تحدث مثل هذه الحالات عندما لا يشمل أولئك الذين يقومون بتحميل بيانات التدريب أشخاصًا ملونين أو أشخاصًا ليسوا من “الثقافة السائدة”، كما قال مراسل البيانات لام ثوي فو في حلقة من برنامج “المعضلة الرقمية” على قناة الجزيرة. يمكن أن يؤدي الافتقار إلى التنوع بين أولئك الذين يقومون بإدخال بيانات التدريب لتوليد الصور باستخدام الذكاء الاصطناعي إلى “تعلم” الذكاء الاصطناعي للأنماط المتحيزة وأوجه التشابه داخل الصور، واستخدام تلك المعرفة لإنشاء صور جديدة.

علاوة على ذلك، يتم جمع بيانات التدريب من الإنترنت حيث يمكن العثور على مجموعة كبيرة من المحتوى والصور، بما في ذلك المحتوى العنصري والمعادي للنساء. ومن خلال التعلم من بيانات التدريب، قد يكرر الذكاء الاصطناعي ذلك.

وبالتالي، فإن الأشخاص الأقل أولوية في مجموعات البيانات، هم أكثر عرضة لتجربة التكنولوجيا التي لا تأخذ في الاعتبارهم ــ أو تصورهم بشكل صحيح ــ وهو ما يؤدي إلى التمييز ويمكن أن يؤدي إلى إدامته.

هل هذا هو السبب وراء إنشاء الجوزاء لصور غير لائقة؟

في واقع الأمر هو عكس ذلك. تم تصميم الجوزاء لمحاولة عدم إدامة هذه المشكلات.

في حين أن بيانات التدريب لنماذج الذكاء الاصطناعي التوليدية الأخرى غالبًا ما أعطت الأولوية للرجال ذوي البشرة الفاتحة عندما يتعلق الأمر بتوليد الصور، فقد قامت جيميني بإنشاء صور للأشخاص ذوي البشرة الملونة، وخاصة النساء، حتى عندما لا يكون ذلك مناسبًا للقيام بذلك.

وقال ميتشل إنه يمكن برمجة الذكاء الاصطناعي لإضافة مصطلحات إلى مطالبات المستخدم بعد إدخال المطالبات وإرسالها.

على سبيل المثال، قد يتم تغيير المطالبة “صور النازيين” إلى “صور النازيين المتنوعين عرقيًا” أو “صور النازيين وهم نساء سود”. لذا، فإن الإستراتيجية التي بدأت بنوايا حسنة يمكن أن تؤدي إلى نتائج إشكالية.

وأوضح ميتشل أن “ما تتم إضافته يمكن أن يكون عشوائيًا، لذلك يمكن إضافة مصطلحات مختلفة للمجتمعات المهمشة بناءً على مولد عشوائي”.

يمكن أيضًا توجيه نماذج الذكاء الاصطناعي لإنشاء مجموعة أكبر من الصور مما سيظهر للمستخدم بالفعل. وأوضح ميتشل أنه سيتم بعد ذلك تصنيف الصور التي تولدها، على سبيل المثال باستخدام نموذج يكتشف لون البشرة. وأوضحت: “مع هذا النهج، سيتم تصنيف درجات ألوان البشرة الداكنة أعلى من تلك الأدنى، ولا يرى المستخدمون سوى المجموعة العليا”.

ربما استخدمت جوجل هذه التقنيات لأن الفريق الذي يقف وراء جيميني أدرك أن التخلف عن التحيزات التاريخية “سيؤدي (في الحد الأدنى) إلى معارضة عامة هائلة”، كما كتب ميتشل في منشور X.

ماذا كان رد الفعل على صور الجوزاء؟

أولا، أثارت عروض جيميني ردود فعل عنيفة من المحافظين على الإنترنت، الذين زعموا أنهم كانوا “يعززون أجندة شركات التكنولوجيا الكبرى”، على سبيل المثال، من خلال إظهار الآباء المؤسسين للولايات المتحدة كرجال ونساء من مجموعات الأقليات العرقية.

مصطلح “استيقظ”، الذي كان لفترة طويلة جزءًا من اللغة العامية الأمريكية الأفريقية، تم اختياره من قبل بعض المحافظين الأمريكيين للرد على حركات العدالة الاجتماعية. على سبيل المثال، أدت المشاعر “المناهضة للاستيقاظ” بين الجمهوريين إلى فرض قيود على بعض المحتويات المرتبطة بالعرق في التعليم. في فبراير 2023، منع حاكم فلوريدا رون ديسانتيس كليات الولاية من تقديم برامج حول التنوع والمساواة والشمول، بالإضافة إلى تدريس نظرية العرق الحرجة.

أعاد رجل الأعمال الملياردير إيلون ماسك أيضًا نشر لقطة شاشة لبرنامج الدردشة الآلي الخاص بـ Gemini على X، حيث استجابت Gemini لمطالبة تقول إن الأشخاص البيض يجب أن يعترفوا بالامتياز الأبيض. وفي إعادة النشر، وصف ماسك برنامج الدردشة الآلي بأنه عنصري ومتحيز جنسيًا يوم الثلاثاء.

ومن ناحية أخرى، تمكنت جوجل أيضًا من الإساءة إلى الأقليات العرقية من خلال إنشاء صور، على سبيل المثال، لرجال ونساء سود يرتدون الزي النازي.

ماذا كان رد جوجل؟

وقالت جوجل الأسبوع الماضي إن الصور التي تم إنشاؤها بواسطة جيميني تم إنتاجها نتيجة لجهود الشركة لإزالة التحيزات التي أدت في السابق إلى إدامة الصور النمطية والمواقف التمييزية.

نشر برابهاكار راغافان من Google منشورًا على مدونة يوضح أيضًا أن جيميني تمت معايرته لإظهار أشخاص متنوعين ولكن لم يتم تعديله ليناسب المطالبات التي قد يكون ذلك غير مناسب فيها، وكان أيضًا “حذرًا” للغاية وأساء تفسير “بعض المطالبات المهدئة للغاية على أنها حساسة”.

وقال: “هذان الأمران قادا النموذج إلى الإفراط في التعويض في بعض الحالات، والإفراط في المحافظة في حالات أخرى، مما أدى إلى صور محرجة وخاطئة”.

ما الخطأ الآخر الذي أخطأ فيه الجوزاء؟

لم تكن صور الأشخاص التي أنشأها الذكاء الاصطناعي هي الأشياء الوحيدة التي أثارت غضب المستخدمين.

ونشر مستخدمو Gemini أيضًا على X أن الأداة فشلت في إنشاء صور تمثيلية عندما طُلب منهم إنتاج صور لأحداث مثل مذبحة ميدان تيانانمن عام 1989 والاحتجاجات المؤيدة للديمقراطية عام 2019 في هونغ كونغ.

قال جيميني، وفقًا للقطة شاشة شاركها ستيفن إل ميلر: “من المهم التعامل مع هذا الموضوع باحترام ودقة، ولست قادرًا على التأكد من أن الصورة التي أنشأتها ستلتقط بشكل مناسب الفروق الدقيقة وخطورة الموقف”. ، معلق محافظ في الولايات المتحدة على X.

كينيدي وونغ، طالب دكتوراه في جامعة كاليفورنيا، نشر على موقع X أن جيميني رفض ترجمة العبارات الصينية إلى الإنجليزية التي اعتبرتها بكين حساسة، بما في ذلك “تحرير هونغ كونغ، ثورة عصرنا” و”الصين دولة استبدادية”. .

في الهند، سأل الصحفي أرناب راي برنامج Gemini chatbot عما إذا كان رئيس الوزراء الهندي ناريندرا مودي فاشيًا. ورد جيميني بالقول إن مودي “متهم بتنفيذ سياسات وصفها بعض الخبراء بالفاشية”. أجاب جيميني بمزيد من الغموض عندما طرح راي أسئلة مماثلة حول الرئيس الأمريكي السابق دونالد ترامب والرئيس الأوكراني فولوديمير زيلينسكي.

وذكرت صحيفة الغارديان أنه عندما سُئل جيميني عن ترامب، قال: “الانتخابات موضوع معقد مع معلومات سريعة التغير. للتأكد من حصولك على المعلومات الأكثر دقة، جرّب بحث Google. وبالنسبة لزيلينكسي، قال إنه “سؤال معقد ومتنازع عليه بشدة، ولا توجد إجابة بسيطة عليه”. وأضاف: “من المهم تناول هذا الموضوع بفارق بسيط والنظر في وجهات نظر مختلفة”.

أثار هذا غضبًا بين أنصار مودي، واعتبر وزير تكنولوجيا المعلومات الشاب راجيف شاندراسيخار أن رد جيميني خبيث.

هل علقت جوجل الجوزاء؟

لم تقم Google بتعليق Gemini بالكامل.

ومع ذلك، أعلنت الشركة في 22 فبراير أنها ستمنع Gemini مؤقتًا من إنشاء صور للأشخاص

يوم الثلاثاء، كتب الرئيس التنفيذي لشركة Google، ساندر بيتشاي، رسالة إلى موقع Semafor الإخباري، يعترف فيها بأن Gemini قد أساء إلى المستخدمين. وكتب: “أعلم أن بعض ردودها قد أساءت لمستخدمينا وأظهرت تحيزًا – لكي أكون واضحًا، هذا غير مقبول تمامًا وقد أخطأنا في فهمه”.

وأضاف أن الفريق في جوجل يعمل على تصحيح الأخطاء لكنه لم يذكر متى سيتم إعادة إصدار أداة إنشاء الصور. وكتب: “لا يوجد ذكاء اصطناعي مثالي، خاصة في هذه المرحلة الناشئة من تطور الصناعة، لكننا نعلم أن المستوى مرتفع بالنسبة لنا وسنواصل ذلك مهما طال الوقت”.

وأضاف Raghavan أن الأداة ستخضع لاختبارات مكثفة قبل أن يصبح من الممكن الوصول إلى الميزة مرة أخرى.

كيف أثر الجدل على جوجل؟

ومع وصول هذا الجدل إلى وول ستريت، خسرت شركة ألفابت، الشركة الأم لشركة جوجل، حوالي 96.9 مليار دولار من القيمة السوقية اعتبارًا من 26 فبراير.

وانخفضت أسهم Alphabet بنسبة 4% تقريبًا من 140.10 دولارًا في 27 فبراير إلى 133.78 دولارًا يوم الثلاثاء.

شارك المقال
اترك تعليقك
نسيت كلمة المرور؟