منعت منصة التواصل الاجتماعي X عمليات البحث عن إحدى أكثر الشخصيات شهرة في العالم، تايلور سويفت، بعد انتشار صور الذكاء الاصطناعي الصريحة للمغنية وكاتبة الأغاني.
غمرت عمليات التزييف العميق العديد من مواقع التواصل الاجتماعي، من Reddit إلى Facebook. وقد أدى هذا إلى تجديد الدعوات لتعزيز التشريعات المتعلقة بالذكاء الاصطناعي، وخاصة عندما يساء استخدامه للتحرش الجنسي.
إليك ما تحتاج إلى معرفته حول حلقة Swift وقانونية التزييف العميق.
ماذا حدث لتايلور سويفت؟
في يوم الأربعاء، بدأ تداول الصور الجنسية الصريحة التي أنشأها الذكاء الاصطناعي على مواقع التواصل الاجتماعي، ولا سيما على X. وشوهدت إحدى صور النجم الكبير 47 مليون مرة خلال 17 ساعة تقريبًا من بثها على X قبل إزالتها يوم الخميس.
قالت مجموعة Reality Defender للكشف عن التزييف العميق لوكالة أسوشيتد برس للأنباء إنها تتبعت عشرات الصور الفريدة التي انتشرت بين ملايين الأشخاص عبر الإنترنت قبل إزالتها.
لقد حظر X عمليات البحث عن Swift والاستعلامات المتعلقة بالصور، وبدلاً من ذلك عرض رسالة خطأ.
يعرض Instagram وThreads، أثناء السماح بالبحث عن Swift، رسالة تحذير عند البحث عن الصور على وجه التحديد.
ما الذي تقوله منصات مثل مواقع X و AI؟
في يوم الجمعة، أصدر حساب الأمان الخاص بـ X بيانًا كرر فيه “سياسة عدم التسامح مطلقًا” الخاصة بالمنصة بشأن نشر صور عارية غير موافقة. وقالت إن المنصة تزيل الصور وتتخذ إجراءات ضد الحسابات التي تنتهك هذه السياسة.
وأصدرت ميتا أيضًا بيانًا يدين المحتوى، مضيفة أنها “ستتخذ الإجراء المناسب حسب الحاجة”.
وقالت الشركة: “نحن نراقب الوضع عن كثب للتأكد من معالجة أي انتهاكات أخرى على الفور، وإزالة المحتوى”.
قالت OpenAI إن لديها ضمانات معمول بها للحد من توليد المحتوى الضار على منصاتها مثل ChatGPT وترفض “الطلبات التي تطلب شخصية عامة بالاسم، بما في ذلك تايلور سويفت”.
قالت شركة مايكروسوفت، التي تقدم أداة إنشاء صور تعتمد جزئيًا على موقع DALL-E، يوم الجمعة إنها بصدد التحقيق فيما إذا كان قد تم إساءة استخدام أداتها.
أشارت كيت فريدنبرج، الأستاذ المساعد في قسم الفلسفة والمنطق والمنهج العلمي في كلية لندن للاقتصاد، إلى أن نماذج أعمال وسائل التواصل الاجتماعي غالبًا ما تكون مبنية على مشاركة المحتوى وعادةً ما يكون نهجها هو التنظيف بعد مثل هذا الحدث.
ولم تصدر سويفت بيانا حول الصور. وشوهدت نجمة البوب يوم الأحد في إحدى مباريات دوري كرة القدم الأمريكية في الولايات المتحدة، وهي تهتف لصديقها ترافيس كيلسي بينما يتقدم فريق كانساس سيتي تشيفز إلى بطولة السوبر بول.
يُحظر تمامًا نشر صور العري غير التوافقي (NCN) على X، ولدينا سياسة عدم التسامح مطلقًا تجاه هذا المحتوى. تعمل فرقنا بشكل فعال على إزالة جميع الصور المحددة واتخاذ الإجراءات المناسبة ضد الحسابات المسؤولة عن نشرها. نحن عن كثب…
— السلامة (@السلامة) 26 يناير 2024
ما هو التزييف العميق وكيف يمكن إساءة استخدامه؟
وسويفت ليست الشخصية العامة الأولى التي يتم استهدافها باستخدام تقنية التزييف العميق، وهي شكل من أشكال “الوسائط الاصطناعية” أو الوسائط الافتراضية التي يتم التلاعب بها وتعديلها من خلال الذكاء الاصطناعي.
يمكن إنشاء الصور ومقاطع الفيديو من الصفر عن طريق تغذية أدوات الذكاء الاصطناعي بمطالبات بما سيتم عرضه. وبدلاً من ذلك، يمكن استبدال وجه شخص ما في مقطع فيديو أو صورة بوجه شخص آخر، مثل شخصية عامة.
عادة ما يتم إنشاء مقاطع الفيديو المزيفة بهذه الطريقة لإظهار السياسيين وهم يؤيدون تصريحات معينة أو الأشخاص الذين يشاركون في أنشطة جنسية لم يشاركوا فيها مطلقًا. في الآونة الأخيرة، في الهند، انتشرت مقاطع التزييف العميق الجنسية الصريحة للممثلة راشميكا ماندانا على وسائل التواصل الاجتماعي، مما أثار ضجة كبيرة. استخدم أحد تطبيقات الألعاب صورة مزيفة لرمز لعبة الكريكيت ساشين تيندولكار للترويج لمنتجه. وفي الولايات المتحدة، أنتجت حملة المرشح الرئاسي الجمهوري السابق رون ديسانتيس مقاطع مزيفة تظهر الرئيس السابق دونالد ترامب، الذي يقود سباق الترشيح الرئاسي للحزب، وهو يقبل أخصائي الصحة العامة أنتوني فوسي، وهو شخصية مكروهة لدى العديد من المحافظين بسبب دفاعه عن الأقنعة والكمامات. اللقاحات خلال جائحة كوفيد-19.
في حين أنه من السهل التعرف على بعض الصور المزيفة بسبب جودتها الرديئة، إلا أن تمييز بعضها الآخر عن الفيديو الحقيقي قد يكون أكثر صعوبة. تتوفر العديد من أدوات الذكاء الاصطناعي التوليدية مثل Midjourney وDeepfakes web وDALL-E للمستخدمين مجانًا أو مقابل رسوم منخفضة.
أكثر من 96% من الصور المزيفة بعمق على الإنترنت حاليًا ذات طبيعة إباحية، وجميعها تقريبًا تستهدف النساء، وفقًا لتقرير صادر عن شركة Sensity AI، وهي شركة استخبارات تركز على اكتشاف الصور المزيفة بعمق.
هل هناك أي تشريع يمكن أن يحمي مستخدمي الإنترنت؟
تختلف التشريعات التي تتناول التزييف العميق على وجه التحديد حسب البلد وتتراوح عادةً من طلب الكشف عن التزييف العميق إلى حظر المحتوى الضار أو الخبيث.
لدى عشر ولايات في الولايات المتحدة، بما في ذلك تكساس وكاليفورنيا وإلينوي، قوانين جنائية ضد التزييف العميق. ويضغط المشرعون من أجل مشروع قانون فيدرالي مماثل أو المزيد من القيود على الأداة. قدمت النائبة الأمريكية إيفيت كلارك، وهي ديمقراطية من نيويورك، تشريعًا يتطلب من المبدعين وضع علامة مائية رقمية على المحتوى المزيف العميق.
يمكن أن تشكل التزييفات العميقة الجنسية الصريحة، عندما تكون غير موافقة، انتهاكًا للقوانين الأوسع في البلاد. لا تجرم الولايات المتحدة مثل هذه التزييفات العميقة، ولكن لديها قوانين حكومية وفيدرالية تستهدف الخصوصية والاحتيال والتحرش.
في عام 2019، نفذت الصين قوانين تلزم بالكشف عن استخدام التزييف العميق في مقاطع الفيديو والوسائط. في عام 2023، جعلت المملكة المتحدة مشاركة المواد الإباحية العميقة غير قانونية كجزء من قانون السلامة على الإنترنت.
وسنت كوريا الجنوبية قانونا في عام 2020 يجرم توزيع الصور المزيفة التي تسبب ضررا للمصلحة العامة، وتفرض عقوبات تصل إلى خمس سنوات في السجن أو غرامات تصل إلى نحو 50 مليون وون (43 ألف دولار) لردع سوء الاستخدام.
في الهند، أصدرت الحكومة الفيدرالية تحذيرًا لوسائل التواصل الاجتماعي ومنصات الإنترنت في ديسمبر للحماية من التزييف العميق الذي يتعارض مع قواعد تكنولوجيا المعلومات في الهند. إن تقنية Deepfakes في حد ذاتها ليست غير قانونية، ولكنها، اعتمادًا على المحتوى، يمكن أن تنتهك بعض قواعد تكنولوجيا المعلومات في الهند.
إن التردد بشأن فرض قيود تنظيمية أكثر صرامة ينبع في كثير من الأحيان من المخاوف من أنها قد تعيق التقدم التكنولوجي.
وقال فريدنبرج: “إنه يفترض فقط أننا لا نستطيع إجراء هذه التغييرات التنظيمية أو التصميمية من أجل تقليل ذلك بشكل كبير على الأقل”. في بعض الأحيان، يمكن أن يكون الموقف الاجتماعي أيضًا هو أن مثل هذه الحوادث هي ثمن يجب دفعه مقابل هذه الأدوات، وهو ما يهمش وجهة نظر الضحايا، كما يقول فريدنبرج.
وقالت: “إنها تصورهم وكأنهم أقلية صغيرة من المجتمع قد تتأثر لصالحنا جميعًا”. “وهذا وضع غير مريح للغاية، اجتماعيًا، بالنسبة لنا جميعًا”.
كيف يتفاعل العالم؟
وقال البيت الأبيض إنه “منزعج” من الصور بينما حشدت قاعدة جماهير سويفت – التي تسمى Swifties – لاتخاذ إجراءات ضدها.
وقالت كارين جان، السكرتيرة الصحفية للبيت الأبيض: “بينما تتخذ شركات وسائل التواصل الاجتماعي قراراتها المستقلة بشأن إدارة المحتوى، نعتقد أن لديها دورًا مهمًا تلعبه في إنفاذ قواعدها الخاصة لمنع انتشار المعلومات الخاطئة والصور الحميمة غير التوافقية لأشخاص حقيقيين”. – قال بيير في مؤتمر صحفي.
كما أعرب المشرعون الأمريكيون عن الحاجة إلى إدخال ضمانات.
منذ يوم الأربعاء، أبلغ معجبو المغنية بسرعة عن حساباتهم وشنوا هجومًا مضادًا على X باستخدام علامة التصنيف #ProtectTaylorSwift لإغراقها بصور أكثر إيجابية لـ Swift.
وقال فريدنبرج: “كثيرًا ما نعتمد على المستخدمين والمتضررين أو الأشخاص المتضامنين معهم من أجل القيام بالعمل الشاق المتمثل في الضغط على الشركات”، مضيفًا أنه لا يستطيع الجميع حشد نفس النوع من الضغط وبالتالي الاعتماد على الغضب. إن ترجمتها إلى تغيير دائم لا يزال أمرًا يدعو للقلق.