وقال ستيفنسون، الذي شارك في تأسيس الموقع في عام 2021، في مقابلة: “عندما بدأنا في القيام بذلك، اعتقدت أن الأمر سيكون سيئًا للغاية ولن يخدع أحداً، لكنني شعرت بالذهول”. “ونحن غير متطورين. إذا تمكنا من القيام بذلك، فإن أي شخص لديه ميزانية حقيقية يمكنه القيام بعمل جيد بما فيه الكفاية بحيث يخدعك، ويخدعني، وهذا أمر مخيف.
كضيق تقترب الانتخابات الرئاسية لعام 2024 من أي وقت مضى، ويدق الخبراء والمسؤولون ناقوس الخطر بشكل متزايد بشأن القوة المدمرة المحتملة للتزييف العميق للذكاء الاصطناعي، والتي يخشون أن تؤدي إلى زيادة تآكل إحساس البلاد بالحقيقة وزعزعة استقرار الناخبين.
هناك دلائل تشير إلى أن الذكاء الاصطناعي – والخوف المحيط به – له بالفعل تأثير على السباق. في أواخر العام الماضي، اتهم الرئيس السابق دونالد ترامب زوراً منتجي أحد الإعلانات، التي أظهرت زلاته العامة الموثقة جيداً، بالاتجار في المحتوى الناتج عن الذكاء الاصطناعي. وفي الوقت نفسه، تم نشر صور مزيفة لترامب وغيره من الشخصيات السياسية. لقد انتشرت هذه السياسات، التي صُممت بغرض التعزيز والتأثير، على نطاق واسع مرارًا وتكرارًا، مما أدى إلى زرع الفوضى في مرحلة حاسمة من الدورة الانتخابية.
والآن يسارع بعض المسؤولين إلى الرد. في الأشهر الأخيرة، أعلنت وزارة العدل في نيو هامبشاير أنها تحقق في مكالمة آلية مخادعة تتضمن صوتًا تم إنشاؤه بواسطة الذكاء الاصطناعي للرئيس بايدن. وحذرت ولاية واشنطن ناخبيها من الحذر من التزييف العميق؛ وأقر المشرعون من ولاية أوريغون إلى فلوريدا مشاريع قوانين تقيد استخدام مثل هذه التكنولوجيا في اتصالات الحملات الانتخابية.
وفي ولاية أريزونا، وهي ولاية متأرجحة رئيسية في مسابقة عام 2024، استخدم كبير مسؤولي الانتخابات صورًا مزيفة لنفسه في تمرين تدريبي لإعداد الموظفين لهجوم الأكاذيب القادمة. وقد ألهم هذا التمرين ستيفنسون وزملائه في أريزونا أجندا، الذين تسعى رسالتهم الإخبارية اليومية إلى شرح قصص سياسية معقدة لجمهور يضم نحو 10 آلاف مشترك.
لقد قاموا بطرح الأفكار لمدة أسبوع تقريبًا وطلبوا المساعدة من صديق ماهر في مجال التكنولوجيا. ونشر ستيفنسون يوم الجمعة القطعة التي تضمنت ثلاثة مقاطع مزيفة لأغنية Lake.
يبدأ الأمر بحيلة، تخبر القراء أن ليك – المرشحة اليمينية المتشددة التي سخر منها أجندة أريزونا في الماضي – قررت تسجيل شهادة حول مدى استمتاعها بالمنفذ. لكن الفيديو يتحول بسرعة إلى النكتة الهبة.
“اشترك في أجندة أريزونا للحصول على أخبار حقيقية قوية”، يقول ليك المزيف للكاميرا، قبل أن يضيف: “ومعاينة للذكاء الاصطناعي المرعب الذي سيأتي في طريقك في الانتخابات المقبلة، مثل هذا الفيديو، وهو عبارة عن ذكاء اصطناعي”. التزييف العميق لأجندة أريزونا يوضح لك مدى جودة هذه التكنولوجيا.”
بحلول يوم السبت، حققت مقاطع الفيديو عشرات الآلاف من المشاهدات – وكان الرد غير سعيد للغاية من ريل ليك، الذي أرسل محامو حملته إلى أجندة أريزونا خطابًا بالتوقف والكف. وطالبت الرسالة “بالإزالة الفورية لمقاطع الفيديو المزيفة العميقة المذكورة أعلاه من جميع المنصات التي تمت مشاركتها أو نشرها فيها”. وجاء في الرسالة أنه إذا رفض المنفذ الامتثال، فإن حملة ليك “ستتبع جميع سبل الانتصاف القانونية المتاحة”.
ورفض متحدث باسم الحملة التعليق عند الاتصال به يوم السبت.
وقال ستيفنسون إنه كان يتشاور مع المحامين حول كيفية الرد، ولكن حتى بعد ظهر يوم السبت، لم يكن يخطط لإزالة مقاطع الفيديو. وقال إن التزييف العميق عبارة عن أجهزة تعليمية جيدة، وهو يريد تسليح القراء بالأدوات اللازمة لاكتشاف مثل هذه التزييفات قبل أن يتم قصفها بها مع احتدام موسم الانتخابات.
وكتب ستيفنسون في المقال المصاحب للمقاطع: “إن محاربة هذه الموجة الجديدة من المعلومات المضللة التكنولوجية تقع على عاتقنا جميعًا في هذه الدورة الانتخابية”. “أفضل دفاع لك هو معرفة ما هو موجود، واستخدام تفكيرك النقدي.”
وقال هاني فريد، الأستاذ بجامعة كاليفورنيا في بيركلي والذي يدرس الدعاية الرقمية والمعلومات المضللة، إن مقاطع فيديو “أجندة أريزونا” كانت بمثابة إعلانات خدمة عامة مفيدة يبدو أنها تم تصميمها بعناية للحد من العواقب غير المقصودة. ومع ذلك، قال إنه يجب على وسائل الإعلام أن تكون حذرة بشأن كيفية تأطير تقاريرها الصحفية المزيفة بعمق.
وقال فريد: “أنا أؤيد إعلانات الخدمة العامة، ولكن هناك توازن”. “أنت لا تريد أن ينظر القراء والمشاهدون إلى كل ما لا يتوافق مع رؤيتهم للعالم على أنه مزيف.”
وقال فريد إن تقنية التزييف العميق تمثل “ناقلين للتهديد” مختلفين. أولاً، يمكن للجهات الفاعلة السيئة إنشاء مقاطع فيديو كاذبة لأشخاص يقولون أشياء لم يقولوها أبدًا؛ وثانيًا، يمكن للناس أن يرفضوا بمصداقية أي لقطات حقيقية محرجة أو تدينهم باعتبارها مزيفة.
وقال فريد إن هذه الديناميكية كانت واضحة بشكل خاص خلال الغزو الروسي لأوكرانيا، وهو صراع مليء بالمعلومات المضللة. في وقت مبكر من الحرب، روجت أوكرانيا لفيديو مزيف يظهر باريس تتعرض للهجوم، وحثت زعماء العالم على الرد على عدوان الكرملين بنفس القدر من الإلحاح الذي قد يظهرونه إذا تم استهداف برج إيفل.
وقال فريد إنها كانت رسالة قوية، لكنها فتحت الباب أمام ادعاءات روسيا التي لا أساس لها من الصحة بأن مقاطع الفيديو اللاحقة من أوكرانيا، والتي أظهرت أدلة على جرائم حرب الكرملين، كانت مفبركة بالمثل.
وأضاف: “أشعر بالقلق من أن كل شيء أصبح مشبوهاً”.
لدى ستيفنسون، الذي أصبحت ساحته الخلفية ساحة معركة سياسية أصبحت في الآونة الأخيرة بوتقة لنظريات المؤامرة والادعاءات الكاذبة، مخاوف مماثلة.
وقال: “منذ سنوات عديدة ونحن نتقاتل حول ما هو حقيقي”. “يمكن شطب الحقائق الموضوعية باعتبارها أخبارًا مزيفة، والآن سيتم شطب مقاطع الفيديو الموضوعية باعتبارها مزيفة عميقة، وسيتم التعامل مع التزييف العميق على أنه حقيقة”.
يعمل باحثون مثل فريد بشكل محموم على برامج تسمح للصحفيين وغيرهم باكتشاف التزييف العميق بسهولة أكبر. وقال فريد إن مجموعة الأدوات التي يستخدمها حاليًا صنفت بسهولة فيديو “أجندة أريزونا” على أنه مزيف، وهي علامة تبعث على الأمل لطوفان قادم من المنتجات المزيفة. ومع ذلك، فإن تقنية التزييف العميق تتحسن بمعدل سريع، وقد يكون من الصعب جدًا اكتشاف الاحتيالات المستقبلية.
وحتى التزييف العميق الذي قام به ستيفنسون دون المستوى، تمكن من خداع عدد قليل من الناس: بعد نشر النشرة الإخبارية يوم الجمعة بعنوان “بحيرة كاري تقدم لنا خدمة قوية”، ألغت حفنة من القراء الذين يدفعون الاشتراكات. على الأرجح، يشتبه ستيفنسون في أنهم اعتقدوا أن تأييد ليك كان حقيقيًا.
ساهم ميجان فاسكويز في هذا التقرير.