واستخدم المقطع المنتشر الذكاء الاصطناعي لتقليد صوته وجعله يبدو وكأنه ينتقد فعاليات الذكرى ويطالب بأن تكون للمسيرات المؤيدة للفلسطينيين الأولوية
قال صادق خان إن مقطعًا مزيفًا له وهو يدلي بتصريحات تحريضية قبل يوم الهدنة كاد أن يتسبب في اضطرابات خطيرة في الشوارع.
وحذر عمدة لندن من أن القانون “ليس مناسبًا للغرض” بشأن تهديد التزييف العميق – وقال إن منشئ الصوت المراوغ “أفلت من العقاب”. واستخدم المقطع الذي انتشر انتشارًا واسعًا الذكاء الاصطناعي (AI) لتقليد صوته وجعله حقيقيًا. يبدو أنه كان ينتقد فعاليات الذكرى ويطالب بأن تكون للمسيرات المؤيدة للفلسطينيين الأولوية.
وجاء التسجيل الصوتي المزيف في وقت يتصاعد فيه التوتر حيث قال ريشي سوناك إن المسيرات المؤيدة للفلسطينيين في جزء مختلف من وسط لندن كانت “غير محترمة” في يوم الهدنة. ووصفت وزيرة الداخلية آنذاك، سويلا برافرمان، المظاهرات بأنها “مسيرات الكراهية”.
وقال لراديو بي بي سي 4 لماذا تكرهني؟ “(التوقيت) لم يكن من الممكن أن يكون أفضل إذا كنت تسعى إلى زرع التنافر والتسبب في مشاكل”. “ما قيل كان بمثابة خرقة حمراء للثور ل اليمين المتطرف وغيرهم، ولكن أكثر ما يهمني هو إذا كنت مستمعًا بريئًا لهذا، لأنه تسجيل سري سري، بفواصل مقلوبة، لأنه يبدو مثلي، بسبب التوقيت والسياق… و ولهذا السبب فهو خطير للغاية.”
وأضاف خان: “كنا على وشك أن نعاني من اضطراب خطير”. “فقط تخيل في سيناريو مختلف حيث يكون هناك المزيد من السمية، والفرق الذي يمكن أن يحدثه هذا، أو، على سبيل المثال، في انتخابات متقاربة، استفتاءات قريبة، الأوقات التي يوجد فيها، كما تعلمون، تنافر في المجتمع يؤثر على الصوت المزيف … الذكاء الاصطناعي الذي تم إنشاؤه يمكن أن يكون الصوت أو الفيديو.”
وقال: “يجب أن يكون الناس قادرين على انتقادي (…) لكنني أعتقد أن ما لا ينبغي عليك فعله هو اختلاق الأكاذيب، واستخدام الذكاء الاصطناعي لاختلاق الأكاذيب… وأعتقد أن الشخص الذي فعل هذا يحتاج إلى إدراك العواقب المترتبة على ذلك”. السبت.”
وانتشر المقطع بسرعة عبر الإنترنت بين الجماعات اليمينية المتطرفة وأثار موجة من الكراهية ضد خان. قال: “كما تعلمون، لقد شعرنا بالقلق بسرعة كبيرة بشأن الانطباع الذي قد يتركه ذلك (…) يجب أن أكون صادقًا، لقد بدا الأمر مثلي كثيرًا. عندما يكون لديك أصدقاء وعائلة يرون هذه الأشياء، فهذا أمر مزعج للغاية. أعني، لدي ابنتان، وزوجة، ولدي، كما تعلم، إخوة. لقد حصلت على أمي.”
تتبعت بي بي سي التسجيل إلى TikTok وما يبدو أنه منشئ المقطع، وهو ملف تعريف يسمى HJB News. وقالت هيئة الإذاعة البريطانية إن حسابات HJB News على وسائل التواصل الاجتماعي الأخرى تظهر أنهم شاركوا الصوت في 9 نوفمبر – قبل ساعات من انتشاره – ولا يوجد أي أثر للصوت في أي مكان آخر عبر الإنترنت قبل مشاركة HJB News له.
ونفى المبدع، الذي ذكر اسمه فقط باسم هنري، إنشائه وقال إن حسابه لا ينشر فقط “مقاطع مزيفة”. وقال: “ننشر الأخبار التي يمكن أن تكون حقيقية بروح الدعابة”. وقال لبي بي سي “هذا ما نعرف جميعا أن صادق يعتقده”.
وفي 11 تشرين الثاني/نوفمبر، قالت سكوتلاند يارد إنها فحصت التسجيل الصوتي لكنه لا يرقى إلى مستوى جريمة جنائية. وقالت HJB News على تويتر: “حسنًا، هذا أمر مريح” مع رمز تعبيري لخرزة من العرق تتدحرج على وجه مبتسم.
أحد أكبر الحسابات التي نشرت الصوت المزيف هو Little Boats، الذي شارك محتوى مناهضًا للإسلام والهجرة ولديه أكثر من 58000 متابع. وقال جيريمي ديفيس، المسؤول عن الحساب، إنه لا يزال يشك في أن لدى خان معتقدات مشابهة لتلك الموجودة في التسجيل الصوتي، لكنه اعتذر عن مشاركة المحتوى المزيف. وقال: “لقد كانت مهمة الذكاء الاصطناعي ذكية. أعتذر يا عمدة خان، لقد ارتكبت خطأً كبيراً”.
وقال خان إن التسجيل الصوتي المزيف “لم يكن فيه قدر من المرح” أو “الهجاء” وأن منشئه لم يكن “ساذجًا” فيما يتعلق بالعواقب. وقال إنه يقبل اعتذار أي شخص شاركه باعتباره خطأً بريئًا.
وقال أيضًا للبودكاست: “أعتقد أن البرلمان بحاجة إلى أن يستيقظ ويفهم أنه إذا لم يتخذ إجراءً، فسوف يوفر ذلك فرصًا لمرتكبي الأذى ليكونوا أكثر جرأة، وأعتقد أنه من المهم حقًا أن نفهم أن القوانين الحالية لدينا حول حقوق الطبع والنشر والملكية الفكرية والقانون الجنائي غير مناسب للغرض.
ولم يستجب X وInstagram للتعليق. قال متحدث باسم TikTok إنه “لا يسمح بالوسائط الاصطناعية التي تحتوي على صورة أي شخصية خاصة حقيقية” ويزيل هذا النوع من المحتوى. وقال المتحدث إن TikTok تحدثت إلى كل من مكتب عمدة المدينة وشرطة العاصمة في نوفمبر وأبلغت عن مدى إمكانية حدوث مشكلات مماثلة سيتم رفعها مباشرة في المستقبل.
لماذا تكرهني؟ يتم بثه على راديو بي بي سي 4 يوم الأربعاء وهو متاح على بي بي سي ساوندز