حذر الخبراء من كيفية استخدام المحتالين بشكل متزايد للذكاء الاصطناعي لسرقة هويات الأشخاص – وأصواتهم – في محاولة لخداع الآلاف من أموالهم.
إنها عملية احتيال منتشرة بشكل متزايد حيث أصبح الذكاء الاصطناعي متاحًا بسهولة، وغالبًا ما يكون مجانًا، مع كونه مجرد أداة أخرى في ترسانتهم لخداع الأبرياء، والضعفاء في كثير من الأحيان. أثار خبراء الأمن السيبراني مخاوف بشأن قيام المحتالين بسرقة معلومات الأشخاص من حساباتهم على وسائل التواصل الاجتماعي، فقط لانتحال شخصيتهم لخداع الآخرين.
سلسلة جديدة على القناة الخامسة بعنوان سرقة الهوية: لا تنتبه، والتي تستمر الليلة، تدرس كيفية استخدام المجرمين للتكنولوجيا المتقدمة لإنشاء عمليات احتيال جديدة. يسمع من امرأة تم خداعها للاعتقاد بأن ابنتها قد اختطفت، حيث استخدمها المجرمون لاستنساخ صوتها.
وتعرضت ضحية أخرى لسرقة أكثر من 1000 جنيه إسترليني من التكنولوجيا، حيث استخدموا تطبيقًا يتظاهر بشراء جهاز iPad منها، بينما تناقش أخرى كيف فقدت السيطرة على حساباتها على وسائل التواصل الاجتماعي بسبب أحد المتسللين.
في حين أن المنظمات الشرعية تستخدم الذكاء الاصطناعي لزيادة قدرتها على الاستجابة للعملاء، غالبًا في محاولة للتمكن من حل المشكلات البسيطة بسرعة، فإن الأمر نفسه ينطبق على المجرمين الراغبين في توسيع عملياتهم. وقال دانييل برينس، أستاذ الأمن السيبراني في جامعة لانكستر، لصحيفة The Mirror: “هذه القدرة على التوسع هي أحد الجوانب التي يستخدم فيها المجرمون تقنيات الذكاء الاصطناعي التوليدية.
“إنها تمكنهم من تعقب أعداد كبيرة من الأفراد بطريقة معقولة حتى يحصلوا على شخص ما للرد ومن ثم يمكنهم تسليمهم إلى إنسان حقيقي لدفع عملية الاحتيال إلى الأمام. لقد رأينا هذا النهج من قبل، وأي شخص ينظر إلى بريده الإلكتروني يمكن أن يشهد البريد الوارد أو مجلد البريد العشوائي على عدد رسائل الاحتيال الآلية التي يتلقونها.
“ومع ذلك، فإن استخدام الذكاء الاصطناعي التوليدي يتجاوز هذا النوع من أتمتة النشاط الإجرامي. فهو يتيح للمجرمين الفرصة لبناء “نماذج” مزيفة لأشخاص حقيقيين لتعزيز نشاطهم الإجرامي.”
ويقول البروفيسور برينس إنه قد يكون من السهل على المجرمين إنشاء نماذج للأفراد باستخدام البرامج التي يمكنها الرد عبر الرسائل النصية مثل شخص معروف، وإنشاء صوت يبدو وكأنه شخص ما، وحتى إنشاء مقاطع فيديو وصور.
وحذر من أن “هذه النماذج يتم تدريبها على المعلومات المتاحة للجمهور عن الأشخاص، عادة من وسائل التواصل الاجتماعي”. “يمكن جمع النصوص والصوت والصور والفيديو من حسابات وسائل التواصل الاجتماعي إذا كانت مفتوحة، أو إذا تم اختراق اتصالاتهم وحسابات أصدقائهم.
“واستخدام الذكاء الاصطناعي لا يتطلب في كثير من الأحيان الكثير من المعلومات لإنشاء شيء معقول. وبمجرد تدريب هذه النماذج، يصبح من الممكن بعد ذلك إنشاء وسائط لاستخدامها عند الوصول إلى هدف محتمل لمحاولة حثهم على المشاركة. ولكنها حيلة شائعة. “هو محاولة خلق موقف شديد الضغط أو مثير للقلق، مثل شخص عزيز يحتاج إلى المساعدة، أو شخصية أو منظمة موثوقة تطالب باتخاذ إجراء.”
ويحذر الخبير من أن نفس السيناريو يمكن أن ينطبق أيضًا في بيئة مهنية، حيث يتضمن عادةً رسائل بريد إلكتروني يُزعم أنها مرسلة من شخصية كبيرة في المنظمة تطلب تغيير تفاصيل الدفع على سبيل المثال. يمكن أن يكون الأمر أكثر إقناعًا إذا تم ترك بريد صوتي.
وتقول الدكتورة كاتي باكستون فير، المحاضرة في الأمن السيبراني بجامعة مانشستر متروبوليتان، إنها شاهدت مجموعة من الهجمات المختلفة لسرقة الهويات. مثال واحد فقط هو عندما يقوم أحد المجرمين بتكرار حساب فيسبوك – حيث يتم استنساخ الصور مع المنشورات.
ثم يتصلون بعد ذلك بأصدقائهم قائلين إنهم تعرضوا للاختراق وأن هذا هو الحساب الجديد، بالإضافة إلى رابط ضار يلتقط اسم المستخدم وكلمة المرور الخاصة بهم. وفي الوقت نفسه، كان هناك ارتفاع في مقاطع الفيديو المزيفة بعمق في العام الماضي، حيث يتم استخدام الذكاء الاصطناعي لاستنساخ صوت شخص ما وشكله.
وقالت الدكتورة باكستون فير لصحيفة ميرور: “كانت هناك بعض التقارير التي تفيد بأن هذا يستخدم مع الأفراد، ولكن في الوقت الحالي يتم استخدامه بشكل أكبر مع المشاهير لأنه يتطلب عددًا كبيرًا من الأمثلة للشخص الذي يتحدث أمام الكاميرا”. تستشهد بمثال MoneySavingExpert Martin Lewis، الذي تم استخدام وجهه وصوته لبيع مخططات استثمار احتيالية، مع إعلان مزيف عميق يقوم بجولات على فيسبوك.
وفي العام الماضي، ظهر في برنامج Good Morning Britain للتعبير عن غضبه وسخطه من عمليات الاحتيال، وكشف أنه جعل أفرادًا من الجمهور يرسلون له رسائل غاضبة بعد اعتقادهم أنه هو الذي خدعهم بالفعل. وفي حديثه إلى بن شيبارد وكيت جارواي، قال السيد لويس: “إنه تطور مرعب للغاية.
“لا تزال هذه مجرد مراحل مبكرة من التكنولوجيا، وسوف تتحسن الأمور… أنا غاضب للغاية بشأن هذا. فهذه عمليات الاحتيال تدمر الأرواح. إن تأثير عمليات الاحتيال على الصحة العقلية واحترام الذات هائل. بعد كل هذه سنوات، كم مرة حذرت من عدم القيام بالإعلانات، وما زلنا نجري هذه المحادثات.
“الآن، أصبحت مقاطع الفيديو المزيفة العميقة معقولة للغاية. نحن في مستقبل بائس وخطير…”
ويكرر الدكتور باكستون فير تعليقات البروفيسور برينس قائلاً: “لقد شهدنا أيضًا صعود الذكاء الاصطناعي بشكل عام، باستخدام أدوات مثل ChatGPT، يمكن للمحتالين تصميم هجماتهم، والحصول على رسائل تستهدفك على وجه التحديد. بينما حاولت أدوات الذكاء الاصطناعي منعها”. هذا، وغالبا ما يمكن تجاوز حلولهم.
“يسمح هذا للمحتالين باستهدافك أو وظيفتك أو أصدقائك بالضبط. تم تصميم جميع عمليات الاحتيال بحيث يسهل الوقوع فيها، ويستفيدون دائمًا من طبيعتنا الأفضل لمساعدة الآخرين والقيام بعمل جيد، خاصة الآن، وقد تم تصميم عمليات الاحتيال هذه خصيصًا للغاية للأفراد.”
نصيحة إختصاصية
ينصح البروفيسور برينس القراء بمراعاة تواجدهم على وسائل التواصل الاجتماعي. واقترح “فكر في إغلاق ملفك الشخصي للحد من المعلومات المتعلقة بخروجك علنًا”. “تجنب قبول الاتصالات حتى تتأكد من هويتهم الحقيقية.
“فكر في اتصالاتك الحالية، هل تحتاج حقًا إلى البقاء على اتصال بالشخص الذي التقيته في إجازة قبل خمس سنوات والذي لم تتحدث معه مطلقًا منذ ذلك الحين؟ كل اتصال هو وسيلة يمكن للمجرم من خلالها الحصول على معلومات عنك.”
يقترح الخبير أيضًا التفكير في كيفية التحقق من الرسائل والمكالمات. وأضاف: “الشك ليس أمرا سيئا، وإذا كنت قلقا، فما عليك سوى الاتصال بالشخص مباشرة أو الاتصال بشريكه أو أي شخص قد يعرفه”. إذا تم القبض عليك، فمن المهم التصرف فورًا، حيث من المرجح أن تستعيد أموالك.
يوصي البروفيسور برنس أن يكون رقم الخط الساخن الخاص بالبنك الذي تتعامل معه في متناول اليد. من المهم إخطار الشرطة أو المركز الوطني للأمن السيبراني (NCSC) أو إجراءات الاحتيال. ويقترح أيضًا وجود كلمات مرور معقدة، واستخدام المصادقة الثنائية وتشغيل التنبيهات الأمنية لمراقبة مكان تسجيل الدخول ومن أي الأجهزة.
ويقول أيضًا لرفع مستوى الوعي بين الأقارب والأصدقاء المقربين. قال البروفيسور برينس: “اكشف الأمر علنًا وناقش كيف ستطلب المال وما إلى ذلك – معرفة أن هذا مقدمًا سيساعدك على اكتشاف الأمور التي قد لا تكون صحيحة”.
“يجب مناقشة هذا الأمر نظرًا لأن هذا النوع من الجرائم أصبح شائعًا بشكل متزايد، كما أن إجراء هذه الأنواع من المحادثات مع الأشخاص الأقرب إليك – بما في ذلك أي أطفال – قد يحدث فرقًا بين الأشخاص الذين تهتم بتعرضهم للاحتيال أو لا.”
تقول الدكتورة كاتي إنه لا تخف أبدًا من طرح سؤال أمني على الأشخاص، مثلما يفعل البنك الذي تتعامل معه، مثل “متى التقينا آخر مرة؟” أو “من هو مديري المباشر؟” إذا كانت رسالة مراوغة في العمل. وكررت: “إذا حصلت على اتصال من شخص رفيع المستوى في شركتك، فراجع دائمًا فريق تكنولوجيا المعلومات أو الأمن لديك”.
“لا تثق أبدًا برقم واتساب يدعي أنه شخص تعرفه وكن يقظًا دائمًا. ستبدو مقاطع الفيديو المزيفة بعمق غريبة، وقد يكون هناك صوت يشبه الروبوت، وستبدو الحركة غير طبيعية. قم بالبحث قبل استثمار أي أموال في مخطط أو “لا تثق في أحد المشاهير وحدهم. إذا كان هناك شيء يبدو جيدًا لدرجة يصعب تصديقه، فمن المحتمل أن يكون كذلك.”