شخصية روبوت الدردشة الجدة لإفساد وقت المحتالين

من بين جميع أفكار روبوتات الدردشة المدعومة بالذكاء الاصطناعي التي رأيناها منذ انتشار ChatGPT على نطاق واسع قبل عامين تقريبًا، تعد Daisy من O2 (المُصممة باسم “dAIsy”) من بين الأفضل بسهولة. إنها فكرة رائعة بشكل لا يصدق من عامل بريطاني يريد منع المحتالين من الوصول. إنها تفعل ذلك من خلال جعل ديزي وشخصية جدتها المحبوبة تضيعان وقت المحتالين من خلال إبقائهم على المحك حتى لا يتمكنوا من تحمل المزيد.

وهذا حل رائع لمشكلة لن تختفي في أي وقت قريب. سيتصل المحتالون بأكبر عدد ممكن من الأشخاص على أمل خداعهم وسلب أموالهم بطريقة أو بأخرى. إنهم يستخدمون جميع أنواع الذرائع لإقناع الناس بتسليم معلوماتهم الشخصية.

قد لا تصل بعض عمليات الاحتيال هذه بالضرورة إلى حسابك المصرفي. وبدلاً من ذلك، قد يحاولون الاستيلاء على عمليات تسجيل الدخول إلى حساب معين. قد يستخدم بعض المحتالين الذكاء الاصطناعي لإعطائك الانطباع بأنك تتحدث إلى شخص حقيقي من قسم دعم العملاء.

كبار السن هم الفريسة الأسهل، على الأقل من الناحية النظرية. لا يعرف جميعهم كيفية التعامل مع المحتالين، وقد يتم خداع بعضهم بسهولة. لهذا السبب تعتبر ديزي فكرة رائعة.

من خلال منح برنامج الدردشة الآلي هذا صوت ونبرة سيدة مسنة لطيفة لديها كل الوقت في العالم للدردشة، تضمن O2 عمليًا بقاء المحتال على الخط. سيكونون مقتنعين بأنهم قادرون على الحصول على النتائج، بغض النظر عن المدة التي يستغرقها ذلك.

كما سترون في الفيديو أدناه، تخدع ديزي المحتالين لقضاء بعض الوقت معها على الهاتف. ويحتوي المقطع على مقتطفات من محادثات حقيقية مع محتالين استمرت لمدة 40 دقيقة أو أكثر. التمثيل المرئي للجدة يفيد هذا المقطع الترويجي فقط. في الواقع، ديزي ليس لها وجه، ولن يراها المحتالون أبدًا.

كلما طالت مدة تحدث المحتالين مع ديزي، كان ذلك أفضل للأشخاص الحقيقيين. لن يتمكن المحتالون من استهداف الآخرين إذا كانوا مشغولين بمحاولة إقناع ديزي بالتخلي عن معلومات بطاقتها الائتمانية أو أي شيء قد يحاولون الحصول عليه.

يصبح الأمر أفضل من ذلك. إذا حصل المحتال أخيرًا على رقم ائتماني من Daisy، فلن يكون حقيقيًا. لكنهم سيقضون المزيد من الوقت في محاولة الحصول على شيء ما منه.

أصبحت مشاريع مثل Daisy ممكنة بفضل التقدم الهائل في برامج genAI في السنوات الأخيرة. يمكن لروبوتات الدردشة التحدث عن أي شيء، وبفضل الميزات الصوتية مثل وضع الصوت المتقدم (ChatGPT) وGemini Live (Gemini)، يمكنها إجراء محادثات صوتية تبدو تمامًا مثل الحديث بين البشر.

لم تذكر O2 نماذج genAI التي تستخدمها، ولكن برنامج الدردشة الآلي “ممطر باستخدام أحدث التقنيات والمحتوى المخادع الحقيقي”. ونتيجة لذلك، “لا يمكن تمييز ديزي عن الشخص الحقيقي”، وهو ما يعمل بشكل رائع لغرض استخدام الذكاء الاصطناعي:

تجمع Daisy بين العديد من نماذج الذكاء الاصطناعي التي تعمل معًا للاستماع أولاً إلى المتصل وتحويل صوته إلى نص. يتم بعد ذلك إنشاء الاستجابات المناسبة من خلال نموذج لغة كبير مخصص مكتمل بطبقة “شخصية” الشخصية، ثم يتم تغذيتها مرة أخرى من خلال نموذج مخصص لتحويل النص إلى كلام يعمل بالذكاء الاصطناعي لإنشاء إجابة صوتية. ويحدث هذا في الوقت الفعلي، مما يسمح للأداة بإجراء محادثة تشبه المحادثة البشرية مع المتصل.

كيف يصل المحتالون إلى ديزي؟ أضافت O2 رقم الذكاء الاصطناعي إلى قوائم “الأهداف السهلة” التي يمكن للمحتالين الوصول إليها. يمكن لـ O2 دائمًا أن يبقي الأمور مثيرة للاهتمام عن طريق تغيير الرقم أو إضافة أسطر متعددة. لكن هذه مجرد تكهنات.

أما بالنسبة لمحتوى المحتال الحقيقي هذا، فتقول شركة O2 إنها عملت مع جيم براوننج، أحد أشهر المحتالين على YouTube. تقول شركة النقل إنها أنشأت Daisy بعد أن وجدت أن المزيد من الأشخاص يريدون الانتقام من المحتالين عبر الهاتف. أظهر بحث O2 أن 7 من كل 10 بريطانيين يرغبون في القتال. وفي الوقت نفسه، 53% منهم لا يريدون إضاعة وقتهم في إبقاء المحتالين مشغولين.

حتى الآن، تعمل Daisy على النحو المنشود، لكن الذكاء الاصطناعي لم يعمل لفترة طويلة:

بعد عدة أسابيع من تلقي المكالمات الهاتفية في الفترة التي سبقت الأسبوع الدولي للتوعية بالاحتيال (17-23 نوفمبر)، أخبرت المحتالة التي تعمل بالذكاء الاصطناعي المحتالين المحبطين قصصًا متعرجة عن عائلتها، وتحدثت مطولًا عن شغفها بالحياكة وزودت المتصلين الغاضبين بمعلومات شخصية زائفة المعلومات بما في ذلك التفاصيل المصرفية المختلقة.

من خلال خداع المجرمين للاعتقاد بأنهم يحتالون على شخص حقيقي ويستغلون تحيزات المحتالين تجاه كبار السن، منعتهم ديزي من استهداف ضحايا حقيقيين، والأهم من ذلك، كشفت عن الأساليب الشائعة المستخدمة حتى يتمكن العملاء من حماية أنفسهم بشكل أفضل

سوف تنتشر ديزي على نطاق واسع، وسيصبح المحتالون على علم بوجودها. ومع ذلك، لن يتمكنوا من تحديد متى يتحدثون إلى الذكاء الاصطناعي أو إلى شخص حقيقي عند بدء المكالمة.

قد يستخدم بعض المحتالين الأكثر حيلة برامج الدردشة الآلية الخاصة بهم لإجراء هذه المحادثات. ولكن حتى ذلك الحين، سوف يضيعون الوقت عند التعامل مع ديزي.

وبشكل منفصل، تشجع O2 البريطانيين على الإبلاغ عن أرقام الاحتيال على الرقم 7726. وبعد ذلك، يمكن لـ O2 منع بعض الهجمات. قامت الشركة بحظر 89 مليون رسالة نصية العام الماضي، ويرجع الفضل في ذلك جزئيًا إلى الخدمة.