يحذر بحث جديد من Microsoft المؤسسات من أن الجهات الفاعلة في مجال التهديد قد بدأت في دمج الذكاء الاصطناعي (AI) في سير عملها لتسريع الأعمال التجارية وتجاوز الضمانات والقيام بأنشطة ضارة.
وكما تبنى عالم الإنترنت السفلي الممارسات التجارية من الشركات المشروعة – الهياكل التنظيمية على غرار الشركات، ونماذج الخدمة، والتخصص – فإنه يحاكي المؤسسات التي تدمج الذكاء الاصطناعي في عملياتها لزيادة سرعة وحجم ومرونة العمليات الخبيثة، كما أوضحت مايكروسوفت في مدونتها الأمنية.
وأشارت إلى أن وحدة استخبارات التهديدات في Microsoft لاحظت أن معظم استخدامات الذكاء الاصطناعي الضارة اليوم تركز على نماذج اللغة التي تنتج نصًا أو رمزًا أو وسائط. تستخدم الجهات الفاعلة في مجال التهديد الذكاء الاصطناعي التوليدي لصياغة إغراءات التصيد الاحتيالي، وترجمة المحتوى، وتلخيص البيانات المسروقة، وإنشاء البرامج الضارة أو تصحيح أخطائها، ودعم البرامج النصية أو البنية التحتية.
قال إنسار سيكر، رئيس قسم تكنولوجيا المعلومات في شركة SOCRadar، وهي شركة متخصصة في استخبارات التهديدات في نيوارك بولاية ديلاوير: “لقد أصبح الذكاء الاصطناعي جزءًا لا يتجزأ من دورة حياة الهجمات الإلكترونية بأكملها، ولكن ليس دائمًا بالطرق التي يتوقعها الناس”.
وقال لـ TechNewsWorld: “في كثير من الحالات، لا تقوم الجهات الفاعلة في مجال التهديد ببناء نماذج الذكاء الاصطناعي المتقدمة الخاصة بها”. “بدلاً من ذلك، يقومون بتشغيل أدوات الذكاء الاصطناعي التوليدية الحالية لتسريع سير عمل المهاجم التقليدي.”
وأضاف: “إن التأثير الأكبر للذكاء الاصطناعي في العمليات السيبرانية هو الكفاءة وليس تقنيات الهجوم الجديدة تمامًا”.
وتابع: “ومع ذلك، فإن الذكاء الاصطناعي لا يحل محل حرفة المهاجمين التقليدية أو يلغي الحاجة إلى الخبرة البشرية. ولا تزال الحملات المتطورة، وخاصة تلك التي تجريها مجموعات الدول القومية، تعتمد بشكل كبير على الاستطلاع اليدوي، والأدوات المخصصة، والانضباط الأمني التشغيلي”.
وقال: “إن الذكاء الاصطناعي يعمل كمضاعف للقوة أكثر من كونه بديلاً للتكتيكات الراسخة”. “لا تزال الجهات الفاعلة في مجال التهديد بحاجة إلى الوصول والبنية التحتية والهدف الواضح. ويساعدهم الذكاء الاصطناعي ببساطة على التحرك بشكل أسرع بمجرد توفر هذه العناصر.”
الذكاء الاصطناعي يسرع عملية التحضير للهجوم
لاحظ ستو برادلي، نائب الرئيس الأول لحلول المخاطر والاحتيال والامتثال في شركة SAS، وهي شركة برمجيات للتحليلات والذكاء الاصطناعي في كاري بولاية نورث كارولاينا: “فكر في المكان الذي اعتادت الجهات الفاعلة في مجال التهديد قضاء وقتها فيه، حيث كانوا يعثرون على ضحاياهم ويبحثون عنهم، وصياغة رسائل تصيد مقنعة، وتطوير علاقة على مدى أسابيع أو أشهر للحصول على تعويضات الاحتيال الرومانسي”.
وقال لـ TechNewsWorld: “مع استخدام أدوات الذكاء الاصطناعي المتاحة بسهولة، يتم تبسيط هذه المهام التي كانت تستغرق وقتًا طويلاً وأتمتتها”. “يُمكّن GenAI المحتالين من إنتاج محتوى مصقول ومستهدف في ثوانٍ – محتوى كان يستغرق في السابق ساعات لصياغته. ونتيجة لذلك، فإن الفجوة بين العثور على الضحية، أو الضحايا، كما هو الحال غالبًا، وشن الهجوم تستمر في التقلص.”
وأضاف: “ولأن المجرمين يستخدمون أيضًا أدوات الذكاء الاصطناعي هذه لأتمتة هجماتهم، فيمكنهم أيضًا استهداف العديد من الضحايا في وقت واحد، بجهد يدوي أقل بكثير”. “يكون التأثير مذهلاً عندما تضع في اعتبارك أن معظم مخططات الاحتيال هي لعبة أرقام. لن تضرب في كل مرة، ولكن كلما حاولت أكثر، كلما كانت فرصك أفضل.”
وأضاف إريك شويك، مدير استراتيجية الأمن السيبراني في Salt Security، مزود أمان واجهة برمجة التطبيقات (API) في بالو ألتو، كاليفورنيا، أن الجهات الفاعلة في مجال التهديد تستفيد من الذكاء الاصطناعي لأتمتة المراحل اليدوية التي تستغرق وقتًا طويلاً لسلسلة القتل السيبراني بشكل كامل.
وقال لـ TechNewsWorld: “إنهم يستخدمون الذكاء الاصطناعي التوليدي لإجراء الاستطلاع بسرعة، وكتابة التعليمات البرمجية الضارة وتصحيح أخطائها، وإنشاء مخططات تصيد عالية الاستهداف في ثوانٍ”. “من خلال تقليل الوقت اللازم لتطوير ونشر برمجية إكسبلويت، يمكن للأعداء أن يضربوا بشكل أسرع من التدابير الأمنية التقليدية أو من قدرة المحللين البشريين على الاستجابة.”
مضاعف القوة
وأشارت مايكروسوفت إلى أن وحدة استخبارات التهديدات لديها لاحظت وجود جهات فاعلة تستخدم الذكاء الاصطناعي في الجوانب التشغيلية لأنشطتها، وهي ليست ضارة بطبيعتها ولكنها تدعم ماديًا أهدافها الأوسع. في هذه الحالات، يتم تطبيق الذكاء الاصطناعي لتحسين كفاءة العمليات وحجمها واستدامتها، وليس لتنفيذ الهجمات بشكل مباشر.
وأوضح جاكوب كريل، المدير الأول لحلول الذكاء الاصطناعي الآمنة والأمن السيبراني في Suzu Labs، في لاس فيغاس، وهي شركة تقدم خدمات الأمن السيبراني المدعومة بالذكاء الاصطناعي: “يسمح الذكاء الاصطناعي للجهات الفاعلة في مجال التهديد بتشغيل المزيد من دورة حياة الهجوم بالتوازي”.
وقال لـ TechNewsWorld: “يمكن تنفيذ عمليات الاستطلاع، وتطوير الشخصية، وتوليد إغراءات التصيد الاحتيالي، وإعداد البنية التحتية، وفرز البيانات بعد الاختراق بشكل أسرع وعبر المزيد من الأهداف في وقت واحد”. “ما كان يتطلب في السابق العديد من المتخصصين يمكن الآن ضغطه في سير عمل قابل للتكرار.”
وأضاف برادلي من SAS أن الذكاء الاصطناعي يحل مشكلة عدد الأفراد لهذه العصابات الإجرامية المنظمة. وأوضح: “لم تعد بحاجة إلى طاقم كبير لإدارة عملية كبيرة”. “إن أتمتة إنشاء محتوى الذكاء الاصطناعي تعني أنه بإمكانهم إغراق البريد الإلكتروني والرسائل النصية القصيرة والصوت والقنوات الاجتماعية في وقت واحد برسائل مخصصة تجتاز اختبار الشم بشكل أكثر إقناعًا من عمليات الاحتيال في الماضي.”
وأشار شويك من شركة Salt Security إلى أن الذكاء الاصطناعي يعمل كمضاعف قوي للقوة، مما يمكّن مهاجمًا واحدًا من تنسيق الآلاف من عمليات الاقتحام المتزامنة. وقال: “يستخدم المهاجمون الذكاء الاصطناعي لأتمتة التعرف على الأهداف، ونشر كلمات المرور، والإعداد السريع للبنية التحتية للهجوم، مثل النطاقات المتشابهة”. “تسمح هذه القدرة للجهات الفاعلة عديمة الخبرة نسبيًا بتنفيذ حملات معقدة للغاية عبر سطح هجوم عالمي دون زيادة متناسبة في الموارد البشرية.”
الذكاء الاصطناعي يساعد المهاجمين على إعادة البناء بشكل أسرع
وأشارت مايكروسوفت أيضًا إلى أن الجهات الفاعلة في مجال التهديد تستغل الذكاء الاصطناعي لتطوير الموارد. وأوضح أنه باستخدام نماذج الذكاء الاصطناعي، يمكن للجهات الفاعلة في مجال التهديد تصميم بنيتها التحتية السرية وتكوينها واستكشاف أخطائها وإصلاحها. تعمل هذه الطريقة على تقليل الحاجز التقني أمام الجهات الفاعلة الأقل تطورًا وتسريع نشر البنية التحتية المرنة مع تقليل مخاطر الكشف.
لاحظ فينسينزو إوزو، الرئيس التنفيذي والمؤسس المشارك لشركة SlashID، وهي شركة مزودة للكشف عن تهديدات الهوية والاستجابة لها في شيكاغو: “يتيح الذكاء الاصطناعي أدوات أكثر تكيفًا ومراوغة”.
وقال لـ TechNewsWorld: “يمكن أن تكون البرامج الضارة التي ينشئها الذكاء الاصطناعي متعددة الأشكال، حيث تعيد كتابة التعليمات البرمجية الخاصة بها لتجنب الاكتشاف القائم على التوقيع”. “يسمح الذكاء الاصطناعي أيضًا للجهات الفاعلة في مجال التهديد بالتكرار السريع للحملات التي تم حظرها – وتجديد الحمولات، وتدوير البنية التحتية، وضبط إغراءات الهندسة الاجتماعية بشكل أسرع مما يستطيع المدافعون الاستجابة له.”
وأضاف كريل من Suzu Labs أن الذكاء الاصطناعي يعمل على تحسين المرونة من خلال تقصير دورة إعادة البناء للجهات الفاعلة التي تشكل تهديدًا. وأوضح قائلاً: “عندما يتم اكتشاف حمولة أو إغراء أو مكون بنية أساسية، يمكن للجهات الفاعلة في مجال التهديد استخدام الذكاء الاصطناعي لإعادة صياغة التعليمات البرمجية بسرعة، وتحديث محتوى التصيد الاحتيالي، واستكشاف مشكلات النشر وإصلاحها، وإعادة تشغيل الوظائف باستخدام مكتبات أو لغات مختلفة”.
وأضاف: “تدور أيضًا مواقع رد الاتصال الخاصة بالقيادة والتحكم بشكل متكرر أكثر مما تسمح به العمليات اليدوية، مما يضغط على المدافعين عن النوافذ للعمل بناءً على المؤشرات المميزة”.
صعود وكيل الذكاء الاصطناعي في الجرائم السيبرانية
في حين أن الذكاء الاصطناعي التوليدي يمثل حاليًا معظم أنشطة التهديد الملحوظة التي تنطوي على الذكاء الاصطناعي، فقد أشارت مايكروسوفت إلى أن باحثي التهديدات لديها بدأوا في رؤية إشارات مبكرة للانتقال نحو استخدامات أكثر فاعلية للذكاء الاصطناعي.
بالنسبة للجهات الفاعلة في مجال التهديد، يمكن أن يمثل هذا التحول تغييراً ذا مغزى في أسلوب التجارة من خلال تمكين سير العمل شبه المستقل الذي يعمل باستمرار على تحسين حملات التصيد الاحتيالي، واختبار البنية التحتية وتكييفها، والحفاظ على المثابرة، أو مراقبة الاستخبارات مفتوحة المصدر بحثًا عن فرص جديدة.
ولم تلاحظ مايكروسوفت حتى الآن استخدامًا واسع النطاق للذكاء الاصطناعي الوكيل من قبل جهات التهديد، ويرجع ذلك إلى حد كبير إلى الموثوقية المستمرة والقيود التشغيلية. ومع ذلك، توضح الأمثلة الواقعية وتجارب إثبات المفهوم إمكانية دعم هذه الأنظمة للاستطلاع الآلي، وإدارة البنية التحتية، وتطوير البرامج الضارة، واتخاذ القرارات بعد الاختراق.
وقال كريل: “ما نراه اليوم هو تجربة مبكرة ولكنها ذات معنى”. “يتم استخدام الذكاء الاصطناعي الوكيل لدعم سير العمل الذي يتضمن التخطيط وتقييم استخدام الأدوات والتكيف مع مرور الوقت بدلاً من المطالبة لمرة واحدة.”
“أفادت مايكروسوفت [North Korean threat actor] وتابع: “تستخدم Coral Sleet أدوات الذكاء الاصطناعي الوكيل في سير عمل شامل لتطوير الإغراء، وتوفير البنية التحتية، واختبار الحمولة السريعة ونشرها. لا يزال الاستخدام على نطاق واسع مقيدًا بالموثوقية والمخاطر التشغيلية، ولكن الاتجاه واضح”.
وأضاف: “الذكاء الاصطناعي لا يحل محل الجهات التهديدية”. “إنه يجعلهم أكثر كفاءة.”
وقال: “إن التأثير الأكثر إلحاحًا ليس عمليات اختراق مستقلة تمامًا، بل إجراء بحث أسرع، وتكيف أسرع، وهندسة اجتماعية أكثر قابلية للتطوير، وإساءة استخدام أكثر استدامة للوصول المشروع”. “لا يتبع تسريع الذكاء الاصطناعي مسارًا خطيًا. فالقدرات تتراكم، والمؤسسات التي لا تزال تفكر في هذا الأمر باعتباره مشكلة تصيد عبر البريد الإلكتروني، تقلل بالفعل من أهمية التحول التشغيلي الجاري.”
