لقد كان أمن البريد الإلكتروني دائمًا بمثابة لعبة القط والفأر. تم اختراع الفيروسات و تم اختراع برنامج مكافحة الفيروسات لفهرسة الفيروسات المعروفة واكتشاف وجودها في مرفقات البريد الإلكتروني وعناوين URL. مع تحول الفيروسات إلى أشكال أكثر تعقيدًا من البرامج الضارة، تم تكييف أدوات الأمن السيبراني لتكون قادرة على البحث عن هذه التهديدات الجديدة واكتشافها. أصبح التصيد الاحتيالي هو الساحة التالية، مما أدى إلى ظهور أدوات جديدة بالإضافة إلى فئة جديدة تمامًا من الدفاع تُعرف باسم التدريب على الوعي الأمني. الآن، يهاجم الأشرار عملاء الذكاء الاصطناعي لتجاوز حواجز الحماية الأمنية الحالية.
وقال تود ثيمان، محلل الأمن السيبراني في شركة الأبحاث Omdia: “يعمل مساعدو الذكاء الاصطناعي ومساعدو الطيارون والوكلاء على توسيع سطح الهجوم المؤسسي بشكل كبير بطرق لم تكن البنى الأمنية التقليدية مصممة للتعامل معها”.
أدخل سلسلة من الميزات المستندة إلى الذكاء الاصطناعي لحماية Proofpoint Prime Threat Protection والتي تم تقديمها في حدث Proofpoint Protect 2025 الخاص بالشركة في سبتمبر. إنهم يحبطون جهود المتسللين لتخريب تصرفات عملاء الذكاء الاصطناعي عن طريق البحث عن التهديدات المحتملة قبل وصول رسائل البريد الإلكتروني إلى صندوق البريد الوارد.
النهج التقليدي لأمن البريد الإلكتروني
تم تصميم معظم أدوات أمان البريد الإلكتروني لاكتشاف الإشارات السيئة المعروفة مثل الروابط المشبوهة أو النطاقات المزيفة التي تبدو حقيقية أو المرفقات التي تحمل برامج ضارة. يعمل هذا الأسلوب بشكل جيد ضد التصيد الاحتيالي التقليدي والبريد العشوائي وعمليات الاستغلال المعروفة. لكن مجرمي الإنترنت يلاحقون الآن العديد من مساعدي الذكاء الاصطناعي وعملاء الذكاء الاصطناعي الذين أصبحوا جزءًا لا يتجزأ من مكان العمل.
يفعلون ذلك من خلال الاستفادة من المطالبات (أسئلة أو أوامر في شكل نص أو رمز) التي توجه نماذج الذكاء الاصطناعي ووكلاء الذكاء الاصطناعي إما لإنتاج استجابات ذات صلة أو تنفيذ مهام معينة. على نحو متزايد، تحمل رسائل البريد الإلكتروني مطالبات مخفية وخبيثة تستخدم نصًا غير مرئي أو تنسيقًا خاصًا مصممًا لخداع أدوات الذكاء الاصطناعي التوليدية مثل Microsoft Copilot وGoogle Gemini لاتخاذ إجراءات غير آمنة، مثل تسريب البيانات أو تجاوز عمليات التحقق الأمني.
وقال ثيمان: “تمثل عمليات الحقن الفوري وغيرها من عمليات الاستغلال التي تستهدف الذكاء الاصطناعي فئة جديدة من الهجمات التي تستخدم الحمولات المستندة إلى النصوص والتي تتلاعب بالتفكير الآلي بدلاً من السلوك البشري”.
قدم دانييل راب، كبير مسؤولي الذكاء الاصطناعي والبيانات في Proofpoint، مثالاً: يحدد المعيار المستخدم لرسائل البريد الإلكتروني المعروف باسم RFC-822 استخدام الرؤوس والنص العادي وHTML. ليس كل هذا مرئيًا للمستخدم. ويستفيد المهاجمون من ذلك من خلال تضمين تعليمات في رسائل غير مرئية للبشر ولكن يمكن قراءتها بالكامل بواسطة وكيل الذكاء الاصطناعي. عندما يقوم الذكاء الاصطناعي بمعالجة النص، يتم تنفيذ التعليمات المضمنة عن غير قصد. يمكن أن يؤدي هذا إلى تصفية البيانات أو تغيير سلوك النظام أو إتلافه. لا ترى المرشحات القديمة التي تبحث عن البرامج الضارة أو الروابط المشوهة أي شيء خاطئ.
دانييل راب، الرئيس التنفيذي للذكاء الاصطناعي والبيانات في Proofpoint.بروف بوينت
قال راب: “في الهجمات الأخيرة، نشهد حالات يكون فيها إصدار HTML وإصدار النص العادي مختلفين تمامًا”. “يعرض عميل البريد الإلكتروني إصدار HTML بينما يحتوي النص العادي غير المرئي على حقنة سريعة يمكن التقاطها وربما التعامل معها بواسطة نظام الذكاء الاصطناعي.”
هناك سببان وراء إثبات هذه الاستراتيجية فعاليتها: أولا، أي:إذا كان لدى مساعد الذكاء الاصطناعي إمكانية الوصول إلى البريد الوارد، فيمكنه التصرف تلقائيًا على البريد الإلكتروني فور وصوله. ثانية، وقال راب إن الطبيعة الحرفية لعملاء الذكاء الاصطناعي تجعلهم عرضة للتصيد الاحتيالي وحيل الهندسة الاجتماعية الأخرى. قد يفكر الإنسان مرتين قبل إرسال الأموال إلى حساب مصرفي نيجيري. قد ينفذ عميل الذكاء الاصطناعي أمرًا للقيام بذلك بشكل أعمى.
ما يميز نهج Proofpoint هو أن الشركة تقوم بمسح رسائل البريد الإلكتروني قبل أن تصل إلى صناديق البريد الوارد. لقد كان لديها الكثير من الممارسة. تقوم الشركة بمسح 3.5 مليار بريد إلكتروني يوميًا، أي ثلث الإجمالي العالمي. بالإضافة إلى ذلك، فهو يقوم بمسح ما يقرب من 50 مليار عنوان URL و3 مليارات مرفق يوميًا. ويتم ذلك بشكل مضمّن، أي أثناء انتقال البريد الإلكتروني من المرسل إلى المستلم.
وقال راب: “لقد وضعنا قدرات الكشف مباشرة في مسار التسليم، مما يعني أن الكمون والكفاءة أمران حاسمان”.
يتم تحقيق هذا المستوى الضروري من السرعة من خلال تدريب نماذج الذكاء الاصطناعي الأصغر على وجه التحديد على الكشف، بناءً على الأمثلة والمعرفة الأساسية لنموذج اللغة الكبير (LLM). على سبيل المثال، تشير التقديرات إلى أن GPT-5 الخاص بشركة OpenAI يحتوي على ما يصل إلى 635 مليار معلمة. إن الخوض في هذا الكم من البيانات لكل بريد إلكتروني ليس بالأمر الممكن. قامت Proofpoint بضبط نماذجها وصولاً إلى حوالي 300 مليون معلمة. فهو يقوم بتقطير نماذجه وضغطها لتحقيق أداء مباشر منخفض الكمون دون التضحية بدقة الكشف. كما يقوم أيضًا بتحديث هذه النماذج كل يومين ونصف لتتمكن من تفسير غرض الرسالة نفسها بشكل فعال، وليس فقط البحث عن المؤشرات. وبهذه الطريقة، فإنه يكتشف الحقن السريعة المخفية والتعليمات الضارة وغيرها من عمليات استغلال الذكاء الاصطناعي قبل التسليم.
وقال راب: “من خلال إيقاف الهجمات قبل التسليم، تمنع Proofpoint اختراق المستخدم واستغلال الذكاء الاصطناعي”. “يمكن لبوابة البريد الإلكتروني الآمنة لدينا رؤية رسائل البريد الإلكتروني وإيقاف التهديدات قبل وصولها إلى البريد الوارد.”
بالإضافة إلى ذلك، يستخدم Proofpoint بنية الكشف المجمعة. وبدلاً من الاعتماد على آلية كشف واحدة، فهو يجمع بين مئات من الإشارات السلوكية والمتعلقة بالسمعة والمحتوى للالتفاف على نواقل الهجوم التي قد تتنقل في طريقها عبر طريقة واحدة.
الذكاء الاصطناعي يغير لعبة الأمان
يتم نشر وكلاء الذكاء الاصطناعي عبر المؤسسة والمستهلكين. ولسوء الحظ، فإن الاندفاع للاستفادة من إمكانات الذكاء الاصطناعي غالبًا ما يؤدي إلى تأجيل مسألة الأمن إلى مرحلة لاحقة. الأشرار يعرفون هذا. إنهم يقومون بتمكين الذكاء الاصطناعي من تقنيات وتقنيات الجرائم الإلكترونية الخاصة بهم لإتقان فن التصيد الاحتيالي لعصر عملاء الذكاء الاصطناعي.
وقال ثيمان: “يجب أن تتطور الأدوات الأمنية من اكتشاف المؤشرات السيئة المعروفة إلى تفسير النية للبشر والآلات وعملاء الذكاء الاصطناعي”. “إن الأساليب التي تحدد التعليمات الضارة أو المطالبات المتلاعبة قبل التسليم، والتي تستخدم بشكل مثالي نماذج الذكاء الاصطناعي المقطرة للحماية المضمنة ذات زمن الوصول المنخفض، تعالج فجوة كبيرة في دفاعات اليوم.”
تتصدر Proofpoint المجموعة بالدور الذي تلعبه هذه الإمكانات. ومن المتوقع أن يحذو بائعو الأمن السيبراني الآخرون حذوهم في الأشهر المقبلة. ولكن بحلول ذلك الوقت، ما هو التهديد الآخر الذي يحمله الذكاء الاصطناعي؟
من مقالات موقعك
مقالات ذات صلة حول الويب
