نهج Cisco “الراديكالي” في أمن الذكاء الاصطناعي
تتخذ Cisco نهجًا جذريًا فيما يتعلق بأمن الذكاء الاصطناعي في حلها الجديد للدفاع عن الذكاء الاصطناعي.
في مقابلة حصرية يوم الأحد مع روان تشيونغ من The Rundown AI، قال نائب الرئيس التنفيذي لشركة Cisco ورئيس قسم المشتريات، Jeetu Patel، إن AI Defense “يتخذ نهجًا جذريًا لمواجهة التحديات التي ليست الحلول الأمنية الحالية مجهزة للتعامل معها.”
يهدف AI Defense، الذي تم الإعلان عنه الأسبوع الماضي، إلى معالجة المخاطر في تطوير ونشر تطبيقات الذكاء الاصطناعي، بالإضافة إلى تحديد مكان استخدام الذكاء الاصطناعي في المؤسسة.
يمكن لـ AI Defense حماية أنظمة الذكاء الاصطناعي من الهجمات وحماية سلوك النموذج عبر الأنظمة الأساسية بميزات مثل:
- الكشف عن تطبيقات الظل وتطبيقات الذكاء الاصطناعي المحظورة عبر السحابات العامة والخاصة؛
- الاختبار الآلي لنماذج الذكاء الاصطناعي لمئات من مشكلات السلامة والأمن المحتملة؛ و
- يوفر التحقق المستمر ضمانات ضد تهديدات السلامة والأمن المحتملة، مثل الحقن الفوري، ورفض الخدمة، وتسرب البيانات الحساسة.
يتيح الحل أيضًا لفرق الأمان حماية بيانات مؤسساتهم بشكل أفضل من خلال توفير رؤية شاملة لتطبيقات الذكاء الاصطناعي التي يستخدمها الموظفون، وإنشاء سياسات تقيد الوصول إلى أدوات الذكاء الاصطناعي غير المصرح بها، وتنفيذ ضمانات ضد التهديدات وفقدان البيانات السرية مع ضمان الامتثال.
وقال كينت نويز، الرئيس العالمي للذكاء الاصطناعي والابتكار السيبراني في شركة خدمات التكنولوجيا World Wide Technology في سانت لويس، في بيان: “إن اعتماد الذكاء الاصطناعي يعرض الشركات لمخاطر جديدة لا تعالجها حلول الأمن السيبراني التقليدية”. “يمثل Cisco AI Defense قفزة كبيرة للأمام في مجال أمن الذكاء الاصطناعي، حيث يوفر رؤية كاملة لأصول الذكاء الاصطناعي الخاصة بالمؤسسة والحماية ضد التهديدات المتطورة.”
خطوة إيجابية لأمن الذكاء الاصطناعي
أكد إم جي كوفمان، المؤلف والمدرس في شركة O’Reilly Media، المشغلة لمنصة تعليمية لمحترفي التكنولوجيا، في بوسطن، على تحليل Cisco لحلول الأمن السيبراني الحالية. وقالت لـ TechNewsWorld: “سيسكو على حق”. “تفشل الأدوات الحالية في معالجة العديد من الهجمات الموجهة من الناحية التشغيلية ضد أنظمة الذكاء الاصطناعي، مثل هجمات الحقن السريع، وتسرب البيانات، والإجراءات النموذجية غير المصرح بها.”
وأضافت: “يجب على المنفذين اتخاذ الإجراءات وتنفيذ الحلول المستهدفة لمعالجتها”.
وأشار جاك إي جولد، المؤسس والمحلل الرئيسي في شركة J.Gold Associates، وهي شركة استشارية لتكنولوجيا المعلومات في نورثبورو بولاية ماساتشوستس، إلى أن شركة Cisco تتمتع بموقع فريد لتقديم هذا النوع من الحلول. وقال لـ TechNewsWorld: “القياس عن بعد يمكن استخدامه لتعزيز قدرات الذكاء الاصطناعي التي يريدون حمايتها”.
وأضاف أن شركة Cisco ترغب أيضًا في توفير الأمان عبر الأنظمة الأساسية – المحلية والسحابية والسحابية المتعددة – وعبر النماذج.
وقال: “سيكون من المثير للاهتمام معرفة عدد الشركات التي تتبنى هذا”. “من المؤكد أن شركة Cisco تتحرك في الاتجاه الصحيح مع هذا النوع من القدرات لأن الشركات، بشكل عام، لا تنظر إلى هذا الأمر بشكل فعال.”
يعد توفير حماية متعددة النماذج ومتعددة السحابة أمرًا مهمًا لأمن الذكاء الاصطناعي.
“تعمل حلول الذكاء الاصطناعي متعددة النماذج والسحابة على توسيع سطح الهجوم الخاص بالمؤسسة من خلال إدخال التعقيد عبر بيئات متباينة مع بروتوكولات أمان غير متسقة ونقاط نقل بيانات متعددة وتحديات في تنسيق المراقبة والاستجابة للحوادث – وهي عوامل يمكن للجهات الفاعلة في مجال التهديد استغلالها بسهولة أكبر.” قالت باتريشيا ثين، الرئيس التنفيذي والمؤسس المشارك لشركة Private AI، وهي شركة لأمن البيانات والخصوصية في تورنتو، لـ TechNewsWorld.
فيما يتعلق بالقيود
على الرغم من أن نهج Cisco المتمثل في تضمين ضوابط الأمان في طبقة الشبكة من خلال شبكة البنية التحتية الحالية الخاصة بها يبدو واعدًا، إلا أنه يكشف أيضًا عن قيود مثيرة للقلق، كما يقول Dev Nag، الرئيس التنفيذي ومؤسس QueryPal، وهو برنامج دردشة لدعم العملاء مقره في سان فرانسيسكو.
وقال لـ TechNewsWorld: “على الرغم من أن الرؤية على مستوى الشبكة توفر قياسًا قيمًا عن بعد، إلا أن العديد من الهجمات الخاصة بالذكاء الاصطناعي تحدث في طبقات التطبيق والنموذج التي لا تستطيع مراقبة الشبكة وحدها اكتشافها”.
وقال: “إن الاستحواذ على Robust Intelligence في العام الماضي يمنح Cisco قدرات مهمة فيما يتعلق بالتحقق من صحة النموذج وحماية وقت التشغيل، ولكن تركيزها على تكامل الشبكة قد يؤدي إلى ثغرات في تأمين دورة حياة تطوير الذكاء الاصطناعي الفعلية”. “تتطلب المجالات الحيوية مثل تدريب أمن خطوط الأنابيب، والتحقق من سلسلة التوريد النموذجية، وضبط حواجز الحماية تكاملًا عميقًا مع أدوات MLOps التي تتجاوز نموذج Cisco التقليدي الذي يركز على الشبكة.”
وأضاف: “فكر في المشاكل التي شهدناها مع هجمات سلسلة التوريد مفتوحة المصدر حيث تكون التعليمات البرمجية المخالفة مرئية بشكل علني”. “يكاد يكون من المستحيل اكتشاف هجمات سلسلة التوريد النموذجية بالمقارنة.”
وأشار ناج إلى أنه من منظور التنفيذ، يبدو أن Cisco AI Defense هو في المقام الأول إعادة تجميع لمنتجات الأمان الحالية مع بعض إمكانات المراقبة الخاصة بالذكاء الاصطناعي في الأعلى.
وأضاف: “على الرغم من أن بصمة النشر واسعة النطاق توفر مزايا للرؤية على مستوى المؤسسة، إلا أن الحل يبدو أكثر تفاعلية من كونه تحويليًا في الوقت الحالي”. “بالنسبة لبعض المؤسسات التي تبدأ رحلة الذكاء الاصطناعي الخاصة بها والتي تعمل بالفعل مع منتجات أمان Cisco، قد توفر Cisco AI Defense عناصر تحكم مفيدة، ولكن من المرجح أن يحتاج أولئك الذين يسعون إلى تحقيق قدرات الذكاء الاصطناعي المتقدمة إلى بنيات أمنية أكثر تطورًا مصممة خصيصًا لأنظمة التعلم الآلي.”
وأضافت كارين والش، الرئيس التنفيذي لشركة Allegro Solutions، وهي شركة استشارات للأمن السيبراني في ويست هارتفورد بولاية كونيتيكت، أنه بالنسبة للعديد من المؤسسات، يتطلب التخفيف من مخاطر الذكاء الاصطناعي وجود مختبرين للاختراق البشري يفهمون كيفية طرح الأسئلة على النماذج التي تثير معلومات حساسة.
وقالت لـ TechNewsWorld: “يشير إصدار Cisco إلى أن قدرتهم على إنشاء حواجز حماية خاصة بنموذج معين ستخفف من هذه المخاطر لمنع الذكاء الاصطناعي من التعلم على البيانات السيئة، والاستجابة للطلبات الضارة، ومشاركة المعلومات غير المقصودة”. “على أقل تقدير، يمكننا أن نأمل أن يؤدي هذا إلى تحديد المشكلات الأساسية والتخفيف منها حتى يتمكن القائمون على اختبار القلم من التركيز على استراتيجيات تسوية الذكاء الاصطناعي الأكثر تطوراً.”
الحاجة الماسة في الطريق إلى الذكاء الاصطناعي العام
يشير كيفن أوكيموا، الذي يكتب لـ Windows Central، إلى أن إطلاق AI Defense لا يمكن أن يأتي في وقت أفضل حيث أن مختبرات الذكاء الاصطناعي الرئيسية تقترب من إنتاج ذكاء اصطناعي عام حقيقي (AGI)، والذي من المفترض أن يكرر الذكاء البشري.
قال جيمس ماكويجان، أحد المدافعين عن الوعي الأمني في KnowBe4، مزود التدريب على الوعي الأمني في كليرووتر، فلوريدا: “مع اقتراب الذكاء العام العالمي مع مرور كل عام، لا يمكن أن تكون المخاطر أكبر”.
وقال لـ TechNewsWorld: “إن قدرة الذكاء الاصطناعي العام على التفكير كإنسان يتمتع بالحدس والتوجه يمكن أن تحدث ثورة في الصناعات، ولكنها تقدم أيضًا مخاطر قد تكون لها عواقب بعيدة المدى”. “يضمن الحل الأمني القوي للذكاء الاصطناعي تطور الذكاء الاصطناعي العام بشكل مسؤول، مما يقلل من المخاطر مثل اتخاذ القرارات المارقة أو العواقب غير المقصودة.”
وأضاف: “إن أمن الذكاء الاصطناعي ليس مجرد أمر “من الجميل” أو شيء يجب التفكير فيه في السنوات القادمة. “إنه أمر بالغ الأهمية ونحن نتحرك نحو الذكاء الاصطناعي العام.”
الهلاك الوجودي؟
وكتب أوكيموا أيضًا: “على الرغم من أن الدفاع عن الذكاء الاصطناعي يعد خطوة في الاتجاه الصحيح، إلا أنه لا يزال يتعين رؤية اعتماده عبر المؤسسات ومختبرات الذكاء الاصطناعي الرئيسية. ومن المثير للاهتمام أن الرئيس التنفيذي لشركة OpenAI [Sam Altman] يعترف بتهديد التكنولوجيا للبشرية ولكنه يعتقد أن الذكاء الاصطناعي سيكون ذكيًا بما يكفي لمنع الذكاء الاصطناعي من التسبب في الهلاك الوجودي.
“أرى بعض التفاؤل بشأن قدرة الذكاء الاصطناعي على التنظيم الذاتي ومنع النتائج الكارثية، لكنني لاحظت أيضًا في اعتماده أن مواءمة أنظمة الذكاء الاصطناعي المتقدمة مع القيم الإنسانية لا تزال فكرة لاحقة وليست ضرورة حتمية،” آدم إناملي، كبير مسؤولي المخاطر والأمن في البنك العام لكندا لـ TechNewsWorld.
وأضاف ستيفن كوسكي، المدير التنفيذي للتكنولوجيا الميداني في شركة SlashNext، وهي شركة متخصصة في أمن الكمبيوتر والشبكات: “إن فكرة أن الذكاء الاصطناعي سيحل المخاطر الوجودية الخاصة به هي فكرة متفائلة بشكل خطير، كما يتضح من أنظمة الذكاء الاصطناعي الحالية التي يمكن التلاعب بها بالفعل لإنشاء محتوى ضار وتجاوز الضوابط الأمنية”. الشركة في بليزانتون، كاليفورنيا.
وقال لـ TechNewsWorld: “تظل الضمانات التقنية والرقابة البشرية ضرورية نظرًا لأن أنظمة الذكاء الاصطناعي مدفوعة بشكل أساسي ببيانات التدريب والأهداف المبرمجة، وليس الرغبة المتأصلة في رفاهية الإنسان”.
وأضاف جولد: “البشر مبدعون جدًا”. “أنا لا أشتري هراء يوم القيامة بأكمله. سنكتشف طريقة لجعل الذكاء الاصطناعي يعمل لصالحنا ونقوم بذلك بأمان. هذا لا يعني أنه لن تكون هناك مشكلات على طول الطريق، ولكن لن ينتهي بنا الأمر جميعًا في The Matrix.
