فضيحة التجسس على الذكاء الاصطناعي من Microsoft: حان الوقت لإعادة التفكير في معايير الخصوصية

مايكروسوفت مؤخرا القبض على قراصنة مدعومين من الدولة باستخدام أدوات الذكاء الاصطناعي التوليدية للمساعدة في هجماتهم. وفي مجتمع الأمن، لم تكن الأسئلة المباشرة تدور حول كيفية استخدام المتسللين للأدوات (وهو أمر كان متوقعًا تمامًا)، ولكن حول كيفية اكتشاف مايكروسوفت للأمر. وكان الاستنتاج الطبيعي هو أن مايكروسوفت كانت تتجسس على مستخدمي الذكاء الاصطناعي لديها، وتبحث عن المتسللين الضارين في العمل.

ورفض البعض وصف تصرفات مايكروسوفت بأنها “تجسس”. ل دورة يراقب مقدمو الخدمات السحابية ما يفعله المستخدمون. ولأننا نتوقع أن تقوم مايكروسوفت بشيء كهذا، فليس من العدل أن نطلق عليه تجسسًا.

نحن نرى هذه الحجة كمثال على توقعاتنا الجماعية المتغيرة فيما يتعلق بالخصوصية. لفهم ما يحدث، يمكننا أن نتعلم من مصدر غير متوقع: الأسماك.

في منتصف القرن العشرين، بدأ العلماء يلاحظون أن عدد الأسماك في المحيط – وهو عدد كبير للغاية بحيث تكمن وراء عبارة “هناك الكثير من الأسماك في البحر” – بدأ في الانخفاض بسرعة بسبب الصيد الجائر. وقد شهدوا بالفعل انخفاضا مماثلا في أعداد الحيتان، عندما كادت صناعة صيد الحيتان في فترة ما بعد الحرب العالمية الثانية أن تؤدي إلى انقراض العديد من الأنواع. في صيد الحيتان ولاحقًا في الصيد التجاري، سهلت التكنولوجيا الجديدة العثور على الكائنات البحرية واصطيادها بأعداد أكبر من أي وقت مضى. بدأ علماء البيئة، وخاصة أولئك الذين يعملون في إدارة مصايد الأسماك، بدراسة كيف ومتى حدث انخفاض خطير في أعداد معينة من الأسماك.

أدرك أحد العلماء، دانييل بولي، أن الباحثين الذين يدرسون أعداد الأسماك كانوا يرتكبون خطأً فادحًا عند محاولتهم تحديد حجم الصيد المقبول. لم يكن الأمر أن العلماء لم يدركوا انخفاض أعداد الأسماك. لقد كان الأمر فقط أنهم لم يدركوا مدى أهمية الانخفاض. وأشار باولي إلى أن كل جيل من العلماء كان لديه خط أساس مختلف يقارنون به الإحصائيات الحالية، وأن خط الأساس لكل جيل كان أقل من الخط السابق.

ما يبدو طبيعيًا بالنسبة لنا في مجتمع الأمن هو ما كان شائعًا في بداية حياتنا المهنية.

أطلق بولي على هذه “متلازمة خط الأساس المتغير” في ورقة بحثية عام 1995. كان خط الأساس الذي استخدمه معظم العلماء هو الذي كان طبيعيًا عندما بدأوا حياتهم المهنية البحثية. وبهذا المقياس، لم يكن كل انخفاض لاحق مهمًا، لكن الانخفاض التراكمي كان مدمرًا. لقد نشأ كل جيل من الباحثين في بيئة بيئية وتكنولوجية جديدة، مما أدى عن غير قصد إلى إخفاء الانخفاض الهائل.

جاءت رؤى بولي متأخرة جدًا بحيث لم تتمكن من مساعدة أولئك الذين يديرون بعض مصايد الأسماك. عانى المحيط من كوارث مثل الانهيار الكامل لأسماك القد في شمال غرب المحيط الأطلسي في التسعينيات.

إن مراقبة الإنترنت، وما ينتج عنها من فقدان الخصوصية، تتبع نفس المسار. وكما انخفضت أعداد معينة من الأسماك في محيطات العالم بنسبة 80 في المائة، بعد أن انخفضت في السابق بنسبة 80 في المائة، بعد أن انخفضت في السابق بنسبة 80 في المائة (إلى ما لا نهاية)، فقد انخفضت توقعاتنا بشأن الخصوصية بشكل حاد بالمثل. إن الطبيعة الواسعة الانتشار للتكنولوجيا الحديثة تجعل المراقبة أسهل من أي وقت مضى، في حين اعتاد كل جيل متعاقب من عامة الناس على وضع الخصوصية الراهن لشبابهم. ما يبدو طبيعيًا بالنسبة لنا في مجتمع الأمن هو ما كان شائعًا في بداية حياتنا المهنية.

تاريخيًا، كان الناس يتحكمون في أجهزة الكمبيوتر الخاصة بهم، وكانت البرامج مستقلة بذاتها. لقد قلب نموذج النشر السحابي المتصل دائمًا للبرامج والخدمات النص. تم تصميم معظم التطبيقات والخدمات لتكون متصلة بالإنترنت دائمًا، مما يؤدي إلى إرسال معلومات الاستخدام إلى الشركة. نتيجة لنموذج النشر الحديث هذا هو أن الجميع – أهل التكنولوجيا الساخرين وحتى المستخدمين العاديين – يتوقعون أن ما تفعله بالتكنولوجيا الحديثة ليس خاصًا. ولكن هذا بسبب تحول خط الأساس.

تعد روبوتات الدردشة المدعمة بالذكاء الاصطناعي أحدث تجسيد لهذه الظاهرة: فهي تنتج مخرجات استجابة لمدخلاتك، ولكن خلف الكواليس يوجد نظام معقد قائم على السحابة يتتبع تلك المدخلات — لتحسين الخدمة وبيع الإعلانات لك.

إن تغيير خطوط الأساس هو جوهر فقداننا الجماعي للخصوصية. لقد رأت المحكمة العليا في الولايات المتحدة منذ فترة طويلة أن حقنا في الخصوصية يعتمد على ما إذا كانت لدينا توقعات معقولة بالخصوصية. لكن التوقع أمر زلق: فهو يخضع لتغيير خطوط الأساس.

ويبقى السؤال: ماذا الآن؟ وينظر الآن علماء مصايد الأسماك، المسلحون بالمعرفة حول متلازمة خط الأساس المتغير، إلى الصورة الكبيرة. ولم يعودوا يفكرون في المقاييس النسبية، مثل مقارنة هذا العقد بالعقد الماضي. وبدلاً من ذلك، فإنهم يتخذون منظورًا شاملاً على مستوى النظام البيئي لمعرفة الشكل الذي يجب أن يبدو عليه النظام البيئي البحري الصحي وبالتالي الصيد المستدام. ثم يقومون بعد ذلك بتحويل أرقام الصيد المستدامة المستمدة علميا إلى حدود يتم تقنينها من قبل الهيئات التنظيمية.

وفيما يتعلق بالخصوصية والأمن، علينا أن نفعل الشيء نفسه. وبدلا من المقارنة بخط أساس متغير، يتعين علينا أن نتراجع وننظر إلى الشكل الذي قد يبدو عليه النظام البيئي التكنولوجي الصحي: نظام يحترم حقوق خصوصية الناس في حين يسمح أيضا للشركات باسترداد تكاليف الخدمات التي تقدمها. وفي نهاية المطاف، كما هو الحال مع مصايد الأسماك، يتعين علينا أن نتبنى منظور الصورة الكبيرة وأن نكون على دراية بتغير خطوط الأساس. إن الأمر يتطلب عملية تنظيمية ديمقراطية ومستنيرة علمياً للحفاظ على التراث – سواء كان المحيط أو الإنترنت – للجيل القادم.