تواجه شركات المحاماة حقيقة مفادها أنه على الرغم من قدرة الذكاء الاصطناعي على صياغة ملخص في ثوانٍ، إلا أنه يمكن أيضًا أن يهلوس النظريات القانونية المقنعة بما يكفي لتمرير مرشحات المراجعة التقليدية دون أن يتم اكتشافها.
نظرًا لأن الذكاء الاصطناعي التوليدي أصبح عنصرًا أساسيًا في الصياغة القانونية، فقد ظهر خطر جديد: الاستدلال القانوني الملفق بدلاً من مجرد الحقائق الملفقة. وتؤدي الأخطاء الناتجة بشكل متزايد إلى فرض عقوبات بأمر من المحكمة.
وقالت كات كيسي، خبيرة التكنولوجيا القانونية والشريكة في Masters AI Legal، إن الهلوسة النظرية القانونية هي الأصعب في التعرف عليها. إن البحث السريع عن طريق Westlaw أو Lexis، أو حتى بعض أدوات مكافحة الهلوسة الأكثر قوة مثل RealityCheck الخاص بـ PreviewCatch، ليست مجهزة للإبلاغ عن هذا النوع من الفشل.
وقالت لـ TechNewsWorld: “هناك نظرية قانونية مهلوسة تجتاز كل فحص استشهاد، ولا تزال تدمر قضيتك”. “إن حدوث الهلوسة في مكاتب المحاماة منتشر على نطاق واسع ويؤثر بشكل خطير على إجراءات المحكمة.”
يوافق أندرو آدامز، الشريك والمدير الإداري في شركة DarrowEverett، على أن الهلوسة والذكاء الاصطناعي الظلي – أي الموظفين الذين يستخدمون أدوات الذكاء الاصطناعي غير المعتمدة – هما خطران جديان يواجهان الصناعة القانونية اليوم.
وقال لـ TechNewsWorld: “لم يعد الذكاء الاصطناعي مشكلة ناشئة بالنسبة لشركات المحاماة. إنه تحدي حوكمة حالي له عواقب حقيقية”. “الدرس المستفاد من عام 2025 وأوائل عام 2026 هو أنه لا توجد شركة محصنة”.
المحاكم تزيد من التدقيق في ملفات الذكاء الاصطناعي
يحتفظ الباحث داميان شارلوتين بقاعدة بيانات تتعقب القرارات القانونية في الحالات التي ينتج فيها الذكاء الاصطناعي التوليدي محتوى مهلوسًا يشتمل على استشهادات مزيفة وحجج ينشئها الذكاء الاصطناعي. ووصف كيسي عدد الحوادث الموثقة بأنه مذهل.
واستشهدت بإحصاء حديث قامت فيه قاعدة البيانات بفهرسة أكثر من 1369 قرارًا قانونيًا يتعلق بهلوسة الذكاء الاصطناعي. لا يشمل هذا العدد الكون الأوسع من الاستشهادات المهلوسة التي من المحتمل ألا يتم اكتشافها في الملفات.
“هذا فقط ما تم اكتشافه. المحاكم لا تتحقق بشكل روتيني من كل اقتباس. وأوضح كيسي أن السلطات الملفقة تمر دون أن يتم اكتشافها باستمرار، خاصة في القضايا التي تتم تسويتها أو حيث يفتقر المحامي المنافس إلى الموارد اللازمة للتحقق.
تأثير قاعة المحكمة يتصاعد. وأشار كيسي إلى أن المحاكم الأمريكية فرضت عقوبات تزيد قيمتها عن 145 ألف دولار على شركات المحاماة التي قدمت مستندات مهلوسة بالذكاء الاصطناعي في الربع الأول من هذا العام.
وقالت: “لقد اعتمد أكثر من 300 قاض فيدرالي الآن أوامر دائمة أو قواعد محلية تتناول على وجه التحديد استخدام الذكاء الاصطناعي في الدعاوى القضائية. وتتأخر القضايا. ويتم إلغاء الاقتراحات”.
رأى قاضيان فدراليان أن آرائهما المدعومة بالذكاء الاصطناعي تم الطعن فيها وسحبها بعد أن أشار محامي الخصم إلى استشهادات مهلوسة. وأضافت أن مقاعد البدلاء ليست محصنة.
تواجه الفرق القانونية مسؤولية متزايدة بشأن الذكاء الاصطناعي
وأشار كيسي إلى تقرير حديث يكشف أن 79% من المحامين يستخدمون الذكاء الاصطناعي بشكل ما في ممارساتهم. لا يتعلق الأمر بما إذا كان المحامون يستخدمونه بقدر ما يتعلق بكيفية استخدامه.
وذكرت أن موظفي مكتب المحاماة الذين يستخدمون أدوات الذكاء الاصطناعي غير المصرح بها للمستهلكين أصبحوا منتشرين على نطاق واسع. اعترف أكثر من 68% من المتخصصين القانونيين باستخدام أدوات الذكاء الاصطناعي غير المعتمدة مرة واحدة على الأقل في العام الماضي.
وقالت: “من المرجح أن يكون هذا الرقم أعلى بكثير في الواقع، وأقل من 20% من الشركات لديها سياسات رسمية لإدارة التعرض”، محذرة من أن الشركات تخاطر بالمساس بسرية العملاء وامتيازاتهم.
وأشار آدامز إلى مثال مهم للمخاطر التي تشكلها صياغة الذكاء الاصطناعي: فرضت محكمة اتحادية في ولاية أوريغون عقوبات بقيمة 110 آلاف دولار. اعتمد المحامون على السوابق القضائية الوهمية التي أنشأها الذكاء الاصطناعي، وفشلوا في تحمل مسؤولية أخطائهم.
وقال: “لقد أشارت المحكمة إلى هذه القضية باعتبارها حالة شاذة، لكنها توضح الخطر الكبير الذي يمكن أن تواجهه شركات المحاماة نتيجة الفشل في مراجعة الذكاء الاصطناعي بشكل صحيح ومن ثم الفشل في تصحيح أخطائها”.
وأشار آدامز أيضًا إلى قضية أبريل/نيسان التي قدمت فيها شركة محاماة من النخبة خطابًا طارئًا تعترف فيه بأن الهلوسة الناتجة عن الذكاء الاصطناعي قد وصلت إلى دعوى قضائية أمام محكمة الإفلاس. وفي حين أن هذه من بين الأمثلة الأكثر دراماتيكية، إلا أن عدد القرارات التي تشير إلى حالات الهلوسة مستمر في الارتفاع.
وأوضح أن التحقق ليس خيارا للمحامين. إنه التزام أخلاقي.
“بموجب القاعدة 11 والنتائج الطبيعية لقاعدة الولاية، يشهد كل محام يوقع على ملف أن الادعاءات القانونية مبررة بموجب القانون الحالي أو بحجة غير تافهة لتوسيع أو تعديل أو عكس القانون الحالي أو لإنشاء قانون جديد. وقال: “لا يمكن الاستعانة بمصادر خارجية لهذه الشهادة لآلة”.
تعمل تقنية Shadow AI على توسيع نطاق التعرض القانوني
وفقًا لآدامز، يمكن القول إن الذكاء الاصطناعي في الظل يمثل مشكلة أكثر خطورة لأنه يعمل خارج أي إطار عمل للحوكمة. وأشار إلى أن استطلاع رأي أجراه التحالف الوطني للأمن السيبراني مؤخرًا وجد أن 43% من الموظفين الذين يستخدمون الذكاء الاصطناعي اعترفوا بمشاركة معلومات الشركة الحساسة مع أدوات الذكاء الاصطناعي دون علم أصحاب العمل.
وقال: “في شركات المحاماة، حيث نتعامل مع الاتصالات المميزة والأسرار التجارية واستراتيجية التقاضي، يكون التعرض هائلاً. ويمكن أن تصبح المواد المشتركة خارج العلاقة بين المحامي وموكله قابلة للاكتشاف في التقاضي، مما يجعل الذكاء الاصطناعي الظل مصدر قلق حاد بشكل خاص للمهنيين القانونيين”.
يرى كيسي أن هناك خطرًا في افتراض أن مخرجات الذكاء الاصطناعي التوليدية جديرة بالثقة لمجرد أنها تأتي من منصات قانونية راسخة. وجدت دراسة أجرتها جامعة ستانفورد عام 2024 أن معدلات الهلوسة تبلغ حوالي 33% في Westlaw AI-Assisted Research و17% في Lexis+ AI في ظل ظروف الاختبار القياسية.
وقالت: “يواجه المحامون نفس العقوبة في حالة الهلوسة، سواء كانت من Westlaw أو منصة فردية للذكاء الاصطناعي”. “المحاكم لم تفرق. العلامة التجارية الموثوقة لم تكن دفاعا “.
أعلام حمراء في الملخصات القانونية التي ينشئها الذكاء الاصطناعي
قدم كيسي ثلاث نكهات رئيسية لهلوسة الذكاء الاصطناعي. ولكل منها سماتها المميزة: تلفيق القضايا بالجملة، واقتباسات مزيفة منسوبة إلى قضايا حقيقية، وقضايا حقيقية ذات اقتباس حقيقي منسوب إلى حجة لا علاقة لها بالقضية.
وقالت إن العلامات الحمراء التالية غالبًا ما تظهر عبر أشكال الهلوسة الأكثر شيوعًا:
- من الجيد جدًا أن تكون حالات حقيقية تتناسب تمامًا مع نمط الحقيقة
- آراء ذات نثر متوازن ونظيف وبدون تحوط
- الحالات التي تم الاستشهاد بها عدة مرات عبر حجج أو أنماط حقائق أو حالات مختلفة
- لم يتم العثور على الحالات في قاعدة بيانات الحالات المصدرية الأساسية خلال عملية بحث مدتها 30 ثانية
“حتى في غياب أي من هذه العلامات الحمراء الصارخة، فإن أي سير عمل يعتمد على أبحاث الذكاء الاصطناعي يجب أن يحتوي على عنصر تدقيق. يجب على البشر دائمًا التحقق من الذكاء الاصطناعي ثم الثقة به في هذه المرحلة من اللعبة،” أوصى كيسي.
بناء حوكمة الذكاء الاصطناعي في مكاتب المحاماة
يوفر Masters AI Legal نظامًا بيئيًا تعليميًا متخصصًا لتدريب شركات المحاماة والمهنيين القانونيين على تنفيذ الذكاء الاصطناعي التوليدي. وأشار كيسي إلى أنه يجب على المحامين الإشراف والحفاظ على الكفاءة الفنية وحماية السرية والحفاظ على الصراحة مع المحكمة.
وهي ترى التحدي المتمثل في التكيف مع انتقال الذكاء الاصطناعي من الأدوات المستقلة إلى التكامل مع الأدوات القانونية الرئيسية مثل Lexis وWestlaw، وحتى في منصات معالجة النصوص.
وأوضحت: “ما يتغير هو مدى تحول الذكاء الاصطناعي إلى غير مرئي، وهذا الاختفاء هو بالضبط المكان الذي تكمن فيه المخاطر”.
واقترح آدامز أنه، إلى جانب ضوابط الوصول والتدريب، يجب على شركات المحاماة التكيف لضمان الإدارة السليمة لملفات التقاضي ومنتجات العمل. وهذا يضمن مراجعة مخرجاتهم بشكل صحيح بحثًا عن الهلوسة إذا تم استخدام برنامج ذكاء اصطناعي معتمد، وبالتالي غير قابل للتدقيق.
وقال آدامز: “لقد دفعت هذه المخاطر إلى إعادة التفكير على نطاق واسع في حوكمة شركات المحاماة. وفي DarrowEverett، اعتمدنا منصتنا القانونية للذكاء الاصطناعي بناءً على قدرتها على التحكم في الاستخدام ومراقبته وتدقيقه، فضلاً عن أمان تخزين البيانات ومعالجتها”.
وأضاف أن بناء أطر حوكمة قوية يتطلب اهتمامًا دقيقًا بالتفاصيل وجهود الامتثال المستمرة. لقد أوضحت بعض المحاكم الآن، كما هو الحال في قضية الولايات المتحدة ضد هيبنر، أن الاتصالات مع أنظمة الذكاء الاصطناعي التابعة لجهات خارجية غير المؤمنة قد لا تكون مميزة ويمكن استخدامها ضد الأطراف في الدعاوى القضائية.
وأكد مجددًا أن “الشركات والإدارات القانونية للشركات التي تفشل في التعامل مع حوكمة الذكاء الاصطناعي بنفس الصرامة التي يتعامل بها الأمن السيبراني أو إدارة النزاعات تعرض نفسها لمخاطر كبيرة”.
