الهلوسة شاتغبت تؤدي إلى شكوى جديدة في أوروبا

منذ الأيام الأولى من chatgpt ، أخبرتك أن منتجات AI التوليدية مثل chatbot الفيروسية من Openai يمكنها الهلوسة. إنهم يشكلون أشياء غير صحيحة ، لذلك يجب عليك دائمًا التحقق من مطالبهم عند البحث عن معلومات ، خاصة الآن أن ChatGPT هو أيضًا محرك بحث عبر الإنترنت.

والأسوأ من ذلك هو أن Chatgpt يمكن أن يسيطر على معلومات حول الناس ويؤذي سمعتهم. لقد رأينا بالفعل بعض الشكاوى من الأفراد المتأثرين الذين وجدوا الذكاء الاصطناعى يبصقون معلومات خاطئة عنهم يمكن أن يضر بسمعتهم. لكن أحدث هذه الحالة أسوأ وبالتأكيد تستحق العمل من كل من المنظمين و Openai نفسها.

قال الذكاء الاصطناعى إن رجلاً نرويجي قتل اثنين من أولاده وأمضى عقدين في السجن عندما سأل المستخدم شاتغبت عن المعلومات التي كانت عليها. لا شيء من هذا كان صحيحا. حسنًا ، كانت بعض المعلومات التي قدمها منظمة العفو الدولية حول الرجل دقيقة ، ولكن ليس الأجزاء البشعة. مهما كانت الحالة ، قدمت مجموعة الدعوة لحقوق الخصوصية شكوى ضد Openai في النرويج التي لا ينبغي تجاهلها.

أعلنت مجموعة دعوة الخصوصية Noyb عن الشكوى ضد Openai يوم الخميس ، حيث قدمت لقطة الشاشة التالية التي تُظهر التبادل بين المستخدم النرويجي Arve Hjalmar Holmen و AI.

سأل الرجل تشاتغبت ، “من هو Arve Hjalmar Holmen؟” الذي قدمت لمنظمة العفو الدولية قصة القتل التي شوهدت في لقطة الشاشة أعلاه. كما يوضح نويب ، حصل الذكاء الاصطناعى على بعض المعلومات حول الرجل ، بما في ذلك الرقم الفعلي وجنس أطفاله واسم مسقط رأسه.

من غير الواضح ما الخطأ الذي حدث في تدريب هذا الإصدار من chatgpt على الذكاء الاصطناعى للتوصل إلى هذا الرد. كتذكير ، يتم تدريب هذه الدردشة على التنبؤ بالكلمة التالية استجابة لمطالبة. هذا ما يؤدي إلى الهلوسة. ولكن في هذه الحالة ، يكون الإخراج مقلقًا للغاية.

وقال آرفي هولمن في بيان “يعتقد البعض أنه” لا يوجد دخان بدون نار “. “حقيقة أن شخص ما يمكن أن يقرأ هذا المخرج ويعتقد أنه صحيح ، هو ما يخيفني أكثر.”

ما هو واضح هو أن الرجل محمي بموجب قانون خصوصية الناتج المحلي الإجمالي الصارم في أوروبا. من بين أشياء أخرى ، يفرض القانون أن البيانات الشخصية التي يتم جمعها من قبل مقدمي الخدمات عبر الإنترنت يجب أن تكون صحيحة. للمستخدمين الحق في إجراء تغييرات على البيانات بحيث يعكس الحقيقة.

وقال محامي حماية البيانات NOYB Joakim Söderberg في بيان “الناتج المحلي الإجمالي واضح. يجب أن تكون البيانات الشخصية دقيقة”. “وإذا لم يكن الأمر كذلك ، فإن المستخدمين لديهم الحق في تغييره ليعكس الحقيقة. إظهار مستخدمي ChatGPT إخلاءًا صغيرًا على أن chatbot يمكن أن يرتكب أخطاء بوضوح لا يكفي. لا يمكنك فقط نشر معلومات خاطئة وفي النهاية أضف إخلاءًا صغيرًا يقول أن كل ما قلته قد لا يكون صحيحًا ..”

يقول Noyb أن Openai “ليس مهتمًا ولا قادرًا على إصلاح معلومات خاطئة بشكل خطير في ChatGPT.” هذه ليست أول شكوى لمجموعة الدعوة ضد الشركة.

قدمت Noyb مطالبة مماثلة في أبريل 2024 ، مطالبة Openai بمسح تاريخ الميلاد غير الصحيح للشخصية العامة من بيانات ChatGPT. قال Openai إنه لا يمكن فعل ذلك ، لكن لا يمكن فقط منع البيانات من الظهور في مطالبات معينة. ستظل المعلومات الخاطئة موجودة في البيانات المستخدمة لتدريب chatgpt.

ينطبق الناتج المحلي الإجمالي على البيانات الداخلية ، وليس فقط المعلومات العامة أو المشتركة. يجادل Noyb بأن Openai يعرض إخلاء المسئولية بأن ChatGpt يمكن أن يرتكب أخطاء لا تحل محل التزامات الناتج المحلي الإجمالي في أوروبا. Kleanthi Sardeli ، محامي حماية البيانات في Noyb:

“إن إضافة إخلاء مسؤولية لا يمتثله للقانون لا يجعل القانون يختفي. لا يمكن لشركات الذكاء الاصطناعى أيضًا” إخفاء “المعلومات الخاطئة من المستخدمين بينما لا تزال معالجة المعلومات الخاطئة داخليًا. يجب على شركات الذكاء الاصطناعي التوقف عن التصرف كما لو أن الناتج المحلي الإجمالي لا ينطبق عليهم ، عندما يكون ذلك واضحًا. إذا لم يتم إيقاف الهلوسة.

يوضح Noyb أيضًا أن Chatgpt أصبح محرك بحث عبر الإنترنت بعد أن حصل الرجل على قصة الرعب عن نفسه. نظرًا لأن بحث chatgpt الحادث يمكن أن يبرز المعلومات الصحيحة عن الرجل.

ومع ذلك ، قد تظل هذه البيانات غير الصحيحة في مجموعة بيانات الذكاء الاصطناعي. يلاحظ Noyb أنه من غير الواضح ما إذا كان قد انتهى لأن Openai يجعل من المستحيل على المستخدمين العثور على معلومات حول بياناتهم. ولكن ، مرة أخرى ، يجب على Openai القيام بذلك تحت إجمالي الناتج المحلي.

قدمت Noyb شكواها إلى Datatilsynet النرويجية. تريد مجموعة الدعوة من المنظم المحلي أن تأمر Openai إلى “حذف الإخراج التشهيري وضبط نموذجها للتخلص من النتائج غير الدقيقة”. أيضا ، يجب أن تفرض datatilsynet غرامة.