أدار الباحثون تجربة منظمة العفو الدولية غير مصرح بها على redditors
اعتقد مستخدمو رديت أنهم يناقشون أناس حقيقيين. بدلاً من ذلك ، كانوا مواضيع غير مقصودة في دراسة سرية منظمة العفو الدولية ، وهم ليسوا سعداء بذلك.
قام باحثون من جامعة زيوريخ بهدوء بتجربة Reddit AI على R/ChangemyView ، واحدة من أكثر المجتمعات شعبية في المنصة. لقد استخدموا نماذج لغة كبيرة لإنشاء تعليقات مخصصة تهدف إلى تأرجح آراء المستخدمين ، دون إخبار أي شخص.
والأسوأ من ذلك ، أن منظمة العفو الدولية صاغت هويات مزيفة ، حيث تمثل كل شيء من مستشارو الصدمات إلى الناشطين السياسيين ، كل ذلك مع تخصيص حججهم بناءً على تاريخ المستخدمين للمستخدمين. بعد الانتهاء من الدراسة ، وصل الباحثون إلى المشرفين على المجتمع لبدء “استخلاص المعلومات” مع المجتمع.
يكفي القول ، أن المشرفين على R/changemyView كانوا غاضبين ، متهمين الباحثين بانتهاك قواعد المجتمع المتعددة ، بما في ذلك القواعد التي تحظر استخدام الذكاء الاصطناعي غير المعلوم والحسابات الآلية. قدموا شكوى رسمية مع جامعة زيوريخ وطالبوا بنتائج الدراسة لا ترى ضوء اليوم.
لم يتراجع Reddit نفسه أيضًا ، حيث وصف كبير المسؤولين القانونيين في الشركة تجربة Reddit AI “بشكل كبير على كل من المستوى الأخلاقي والقانوني”. تم حظر جميع الحسابات المرتبطة بالمشروع بشكل دائم ، وحتى Reddit يبحث عن بعض الإجراءات القانونية فيما يتعلق بالدراسة.
حاول الباحثون الدفاع عن أفعالهم في منشور مطول Reddit ، قائلين إن الدراسة كانت منخفضة المخاطر ويمكن أن تساعد المجتمعات عبر الإنترنت في الدفاع ضد حملات الذكاء الاصطناعي الخبيثة. لكن العديد من Redditors لا يشترونها. كما أشار المشرفون ، فإن دراسة بيانات Reddit هي شيء واحد ؛ معالجة المحادثات الحقيقية سرا هو آخر.
تداعيات تجبر التغيير بالفعل. وقالت جامعة زيوريخ إنها تشدد عملية المراجعة الأخلاقية ، واعتداً من الإشراف الأكثر صرامة على التجارب المستقبلية ، Engadget التقارير. وافق الباحثون ، الذين يواجهون رد فعل عنيف ثقيل ، على عدم نشر نتائجهم ، على الرغم من أنه يمكنك قراءة أرشيف للعديد من التعليقات لنفسك.
ومع ذلك ، فإن الضرر يحدث ، وهذه تجربة Reddit AI ليست شيئًا من المحتمل أن ننسى في أي وقت قريب. على الأقل في المرة الأخيرة التي حدث فيها شيء من هذا القبيل ، كان الأمر مجرد جدال حول ما إذا كانت الصورة هي منظمة العفو الدولية أم لا.
