منصة متهمة بالأخبار الكاذبة

حتى شركة أبل ليست في مأمن من هلوسة الذكاء الاصطناعي. لقد رأينا ذلك يحدث بشكل متكرر مع Gemini من Google (مثل النظام الأساسي الذي يطلب من المستخدمين وضع الغراء على البيتزا)، وMicrosoft، وChatGPT من OpenAI.

حتى أن شركة Apple لديها محاولة سريعة لمنع منصة Apple Intelligence الخاصة بها من الهلوسة، لكن هذا لا يعني أنها لن تخطئ في بعض الأشياء. الآن، بي بي سي نيوز أفادت التقارير أن المنظمة الصحفية غير الحكومية مراسلون بلا حدود دعت شركة Apple إلى التوقف عن استخدام ملخص الإشعارات.

تم تقديم هذه الميزة مع iOS 18.1 وتم تحسينها مع iOS 18.2. ومن خلاله، تقوم Apple بتلخيص جميع إشعاراتك في حزمة واحدة. وبهذا، يمكنك متابعة مجموعات iMessage الخاصة بك وإشعارات X وما إلى ذلك بسرعة كبيرة.

ومع ذلك، فقد لاحظ المستخدمون بالفعل أنه من حين لآخر، يحدث خطأ ما. تفاجأت الصحفية البارزة جوانا ستيرن ذات يوم عندما اكتشفت أن لزوجتها زوجًا (افترضت شركة Apple Intelligence أنها كانت تتحدث عن رجل، وليس امرأة)، وشارك أشخاص آخرون صورًا غير حساسة للانفصال من خلال شركة Apple Intelligence.

لسوء الحظ، يبدو أن الهلوسة المتعلقة بذكاء شركة Apple أصبحت أكثر تكرارًا، كما هو الحال في قضية Luigi Mangione الأخيرة. الرجل المتهم بقتل مدير تنفيذي للتأمين الصحي، أبلغت المنصة المستخدمين (من خلال إشعارات بي بي سي نيوز) أنه قتل نفسه في السجن، وهو ما لم يحدث.

المنشور يكتب:

تقدمت بي بي سي بشكوى إلى شركة التكنولوجيا الأمريكية العملاقة بعد أن قامت شركة Apple Intelligence، التي تستخدم الذكاء الاصطناعي (AI) لتلخيص الإخطارات وتجميعها معًا، بإنشاء عنوان رئيسي حول المشتبه به في جريمة القتل لويجي مانجيوني. أظهر الملخص المدعوم بالذكاء الاصطناعي أن بي بي سي نيوز نشرت مقالًا يزعم أن مانجيوني، الرجل المتهم بقتل الرئيس التنفيذي للتأمين الصحي بريان طومسون في نيويورك، قد أطلق النار على نفسه. لم يفعل ذلك.

بالإضافة إلى ذلك، أصدرت منظمة مراسلون بلا حدود بيانًا مفاده أن هذا الحادث يثبت أن “خدمات الذكاء الاصطناعي التوليدية لا تزال غير ناضجة جدًا بحيث لا يمكنها إنتاج معلومات موثوقة للجمهور”. وتستمر: “تدعو منظمة مراسلون بلا حدود شركة Apple إلى التصرف بمسؤولية عن طريق إزالة هذه الميزة. إن الإنتاج الآلي لمعلومات كاذبة منسوبة إلى إحدى وسائل الإعلام يمثل ضربة لمصداقية الوسيلة وخطرًا على حق الجمهور في الحصول على معلومات موثوقة حول الشؤون الجارية.

ولم تعلق أبل على هذا الأمر. ومع ذلك، فإن الهلوسة المستقبلية لشركة Apple يمكن أن تسبب ضررًا لأشخاص آخرين، أو تنشر أخبارًا مزيفة، أو حتى تغير السوق.

من المحتمل أن تستمر شركة Apple في تحسين خوارزمية Apple Intelligence. ومع ذلك، قد يكون الأمر أكثر أمانًا إذا منعت الشركة منصة الذكاء الاصطناعي الخاصة بها من تلخيص أخبار الإشعارات في الوقت الحالي.

بي جي آر سوف نعلمك إذا سمعنا من شركة Apple.