تقول جوجل أنها أصلحتهم

في I/O 2024 قبل بضعة أسابيع، أعلنت Google أن AI Overviews ستظهر في الجزء العلوي من نتائج بحث Google في الولايات المتحدة، لتخبر المستخدمين أنها تريد من الذكاء الاصطناعي أن يقوم بالمهمة. البحث في غوغل بالنسبة لهم. ولكن تبين أن AI Overviews كان بمثابة خطأ كبير من الشركة التي يثق بها الكثير من الناس للحصول على نتائج بحث دقيقة على الإنترنت.

لقد انتشرت ميزة AI Overviews على نطاق واسع على وسائل التواصل الاجتماعي لعرضها إجابات غير منطقية وغير دقيقة وخطيرة في بعض الأحيان في الجزء العلوي من البحث. في الواقع، اقترح محرك بحث Google وضع الغراء على البيتزا لصنع عصا الجبن.

لقد أظهرنا لك طرقًا لتجنب نظرة عامة على الذكاء الاصطناعي في البحث، وأدركت أن قراري بالتخلي عن بحث Google منذ فترة طويلة كان قرارًا ذكيًا. لن أضطر أبدًا للتعامل مع أي من هذا الهراء. لقد قلت أيضًا أنه يجب على Google سحب ميزة AI Overviews من بحث Google. على أقل تقدير، يجب أن تكون الميزة اختيارية وليست افتراضية.

ليس من المستغرب أن جوجل ليس لديها خطط للتراجع عن الذكاء الاصطناعي. بدلاً من ذلك، أوضحت Google ما حدث منذ مؤتمر I/O، ولماذا تقدم AI Overviews معلومات غير دقيقة، وما الذي تم فعله لإصلاحها. ألقت Google أيضًا باللوم عليك، أيها المستخدم، على إعطاء سمعة سيئة لـ AI Overviews.

ليست هلوسة الذكاء الاصطناعي المعتادة

لقد حذرتك مرارًا وتكرارًا من أن الذكاء الاصطناعي مثل ChatGPT يمكنه اختلاق معلومات زائفة. إنها تسمى هلوسة، وهي مشكلة لا أحد في صناعة الذكاء الاصطناعي يعرف كيفية حلها. أوضحت جوجل في منشور على مدونتها أن ميزة AI Overviews لا تعمل على نماذج اللغات الكبيرة العادية، لذا فهي لا تهلوس بنفس الطريقة:

تعمل ميزة AI Overviews بشكل مختلف تمامًا عن برامج الدردشة الآلية ومنتجات LLM الأخرى التي ربما جربها الأشخاص. إنهم لا يقومون ببساطة بإنشاء مخرجات بناءً على بيانات التدريب. في حين أن ميزة AI Overviews مدعومة بنموذج لغة مخصص، فإن النموذج مدمج مع أنظمة تصنيف الويب الأساسية لدينا وهو مصمم لتنفيذ مهام “البحث” التقليدية، مثل تحديد النتائج ذات الصلة وعالية الجودة من فهرسنا. ولهذا السبب لا توفر ميزة AI Overviews مخرجات نصية فحسب، بل تتضمن روابط ذات صلة حتى يتمكن الأشخاص من استكشاف المزيد. نظرًا لأن الدقة لها أهمية قصوى في البحث، فقد تم تصميم ميزة AI Overviews لعرض المعلومات المدعمة بنسخة احتياطية من أهم نتائج الويب فقط.

وهذا يعني أن “نظرات عامة على الذكاء الاصطناعي” بشكل عام لا “تهلوس” أو تختلق الأشياء بالطرق التي قد تفعلها منتجات LLM الأخرى. عندما تخطئ AI Overviews، فعادةً ما يكون ذلك لأسباب أخرى: سوء تفسير الاستعلامات، أو سوء تفسير الفروق الدقيقة في اللغة على الويب، أو عدم توفر الكثير من المعلومات الرائعة. (هذه هي التحديات التي تحدث مع ميزات البحث الأخرى أيضًا.)

ماذا حصل

قالت Google إنها اختبرت نظرة عامة على الذكاء الاصطناعي وقامت بتحسينها للتأكد من دقتها. لكن ملايين الأشخاص الذين يستخدمون هذه الميزة أدى إلى عمليات بحث جديدة. مثل “عمليات البحث الجديدة غير المنطقية، التي يبدو أنها تهدف إلى الحصول على نتائج خاطئة”. نعم، جوجل تلومك على التسبب في هذه الأخطاء السخيفة.

تقول Google أيضًا أن الأشخاص قاموا بتزييف نتائج AI Overviews. لذلك، مرة أخرى، أنت المذنب:

وبشكل منفصل، كان هناك عدد كبير من لقطات الشاشة المزيفة التي تمت مشاركتها على نطاق واسع. وكانت بعض هذه النتائج المزيفة واضحة وسخيفة. وأشار آخرون إلى أننا قدمنا ​​نتائج خطيرة لموضوعات مثل ترك الكلاب في السيارات، والتدخين أثناء الحمل، والاكتئاب. لم تظهر تلك النظرات العامة للذكاء الاصطناعي أبدًا. لذلك نشجع أي شخص يواجه لقطات الشاشة هذه على إجراء بحث بنفسه للتحقق منها.

فقط بعد ذلك تتحمل Google المسؤولية وتقول “لقد ظهرت بالتأكيد بعض النظرات العامة الغريبة أو غير الدقيقة أو غير المفيدة للذكاء الاصطناعي”. لكن هذه ظهرت في “الاستعلامات التي لا يقوم بها الأشخاص عادةً”.

من الواضح أنه لا يوجد أحد يعاني من الاكتئاب:

أكدت Google شيئًا كنا نعرفه طوال الوقت من خلال نظرة عامة على الذكاء الاصطناعي التي انتشرت بسرعة كبيرة: وهو أن الذكاء الاصطناعي الخاص بها لا يمكنه تفسير “الاستفسارات غير المنطقية والمحتوى الساخر”. على سبيل المثال، السؤال “كم عدد الحجارة التي يجب أن آكلها؟” أنتجت ردًا فقط لأنها وجدت أن المحتوى الساخر هو المصدر الوحيد للمعلومات.

كما تناولت الشركة أيضًا نظرة عامة على غراء البيتزا AI في منشور المدونة، وألقت باللوم على المنتديات مثل Reddit، دون تسميتها فعليًا:

وفي أمثلة أخرى، رأينا نظرة عامة على الذكاء الاصطناعي تتضمن محتوى ساخرًا أو متصيدًا من منتديات المناقشة. غالبًا ما تكون المنتديات مصدرًا رائعًا للمعلومات الحقيقية والمباشرة، ولكن في بعض الحالات يمكن أن تؤدي إلى نصائح أقل من مفيدة، مثل استخدام الغراء لجعل الجبن يلتصق بالبيتزا.

وتقول جوجل إنها أجرت تحسينات

جوجل مصممة على إبقاء ميزة AI Overviews في مقدمة بحث Google، لذلك بدأت في إصلاحها. فيما يلي بعض الأشياء التي تعمل Google على تحسينها، كما هو مذكور في مشاركة المدونة:

• لقد أنشأنا آليات أفضل للكشف عن الاستعلامات غير المنطقية التي لا ينبغي أن تعرض نظرة عامة على الذكاء الاصطناعي، وقمنا بتقييد تضمين المحتوى الساخر والفكاهي.
• لقد قمنا بتحديث أنظمتنا للحد من استخدام المحتوى الذي ينشئه المستخدمون في الردود التي قد تقدم نصائح مضللة.
• أضفنا قيودًا محفزة للاستعلامات التي لم تثبت فيها ميزة AI Overviews أنها مفيدة.
• بالنسبة لموضوعات مثل الأخبار والصحة، لدينا بالفعل حواجز حماية قوية. على سبيل المثال، نهدف إلى عدم عرض نظرة عامة على الذكاء الاصطناعي لموضوعات الأخبار المهمة، حيث تكون الحداثة والواقعية أمرًا مهمًا. وفي حالة الصحة، أطلقنا تحسينات إضافية لتعزيز حماية الجودة لدينا.

هل مشاكل Google مع AI Overviews تكمن وراءها؟ ليس لدينا أي وسيلة لمعرفة. من الأفضل تحسين ميزة AI Overviews لصالح Google. ومرة أخرى، ما زلنا في الأيام الأولى للذكاء الاصطناعي عندما يتعلق الأمر بالدقة. لن أتفاجأ إذا واصلنا رؤية نظرة عامة خاطئة على الذكاء الاصطناعي، حيث تواصل Google النضال لتحسين الميزة التي كانت حتى الآن أضحوكة.