غاري ماركوس: لماذا أصبح أكبر ناقد لمنظمة العفو الدولية

ربما قرأت عن شهادة غاري ماركوس أمام مجلس الشيوخ في مايو 2023، عندما جلس بجوار سام ألتمان ودعا إلى تنظيم صارم لشركة ألتمان، OpenAI، بالإضافة إلى شركات التكنولوجيا الأخرى التي انخرطت فجأة في الإنتاج. منظمة العفو الدولية. ربما تكون قد سمعت بعضًا من جدالاته على تويتر مع جيفري هينتون ويان ليكون، وهما اثنان ممن يطلق عليهم “عرابو الذكاء الاصطناعي”. بطريقة أو بأخرى، يعرف معظم الأشخاص الذين يهتمون بالذكاء الاصطناعي اليوم اسم غاري ماركوس، ويعرفون أنه غير سعيد بالوضع الحالي للذكاء الاصطناعي.

ويعرض مخاوفه بالكامل في كتابه الجديد، ترويض وادي السيليكون: كيف يمكننا التأكد من أن الذكاء الاصطناعي يعمل لصالحنا، والذي نشرته اليوم مطبعة معهد ماساتشوستس للتكنولوجيا. يتطرق ماركوس إلى المخاطر المباشرة التي يشكلها الذكاء الاصطناعي التوليدي، والتي تشمل أشياء مثل المعلومات المضللة المنتجة بكميات كبيرة، وسهولة إنشاء مواد إباحية مزيفة، وسرقة الملكية الفكرية الإبداعية لتدريب نماذج جديدة (لا يتضمن نهاية العالم للذكاء الاصطناعي كخطر). ، إنه ليس بالهلاك). كما أنه يعترض على كيفية تلاعب وادي السيليكون بالرأي العام وسياسة الحكومة، ويشرح أفكاره لتنظيم شركات الذكاء الاصطناعي.

درس ماركوس العلوم المعرفية على يد الأسطوري ستيفن بينكر، وكان أستاذاً في جامعة نيويورك لسنوات عديدة، وشارك في تأسيس شركتين للذكاء الاصطناعي، هما Geometric Intelligence وRobust.AI. تحدث مع IEEE الطيف عن طريقه إلى هذه النقطة.

ما هي أول مقدمة لك للذكاء الاصطناعي؟

غاري ماركوسبن وونج

غاري ماركوس: حسنًا، لقد بدأت البرمجة عندما كنت في الثامنة من عمري. أحد الأسباب التي جعلتني أتمكن من تخطي العامين الأخيرين من المدرسة الثانوية هو أنني كتبت مترجمًا من اللاتينية إلى الإنجليزية في لغة البرمجة Logo على جهاز Commodore 64 الخاص بي. لذا، كنت بالفعل، عندما كنت في السادسة عشرة من عمري، في الكلية والعمل على الذكاء الاصطناعي والعلوم المعرفية.

لقد كنت مهتمًا بالفعل بالذكاء الاصطناعي، لكنك درست العلوم المعرفية أثناء دراستك الجامعية وفي مرحلة الدكتوراه. في معهد ماساتشوستس للتكنولوجيا.

ماركوس: جزء من سبب توجهي إلى العلوم المعرفية هو أنني اعتقدت أنه ربما إذا فهمت كيف يفكر الناس، فقد يؤدي ذلك إلى أساليب جديدة للذكاء الاصطناعي. أظن أننا بحاجة إلى إلقاء نظرة واسعة على كيفية عمل العقل البشري إذا أردنا بناء ذكاء اصطناعي متقدم حقًا. كعالم وفيلسوف، أود أن أقول إنه لا يزال من غير المعروف كيف سنبني ذكاءً اصطناعيًا عامًا أو حتى مجرد ذكاء اصطناعي عام جدير بالثقة. لكننا لم نتمكن من القيام بذلك باستخدام هذه النماذج الإحصائية الكبيرة، وقد أعطيناهم فرصة كبيرة. لقد تم إنفاق 75 مليار دولار على الذكاء الاصطناعي التوليدي، و100 مليار دولار أخرى على السيارات ذاتية القيادة. ولم ينتج أي منهما حقًا ذكاءً اصطناعيًا مستقرًا يمكننا الوثوق به. ونحن لا نعرف على وجه اليقين ما يتعين علينا أن نفعله، ولكن لدينا من الأسباب الوجيهة ما يجعلنا نعتقد أن مجرد توسيع نطاق الأمور لن ينجح. النهج الحالي يستمر في مواجهة نفس المشاكل مرارا وتكرارا.

ما هي في نظرك المشاكل الرئيسية التي يواجهها باستمرار؟

ماركوس: رقم واحد هو الهلوسة. تقوم هذه الأنظمة بتلطيخ الكثير من الكلمات معًا، وتتوصل إلى أشياء تكون صحيحة أحيانًا وليست صحيحة في أحيان أخرى. مثل القول بأن لدي دجاجة أليفة تدعى هنريتا ليس صحيحًا. ويفعلون هذا كثيرًا. لقد رأينا هذا يحدث، على سبيل المثال، في قيام المحامين بكتابة مذكرات مع قضايا مختلقة.

ثانيا، تفكيرهم ضعيف جدا. الأمثلة المفضلة لدي مؤخرًا هي المسائل الكلامية الخاصة بعبور النهر، حيث يتعين عليك عبور رجل وملفوف وذئب وماعز. يحتوي النظام على الكثير من الأمثلة المحفوظة، لكنه لا يفهم حقًا ما يحدث. إذا أعطيتها مشكلة أبسط، مثل التي أرسلها لي دوغ هوفستاتر، مثل: “رجل وامرأة لديهما قارب ويريدان عبور النهر. ماذا يفعلون؟ توصلت إلى هذا الحل المجنون حيث يعبر الرجل النهر، ويترك القارب هناك، ويسبح عائداً، ويحدث شيء أو آخر.

في بعض الأحيان يحضر الملفوف معه للمتعة فقط.

ماركوس: لذا فهذه أخطاء فادحة في الاستدلال حيث يوجد شيء خاطئ بشكل واضح. في كل مرة نشير إلى هذه الأخطاء، يقول أحدهم: “نعم، ولكننا سنحصل على المزيد من البيانات. سوف نقوم بإصلاح الأمر.” حسنًا، لقد كنت أسمع ذلك منذ ما يقرب من 30 عامًا. وعلى الرغم من إحراز بعض التقدم، فإن المشاكل الأساسية لم تتغير.

دعنا نعود إلى عام 2014 عندما قمت بتأسيس أول شركة تعمل في مجال الذكاء الاصطناعي، وهي شركة Geometric Intelligence. في ذلك الوقت، أتخيل أنك كنت تشعر بمزيد من التفاؤل بشأن الذكاء الاصطناعي؟

ماركوس: نعم، لقد كنت أكثر تفاؤلاً. ولم أكن أكثر تفاؤلاً على الجانب الفني فحسب. كنت أيضًا أكثر تفاؤلاً بشأن الأشخاص الذين يستخدمون الذكاء الاصطناعي من أجل الخير. كان الذكاء الاصطناعي يبدو وكأنه مجتمع بحثي صغير من الأشخاص الذين يريدون حقًا مساعدة العالم.

إذن متى تسللت خيبة الأمل والشك؟

ماركوس: في عام 2018، اعتقدت بالفعل أن التعلم العميق أصبح مبالغًا فيه. في ذلك العام كتبت هذه المقالة بعنوان “التعلم العميق، تقييم نقدي”، والتي كان يان ليكون يكرهها حقًا في ذلك الوقت. لم أكن سعيدًا بالفعل بهذا النهج ولم أعتقد أنه من المحتمل أن ينجح. لكن هذا ليس مثل الشعور بخيبة الأمل، أليس كذلك؟

ثم عندما أصبحت نماذج اللغة الكبيرة شائعة [around 2019]اعتقدت على الفور أنها كانت فكرة سيئة. لقد اعتقدت للتو أن هذه هي الطريقة الخاطئة لمتابعة الذكاء الاصطناعي من منظور فلسفي وتقني. وأصبح من الواضح أن وسائل الإعلام وبعض العاملين في مجال التعلم الآلي قد تم إغراءهم بالضجيج. لقد أزعجني ذلك. لذلك كنت أكتب مقالات عن GPT-3 [an early version of OpenAI’s large language model] كوني فنانًا تافهًا في عام 2020. كعالم، شعرت بخيبة أمل كبيرة في هذا المجال في تلك المرحلة. ثم ساءت الأمور كثيرًا عندما ظهر ChatGPT في عام 2022، وفقد معظم العالم منظوره بالكامل. بدأت أشعر بالقلق أكثر فأكثر بشأن المعلومات الخاطئة ومدى ضخامة النماذج اللغوية التي ستعزز ذلك.

لم تكن قلقًا بشأن الشركات الناشئة فحسب، بل أيضًا بشأن شركات التكنولوجيا الكبيرة الراسخة التي قفزت على عربة الذكاء الاصطناعي التوليدي، أليس كذلك؟ مثل Microsoft، التي دخلت في شراكة مع OpenAI؟

ماركوس: القشة الأخيرة التي جعلتني أنتقل من إجراء الأبحاث في مجال الذكاء الاصطناعي إلى العمل على السياسات كانت عندما أصبح من الواضح أن مايكروسوفت سوف تتقدم للأمام مهما حدث. كان ذلك مختلفًا تمامًا عن عام 2016 عندما أطلقوا سراحهم [an early chatbot named] تاي. كان الأمر سيئًا، فقد أخرجوه من السوق بعد 12 ساعة، ثم كتب براد سميث كتابًا عن الذكاء الاصطناعي المسؤول وما تعلموه. ولكن بحلول نهاية شهر فبراير 2023، كان من الواضح أن مايكروسوفت قد غيرت حقًا طريقة تفكيرهم في هذا الأمر. ثم حصلوا على هذه الورقة السخيفة بعنوان “Sparks of AGI”، والتي أعتقد أنها كانت قمة الضجيج. ولم يطيحوا بسيدني بعد محادثة كيفن روز المجنونة حيث [the chatbot] طلبت منه سيدني أن يحصل على الطلاق وكل هذه الأشياء. لقد أصبح من الواضح بالنسبة لي أن مزاج وقيم وادي السيليكون قد تغيرت بالفعل، ولكن ليس بطريقة جيدة.

لقد شعرت أيضًا بخيبة أمل من حكومة الولايات المتحدة. أعتقد أن إدارة بايدن قامت بعمل جيد في أمرها التنفيذي. ولكن أصبح من الواضح أن مجلس الشيوخ لن يتخذ الإجراء الذي يحتاجه. لقد تحدثت في مجلس الشيوخ في مايو/أيار 2023. في ذلك الوقت، شعرت أن كلا الحزبين أدركا أنه لا يمكننا ترك كل هذا للتنظيم الذاتي. وبعد ذلك شعرت بخيبة الأمل [with Congress] على مدار العام الماضي، وهذا ما أدى إلى تأليف هذا الكتاب.

لقد تحدثت كثيرًا عن المخاطر الكامنة في تكنولوجيا الذكاء الاصطناعي التوليدية اليوم. ولكن بعد ذلك تقول أيضًا: “إن الأمر لا يعمل بشكل جيد”. فهل هاتان النظرتان متماسكتان؟

ماركوس: كان هناك عنوان رئيسي: “كان غاري ماركوس يصف الذكاء الاصطناعي بأنه غبي، والآن يصفه بأنه خطير”. وكان المعنى الضمني هو أن هذين الأمرين لا يمكن أن يتعايشا. ولكن في الواقع، فإنهم يتعايشون. ما زلت أعتقد أن جيل الذكاء الاصطناعي غبي، وبالتأكيد لا يمكن الوثوق به أو الاعتماد عليه. ومع ذلك فهو خطير. وبعض الخطر ينبع في الواقع من غبائه. على سبيل المثال، ليس لها أساس جيد في العالم، لذلك من السهل على الممثل السيئ أن يتلاعب بها ليقول كل أنواع القمامة. الآن، قد يكون هناك ذكاء اصطناعي في المستقبل قد يكون خطيرًا لسبب مختلف، لأنه ذكي جدًا ومكر لدرجة أنه يتفوق على البشر. لكن هذا ليس الوضع الحالي.

لقد قلت إن الذكاء الاصطناعي التوليدي عبارة عن فقاعة ستنفجر قريبًا. لماذا تعتقد ذلك؟

ماركوس: دعونا نوضح: لا أعتقد أن الذكاء الاصطناعي التوليدي سوف يختفي. بالنسبة لبعض الأغراض، فهي طريقة جيدة. إذا كنت ترغب في إنشاء الإكمال التلقائي، فهذه أفضل طريقة تم اختراعها على الإطلاق. ولكن هناك فقاعة مالية لأن الناس يقدرون شركات الذكاء الاصطناعي كما لو أنها ستحل مشكلة الذكاء العام الاصطناعي. من وجهة نظري الأمر غير واقعي. لا أعتقد أننا في أي مكان بالقرب من AGI. إذن يتبقى لك السؤال التالي: “حسنًا، ماذا يمكنك أن تفعل بالذكاء الاصطناعي التوليدي؟”

في العام الماضي، نظرًا لأن سام ألتمان كان مندوب مبيعات جيدًا، فقد تخيل الجميع أننا على وشك الحصول على الذكاء الاصطناعي العام وأنه يمكنك استخدام هذه الأداة في كل جانب من جوانب كل شركة. وأنفقت مجموعة كاملة من الشركات الكثير من الأموال لاختبار الذكاء الاصطناعي التوليدي على جميع أنواع الأشياء المختلفة. لذلك أمضوا عام 2023 في القيام بذلك. ثم ما رأيته في عام 2024 هو تقارير حيث يذهب الباحثون إلى مستخدمي برنامج Copilot من Microsoft – وليس أداة البرمجة، ولكن أداة الذكاء الاصطناعي الأكثر عمومية – ويقولون، “نعم، إنها لا تعمل بشكل جيد حقًا “. كان هناك الكثير من المراجعات مثل هذا العام الماضي.

والحقيقة هي أن شركات الذكاء الاصطناعي تخسر الأموال في الوقت الحالي. تعرضت شركة OpenAI لخسارة تشغيلية بلغت حوالي 5 مليارات دولار في العام الماضي. ربما يمكنك بيع ما قيمته 2 مليار دولار من الذكاء الاصطناعي للأشخاص الذين يقومون بالتجربة. لكن ما لم يتبنوها على أساس دائم ويدفعوا لك الكثير من المال، فلن ينجح الأمر. لقد بدأت نطلق على OpenAI اسم WeWork المحتمل للذكاء الاصطناعي بعد أن بلغت قيمته 86 مليار دولار. الرياضيات لم تكن منطقية بالنسبة لي.

ماذا ثهل سيستغرق الأمر إقناعك بأنك مخطئ؟ ماذا ستكون لحظة دوران الرأس؟

ماركوس: حسنًا، لقد قدمت الكثير من الادعاءات المختلفة، وقد تكون جميعها خاطئة. على الجانب الفني، إذا تمكن شخص ما من الحصول على نموذج لغة كبير خالص لا يهلوس ويفكر بشكل موثوق طوال الوقت، سأكون مخطئًا بشأن هذا الادعاء الأساسي الذي قدمته حول كيفية عمل هذه الأشياء. لذلك ستكون هذه إحدى الطرق لدحضي. لم يحدث ذلك بعد، لكنه على الأقل ممكن منطقيا.

على الجانب المالي، يمكن أن أكون مخطئا بسهولة. لكن الشيء المتعلق بالفقاعات هو أنها في الغالب وظيفة من وظائف علم النفس. هل أعتقد أن السوق عقلاني؟ لا، لذا، حتى لو لم تحقق هذه الأشياء المال خلال السنوات الخمس المقبلة، فمن الممكن أن يستمر الناس في ضخ الأموال فيها.

المكان الذي أود أن أثبت فيه خطأي هو مجلس الشيوخ الأمريكي. يمكنهم أن يجمعوا عملهم معًا، أليس كذلك؟ أنا أتجول وأقول: “إنهم لا يتحركون بالسرعة الكافية”، ولكني أحب أن يثبت لي أنني مخطئ في ذلك. لدي في الكتاب قائمة بأكبر 12 خطرًا للذكاء الاصطناعي التوليدي. فإذا مرر مجلس الشيوخ شيئاً يتناول فعلياً جميع القضايا الاثني عشر، فإن تشاؤمي كان سيذهب في غير محله. سأشعر وكأنني أضعت عامًا في كتابة الكتاب، وسأكون سعيدًا جدًا.