قوانين الروبوتات الثلاثة لرودني بروكس

رودني بروكس هو أستاذ الروبوتات في باناسونيك (فخري) في معهد ماساتشوستس للتكنولوجيا، حيث كان مديرًا لمختبر الذكاء الاصطناعي ثم CSAIL. لقد كان أحد مؤسسي iRobot وRethink Robotics وRobust AI, حيث يشغل حاليًا منصب CTO. تمت مشاركة هذه المقالة بإذن من مدونته.

فيما يلي بعض الأشياء التي تعلمتها عن الروبوتات بعد العمل في هذا المجال لمدة خمسة عقود تقريبًا. تكريمًا لإسحاق أسيموف وآرثر سي. كلارك، وهما كاتبان للخيال العلمي في طفولتي، أطلق عليهما قوانيني الثلاثة للروبوتات.

1. إن المظهر المرئي للروبوت يبشر بما يمكن أن يفعله ومدى ذكائه. يجب أن تفي بهذا الوعد أو تفي به قليلاً وإلا فلن يتم قبوله.
2. عندما تتعايش الروبوتات والبشر في نفس الأماكن، لا ينبغي للروبوتات أن تنتقص من قدرة الناس، وخاصة عندما تفشل الروبوتات، كما يحدث حتما في بعض الأحيان.
3. تحتاج تقنيات الروبوتات إلى ما يزيد عن 10 سنوات من التحسين المطرد بما يتجاوز العروض التوضيحية المعملية للمهام المستهدفة حتى تنضج إلى تكلفة منخفضة ولتتميز حدودها بشكل جيد بما يكفي حتى تتمكن من إنجاز 99.9 بالمائة من الوقت. كل 10 سنوات أخرى تحصل على 9 سنوات أخرى في الموثوقية.

سأشرح أدناه كل قانون من هذه القوانين بمزيد من التفصيل. ولكن في منشور ذي صلة، إليك قوانيني الثلاثة للذكاء الاصطناعي.

لاحظ أن هذه القوانين مكتوبة من وجهة نظر جعل الروبوتات تعمل في العالم الحقيقي، حيث يدفع الناس ثمنها، وحيث يريد الناس عائدًا على استثماراتهم. وهذا يختلف تمامًا عن عرض الروبوتات أو تقنيات الروبوت في المختبر.

يوجد في المختبر كتيبة من طلاب الدراسات العليا الذين يتوقون إلى عرض أحدث أفكارهم، والتي عملوا عليها بجهد كبير، لإظهار مدى معقوليتها. ينصب اهتمامهم على إظهار أن التقنية أو التكنولوجيا التي طوروها معقولة وواعدة. وسوف يبذلون كل ما في وسعهم لرعاية الروبوت خلال العرض التوضيحي لتوضيح هذه النقطة، وسوف يشرحون بفارغ الصبر كل شيء حول ما قاموا بتطويره وما يمكن أن يأتي بعد ذلك.

في العالم الحقيقي لا يوجد سوى العميل أو الموظف أو قريب العميل. يجب أن يعمل الروبوت دون أي تدخل خارجي من الأشخاص الذين صمموه وبنوه. يجب أن تكون تجربة جيدة للأشخاص المحيطين بها وإلا فلن يكون هناك المزيد من المبيعات لهؤلاء العملاء، وربما الآخرين.

لذا فإن هذه القوانين لا تتعلق بما يمكن أو يمكن القيام به. إنها تدور حول روبوتات حقيقية منتشرة في العالم الحقيقي. القوانين لا تتعلق بالمظاهرات البحثية. إنها تدور حول الروبوتات في الحياة اليومية.

الوعد الذي قدمه المظهر

أنتجت شركاتي المختلفة جميع أنواع الروبوتات وباعتها على نطاق واسع. يتم التفكير كثيرًا في المظهر المرئي للروبوت عند تصميمه، حيث يخبر المشتري أو المستخدم بما يمكن توقعه منه.

تم تصميم iRobot Roomba بعناية لدمج المظهر مع الوظيفة.iStock

يبدو جهاز Roomba، من شركة iRobot، وكأنه قرص مسطح. يقوم بتنظيف الأرضيات. كان شكل القرص بحيث يمكن أن يدور في مكانه دون أن يصطدم بأي شيء لم يصطدم به بالفعل. كان المظهر الجانبي المنخفض للقرص حتى يتمكن من الوصول إلى أسفل إصبع القدم في المطابخ وتنظيف الأرضية المعلقة قليلاً بخزائن المطبخ. لا يبدو أنه يستطيع صعود ونزول السلالم أو حتى خطوة واحدة لأعلى أو النزول في المنزل ولا يستطيع ذلك. لها مقبض، مما يجعلها تبدو وكأنها يمكن أن يلتقطها شخص ما، ويمكن أن تكون كذلك. على عكس الروبوت روزي الخيالي، لا يبدو أنه يستطيع تنظيف النوافذ، ولا يمكنه ذلك. إنه ينظف الأرضيات، وهذا كل شيء.

بدا Packbot، وهو الروبوت العسكري الذي يمكن تشغيله عن بعد، والذي تم إنتاجه أيضًا من iRobot، مختلفًا تمامًا بالفعل. تحتوي على عجلات مجنزرة، مثل دبابة مصغرة، وهذا المظهر يعد أي شخص ينظر إليها بأنها قادرة على السير على أرض وعرة، ولن يتم إيقافها بواسطة درجات أو صخور أو قطرات في التضاريس. عندما وقعت كارثة فوكوشيما، في عام 2011، تمكنت Packbots من العمل في مباني المفاعل التي حطمها ودمرها التسونامي، وفتح مقابض الأبواب تحت جهاز التحكم عن بعد، وصعود السلالم المغطاة بالركام وتوجيه كاميراتها إلى الضغط التناظري و مقاييس درجة الحرارة حتى يتمكن العمال الذين يحاولون تأمين المحطة النووية بأمان من الحصول على بعض البيانات حول ما كان يحدث في المناطق شديدة الإشعاع بالمحطة.

يلتقط iRobot PackBot كائنًا تجريبيًا في مفرزة إصلاح الروبوتات المشتركة في مجمع قاعدة النصر في بغداد.العلمي

الهدف من هذا القانون الأول للروبوتات هو التحذير من جعل الروبوت يظهر أكثر مما هو عليه في الواقع. ربما سيؤدي ذلك إلى الحصول على تمويل لشركتك، مما يدفع المستثمرين إلى الاعتقاد بأنه بمرور الوقت سيكون الروبوت قادرًا على القيام بكل الأشياء التي يوحي مظهره الجسدي بأنه قد يكون قادرًا على القيام بها. لكنها ستخيب آمال العملاء عندما لا تتمكن من القيام بأنواع الأشياء التي يبدو أن شيئًا بهذا المظهر الجسدي يمكنه القيام بها. إن إضفاء لمسة جمالية على الروبوت يخاطر بالمبالغة في تقدير ما يمكن للروبوت كمنتج أن يفعله بالفعل. وهذا يخاطر بإحباط العملاء. والعملاء المحبطون لن يكونوا مدافعين عن منتجك/روبوتك، ولن يكونوا مشترين متكررين.

الحفاظ على وكالة الشعب

إن أسوأ ما في قبول الناس لما يمكن أن يفعله الروبوت في مكان العمل هو جعل وظائفهم أو حياتهم أكثر صعوبة، من خلال عدم السماح لهم بالقيام بما يتعين عليهم القيام به.

تهدف الروبوتات التي تعمل في المستشفيات، حيث تقوم بنقل الملاءات أو الأطباق القذرة من أرضية المريض إلى المكان الذي سيتم تنظيفه فيه، إلى تسهيل حياة الممرضات. ولكن في كثير من الأحيان يفعلون العكس تماما. إذا لم تكن الروبوتات على علم بما يحدث ولم تبتعد عن الطريق عندما تكون هناك حالة طوارئ، فمن المحتمل أن ينتهي بهم الأمر إلى عرقلة بعض الأعمال المنقذة للحياة التي تقوم بها الممرضات – على سبيل المثال، دفع نقالة عليها مريض مصاب بمرض خطير إلى حيث يحتاجون للعلاج الفوري. هذا لا يحب مثل هذا الروبوت لموظفي المستشفى. لقد تعارضت مع وظيفتهم الرئيسية، وهي الوظيفة التي يفتخر بها الموظفون، وما الذي يدفعهم للقيام بمثل هذا العمل.

هناك سلوك أقل خطورة، ولكنه لا يزال غير مقبول للروبوتات في المستشفيات، وهو جعلها تنتظر أمام أبواب المصاعد، والمركزية، وحواجز أمام الناس. فهو يجعل من الصعب على الأشخاص القيام ببعض الأشياء التي يتعين عليهم القيام بها طوال الوقت في تلك البيئة، مثل الدخول والخروج من المصاعد.

أولئك منا الذين يعيشون في سان فرانسيسكو أو أوستن، تكساس، لديهم مشاهدات مباشرة للروبوتات التي تزعج الناس يوميًا خلال السنوات القليلة الماضية. كانت الروبوتات المعنية عبارة عن مركبات ذاتية القيادة، تتجول في جميع أنحاء المدينة دون أي ركاب بشريين. أرى هذه الروبوتات في كل مرة أغادر فيها منزلي، سواء سيرًا على الأقدام أو بالسيارة.

كانت بعض المركبات مشهورة بإغلاق التقاطعات، ولم يكن هناك أي شيء على الإطلاق يمكن للسائقين الآخرين أو المشاة أو الشرطة القيام به. كان علينا فقط أن ننتظر حتى يقرر بعض المشغلين البعيدين المختبئين في أعماق الشركة التي نشرتهم الاهتمام بالمركبة العالقة وإبعادها عن طريق الناس. والأسوأ من ذلك، أنهم كانوا يتجولون في مكان الحريق حيث توجد سيارات الإطفاء ورجال الإطفاء والمباني الفعلية المشتعلة، ويشعرون بالارتباك ويتوقفون، في وقت ما فوق خراطيم إطفاء الحرائق.

ولم يكن هناك وسيلة أمام رجال الإطفاء لتحريك المركبات أو التواصل معها. وهذا على النقيض من السيارة التي يقودها سائق بشري. يمكن لرجال الإطفاء استخدام تفاعلاتهم الاجتماعية العادية للتواصل مع السائق، واستخدام موقعهم المتميز في المجتمع كمستجيبين في الخطوط الأمامية لممارسة الضغط الاجتماعي على السائق البشري للتعاون معهم. ليس الأمر كذلك مع المركبات ذاتية القيادة.

لقد استحوذت المركبات ذاتية القيادة على الوكالة من الأشخاص الذين يمارسون أعمالهم المعتادة في الشوارع، ولكن الأسوأ من ذلك أنها أخذت الوكالة من رجال الإطفاء الذين يتمثل دورهم في حماية البشر الآخرين. إن الروبوتات المنتشرة التي لا تحترم الأشخاص وما يتعين عليهم القيام به لن تحظى باحترام الناس وسينتهي الأمر بالروبوتات غير منتشرة.

روبوتات قوية تعمل في كل مرة

إن صنع الروبوتات التي تعمل بشكل موثوق في العالم الحقيقي أمر صعب. في الواقع، إن صنع أي شيء يعمل فعليًا في العالم الحقيقي، ويمكن الاعتماد عليه، هو أمر صعب للغاية.

لكي يكون العميل سعيدًا بالروبوت، يجب أن يبدو أنه يعمل في كل مرة يحاول فيها القيام بمهمة ما، وإلا فسيؤدي ذلك إلى إحباط المستخدم لدرجة أنه سيتساءل عما إذا كان الروبوت يجعل حياته أفضل أم لا.

ولكن ماذا يفعل يظهر يعني هنا؟ هذا يعني أنه يمكن للمستخدم أن يفترض أن الأمر سينجح، باعتباره فهمه الافتراضي لما سيحدث في العالم.

الجزء الصعب هو أن الروبوتات تتفاعل مع العالم المادي الحقيقي.

تتفاعل البرامج مع آلة مجردة مفهومة جيدًا، لذا فهي تميل إلى عدم الفشل بطريقة لا يتم فيها تنفيذ التعليمات الموجودة فيها بطريقة متسقة بواسطة الأجهزة التي تعمل عليها. قد تتفاعل هذه البرامج نفسها أيضًا مع العالم المادي، سواء كان إنسانًا أو اتصالاً بالشبكة أو جهاز إدخال مثل الماوس. عندها قد تفشل البرامج لأن التعليمات الموجودة فيها مبنية على افتراضات في العالم الحقيقي لم يتم الوفاء بها.

تخضع الروبوتات للقوى في العالم الحقيقي، وتخضع للموقع الدقيق للأشياء بالنسبة لها، وتخضع للتفاعل مع البشر الذين يختلفون كثيرًا في سلوكهم. لا توجد فرق من طلاب الدراسات العليا أو المهندسين المبتدئين المتحمسين لإنجاح الروبوت في المحاولة رقم 8354 للقيام بنفس الشيء الذي نجح مرات عديدة من قبل. إن الحصول على برنامج يتكيف بشكل مناسب مع التغيرات غير المؤكدة في العالم في تلك الحالة المحددة وفي تلك اللحظة المحددة من الزمن هو حيث ينشأ التحدي الحقيقي في مجال الروبوتات.

إن مقاطع الفيديو ذات المظهر الرائع ليست هي نفس الأشياء التي تعمل لصالح العميل في كل مرة. معظم ما نراه في الأخبار عن الروبوتات هو عروض مختبرية. لا توجد بيانات حول مدى عمومية الحل، ولا عدد المرات التي استغرقها الحصول على الفيديو المعروض. والأسوأ من ذلك أنه في بعض الأحيان يتم تشغيل مقاطع الفيديو عن بعد أو تسريعها عدة مرات.

نادرًا ما رأيت تقنية جديدة لم يمر عليها أكثر من عشر سنوات من العرض التجريبي في المختبر وقد تحولت إلى روبوت منتشر. ويستغرق الأمر بعض الوقت لمعرفة مدى نجاح هذه الطريقة، وتوصيفها بشكل جيد بما فيه الكفاية بحيث من غير المرجح أن تفشل في الروبوت المنتشر الذي يعمل من تلقاء نفسه في العالم الحقيقي. وحتى في هذه الحالة، ستكون هناك حالات فشل، وسيستغرق الأمر سنوات عديدة أخرى من التخلص من مناطق المشكلة ودمجها في منتج الروبوت بطريقة دفاعية حتى لا يتكرر الفشل مرة أخرى.

تتطلب معظم الروبوتات أزرار إيقاف أو توقفات عليها حتى يتمكن الإنسان من إيقاف تشغيلها. إذا شعر العميل بالحاجة إلى الضغط على هذا الزر، فهذا يعني أن الأشخاص الذين قاموا ببناء الروبوت وبيعه قد فشلوا. إنهم لم يجعلوه يعمل بشكل جيد بما فيه الكفاية بحيث لا يصل الروبوت أبدًا إلى حالة تسير فيها الأمور بشكل خاطئ.