الذكاء الاصطناعي الواعي: المخاطر والآثار الأخلاقية

البتولا: أعتقد أن هناك ضرورة ملحة، لأنني أعتقد أن الذكاء الاصطناعي الواعي هو شيء يجب أن نخاف منه. أعتقد أننا نتجه نحو مشكلة كبيرة جدًا حيث لدينا ذكاء اصطناعي واعي بشكل غامض – وهذا يعني أن لدينا أنظمة الذكاء الاصطناعي هذه، وهؤلاء الرفاق، وهؤلاء المساعدين وبعض المستخدمين مقتنعون بأنهم واعيون ويشكلون روابط عاطفية وثيقة معهم. ولذلك فهم يعتقدون أن هذه الأنظمة يجب أن تتمتع بحقوق. ومن ثم سيكون لديك قسم آخر من المجتمع يعتقد أن هذا هراء ولا يعتقد أن هذه الأنظمة تشعر بأي شيء. ومن الممكن أن تحدث تمزقات اجتماعية كبيرة جدًا عندما تدخل هاتان المجموعتان في صراع.

لقد كتبت أنك تريد تجنب تسبب البشر في معاناة لا مبرر لها للذكاء الاصطناعي الواعي. ولكن عندما يتحدث معظم الناس عن مخاطر الذكاء الاصطناعي المتقدم، فإنهم يشعرون بقلق أكبر بشأن الضرر الذي يمكن أن يلحقه الذكاء الاصطناعي بالبشر.

البتولا: حسنًا، أنا قلق بشأن كليهما. ولكن من المهم ألا ننسى احتمال تعرض نظام الذكاء الاصطناعي نفسه للمعاناة. إذا تخيلت ذلك المستقبل الذي كنت أصفه حيث يقتنع بعض الأشخاص بأن رفاقهم من الذكاء الاصطناعي واعيون، وربما يعاملونهم بشكل جيد، ويعتقد الآخرون أنهم أدوات يمكن استخدامها وإساءة استخدامها – ثم إذا أضفت الافتراض بأن المجموعة الأولى هذا صحيح، وهذا يجعل المستقبل فظيعًا لأنه سيكون لديك أضرار فظيعة ستلحقها المجموعة الثانية.

ما هو نوع المعاناة التي تعتقد أن الذكاء الاصطناعي الواعي قادر على تحملها؟

البتولا: إذا حقق الوعي من خلال إعادة خلق العمليات التي تحقق الوعي فينا، فقد يعاني من بعض الأشياء نفسها التي يمكن أن نعاني منها، مثل الملل والتعذيب. لكن بالطبع، هناك احتمال آخر هنا، وهو أنه يحقق وعيًا بشكل غير مفهوم تمامًا، على عكس الوعي البشري، مع مجموعة مختلفة تمامًا من الاحتياجات والأولويات.

لقد قلت في البداية أننا في هذا الوضع الغريب حيث يمكن لحاملي ماجستير القانون أن يحققوا العقلانية وحتى الذات دون وعي. من وجهة نظرك، هل سيخلق ذلك ضرورة أخلاقية لمعاملتهم بشكل جيد، أم أن الوعي يجب أن يكون موجودًا؟

البتولا: وجهة نظري الشخصية هي أن الوعي له أهمية هائلة. إذا كانت لديك هذه العمليات التي تخلق إحساسًا بالذات، ولكن تلك الذات لا تشعر بأي شيء على الإطلاق – لا متعة، ولا ألم، ولا ملل، ولا إثارة، ولا شيء – فلا أعتقد شخصيًا أن هذا النظام له حقوق أو هو موضوع القلق الأخلاقي. لكن هذه وجهة نظر مثيرة للجدل. ويذهب بعض الناس في الاتجاه الآخر ويقولون إن العقل وحده قد يكون كافيا.

العودة إلى الأعلى

أنت تجادل بأن اللوائح التي تتعامل مع الذكاء الاصطناعي الواعي يجب أن تأتي قبل تطوير التكنولوجيا. هل يجب أن نعمل على هذه اللوائح الآن؟

البتولا: نحن في خطر حقيقي في لحظة تجاوزنا للتكنولوجيا، والتنظيم ليس جاهزًا بأي حال من الأحوال لما هو قادم. وعلينا أن نستعد لمستقبل الانقسام الاجتماعي الكبير بسبب ظهور الذكاء الاصطناعي الغامض. والآن هو الوقت المناسب للبدء في الاستعداد لهذا المستقبل لمحاولة إيقاف أسوأ النتائج.

ما هي أنواع اللوائح أو آليات الرقابة التي تعتقد أنها ستكون مفيدة؟

البتولا: وقد دعا البعض، مثل الفيلسوف توماس ميتسينجر، إلى وقف استخدام الذكاء الاصطناعي تماما. يبدو أنه سيكون من الصعب تحقيق ذلك بشكل لا يمكن تصوره في هذه المرحلة. ولكن هذا لا يعني أننا لا نستطيع أن نفعل أي شيء. ربما يمكن أن تكون الأبحاث على الحيوانات مصدرًا للإلهام حيث أن هناك أنظمة رقابية للبحث العلمي على الحيوانات تقول: لا يمكنك القيام بذلك بطريقة غير منظمة تمامًا. يجب أن تكون مرخصة، ويجب أن تكون على استعداد للكشف للجهة التنظيمية عما تراه من أضرار وفوائد.

العودة إلى الأعلى