لقد تأخرت chatgpt ميزة لا ينبغي السماح للأشخاص باستخدامها على أي حال

نمت Chatgpt كثيرًا في السنوات القليلة الماضية ، حيث أطلق Openai العديد من الميزات المثيرة على طول الطريق. يمكن لـ ChatGPT الآن سببًا لتقديم المزيد من الإجابات المتعمقة على الأسئلة ، وتنتج تقارير بحثية عميقة مفصلة حول أي موضوع تم اختياره. من المثير للإعجاب أيضًا قدرة chatbot على إنشاء الصور وتحرير الصور. ثم هناك مشغل ، وكيل منظمة العفو الدولية يتيح لك chatgpt تصفح الويب لك. علاوة على ذلك ، أصدرت Openai نماذج مختلفة ، بما في ذلك أوضاع المعاينة ، وقام بزيادة تحسين نموذج ChatGPT الافتراضي الذي يستخدمه معظم الناس.

ولكن هناك أداة واحدة من الذكاء الاصطناعى لم تتم إحضارها إلى ChatGpt أو تم إصدارها كبرنامج منفصل AI ، على الرغم من الإعلان عنه قبل أكثر من عام. يسمى Voice Engine ، وهو جزء من برنامج AI يمكنه استنساخ صوت بعد الاستماع إلى عينة صوتية واحدة مدتها 15 ثانية.

وغني عن القول ، هذه ميزة مخيفة بشكل لا يصدق لإصدارها في البرية. لقد حذرتك من مدى خطورة ذلك في اللحظة التي أعلن فيها Openai في أواخر مارس 2024.

استنساخ الصوت لديه سوء المعاملة مكتوبة في كل مكان. أنا لا أشير فقط إلى الممثلين الخبيثين الذين يقومون بإنشاء ملفات صوتية مزيفة من خلال استنساخ أصوات السياسيين والمشاهير ، أو المتسللين الذين يحاولون خداعك. أنا أفكر أيضًا في جو العادي الذي قد يعتقد أنه من الممتع استنساخ صوت صديق وجعلهم يقولون الله يعرف ماذا.

بعد أكثر من عام ، لا تزال أداة الاستنساخ الصوتي من Openai غير متوفرة على نطاق واسع في ChatGPT أو كتطبيق مستقل. لا يمكن الوصول إلى قائمة قصيرة من الشركاء ، ولا يوجد أي إخبار متى ستصدرها Openai في البرية.

آمل أن يحدث ذلك في مستقبل بعيد ، حيث يكون الجمهور الأكبر هو ذكاء الذكاء الاصطناعى بما يكفي لإخبار الصوت المستنسخ من صوت حقيقي ، أو Openai وغيرها من شركات الذكاء الاصطناعي يطور التكنولوجيا التي تسمي بوضوح أصواتًا مستنسخة على أنها تم إنشاؤها من الذكاء الاصطناعي.

أنا لا أقول أنه لا توجد استخدامات مشروعة لأدوات التخلص من الصوت التي تعمل بالنيابة. يمكنك استخدام هذه الأداة لدبابة الأفلام والبرامج التلفزيونية بلغات أخرى مع الحفاظ على صوت الممثل الأصلي. هذا استخدام مقنع للصوت الناتج عن الذكاء الاصطناعى.

يمكن للأشخاص الذين يعانون من عوائق الكلام أو أولئك الذين يفقدون أصواتهم بسبب الحالات الطبية استخدام أداة ChatGPT للتحدث إلى الآخرين.

وبالمثل ، فإن القدرة على ترجمة اللغة المنطوقة في الوقت الفعلي مع الحفاظ على صوت ونبرة المتحدث قد تكون مفيدة بشكل لا يصدق في المواقف التي لا تتوفر فيها أدوات الترجمة الأخرى أو فعالة.

لكن الأشخاص العاديين الذين يحصلون على إمكانية الوصول إلى محرك الصوت في ChatGPT أو في أي مكان آخر سوف يسيئون استخدامه بالتأكيد. انظر فقط إلى ما حدث مع جميع صور DeepFake ChatGpt التي تم إنشاؤها بعد إصدار أداة توليد الصور 4O. وتذكر أن Openai استخدمت سياسات السلامة Laxer عند إصدار هذه الأداة.

إن وجود محرك صوتي في البرية ، مع وجود سياسات أمان سهلة بالمثل ، سيجعل من السهل على الجهات الفاعلة الخبيثة إساءة استخدامها لأغراض شائنة.

لحسن الحظ ، لا يبدو أن Openai يخطط لإطلاق محرك الصوت على نطاق واسع في أي وقت قريب. أخبرت شركة الذكاء الاصطناعى TechCrunch أنها تواصل اختبار الميزة مع مجموعة محدودة من الشركاء الموثوق بهم:

[We’re] التعلم من كيف [our partners are] باستخدام التكنولوجيا حتى نتمكن من تحسين فائدة النموذج وسلامته. لقد كنا متحمسين لرؤية الطرق المختلفة التي يتم استخدامها ، من علاج الكلام ، إلى تعلم اللغة ، إلى دعم العملاء ، إلى شخصيات ألعاب الفيديو ، إلى AI Avatars.

TechCrunch تشير إلى أن Openai أراد إصدار Extry الصوتية إلى واجهة برمجة التطبيقات الخاصة به في 7 مارس 2024 ، كأصوات مخصصة. كانت الخطة الأصلية هي تكليف 100 مطور مع هذه الميزة ، طالما أنهم كانوا يقومون ببناء تطبيقات توفر “فائدة اجتماعية” ، أو أظهروا استخدامات “مبتكرة ومسؤولة” للتكنولوجيا. Openai حتى العلامة التجارية ووضع أسعار لذلك.

لكن محرك الصوت لم يصبح متاحًا أبدًا. بدلاً من ذلك ، قام Openai بتأجيل الإطلاق ومنح Voice Engine إعلانًا علنيًا في وقت لاحق من ذلك الشهر ، دون افتتاح عمليات تسجيل.

أعتقد أن ذلك كان وما زال هو الخطوة الأفضل. مرة أخرى ، فإن النجاح الهائل لقوى توليد الصور الجديدة من ChatGPT هو دليل على أن الناس سوف يسيئون استخدام تقنية الذكاء الاصطناعي سهلة الاستخدام.

Openai ليس هو مختبر الذكاء الاصطناعي الوحيد الذي يقوم بإنشاء أدوات التخلص من الصوت. لقد رأينا بالفعل Deepfakes تتضمن أدوات الذكاء الاصطناعي التي تتيح للناس استنساخ أصوات المشاهير لأغراض ضارة. لقد سمعنا أيضًا عن عمليات الاحتيال باستخدام المكالمات الهاتفية التي استنساخ فيها المتسللين أصوات الأشخاص الآخرين ، بما في ذلك أحبائهم.

كل ما حدث دون أن يوفر chatgpt للمستخدمين وضع محرك صوت لاستنساخ الأصوات. لكن بعد إصدار مثل هذه الأداة قد يجعل من السهل على الممثلين الخبيثين استخدامها لجميع أنواع المخططات.

سيكون أيضًا بأسعار معقولة بشكل لا يصدق ، على افتراض أسعار العام الماضي TechCrunch تم الإبلاغ عن البقاء في مكانه. أراد Openai فرض 15 دولارًا لكل مليون رموز للأصوات القياسية و 30 دولارًا لكل مليون رموز للأصوات ذات الجودة عالية الدقة. هذا رخيص للغاية ، خاصة إذا كنت ترغب في استخدام التقنية لمعالجة الأشخاص الذين يعانون من DeepFakes أو تشغيل هجمات أكثر تطوراً تتضمن أصواتًا مستنسخة.

لحسن الحظ ، كان Openai على دراية بإمكانية إساءة استخدام Engine للمحرك ، ويدعو تلك المخاطر في منشور مدونة العام الماضي. هذا على الأرجح يفسر التأخير المستمر. ربما أراد Openai تجنب الجدل في سنة الانتخابات ، وهذا قد يكون السبب في أن Engine لم يتم إطلاقه العام الماضي. لكن الانتخابات سوف تستمر في القدوم.

كما أشارت التقارير إلى أن استنساخ صوت الذكاء الاصطناعي كان ثالث أسرع عملية احتيال نمواً لعام 2024. هذا سبب أكبر للحفاظ على محرك الصوت من أيدي معظم الناس.