يمكن للدردشة الصوتية TerifAI استنساخ صوتك أثناء التحدث إليك
أصبحت منتجات الذكاء الاصطناعي التوليدية جيدة جدًا لدرجة أنها تستطيع استنساخ صوتك ببضع عينات فقط. لقد أنتجت شركة OpenAI بالفعل مثل هذه الأداة، واعتقدت على الفور أن استنساخ الصوت قد يكون أخطر ما ينتج عن تطوير تطبيقات genAI. من المؤكد أن القدرة على استنساخ الأصوات يمكن أن تكون مفيدة في مجموعة متنوعة من المواقف التي لها هدف نبيل في القلب. لكن استنساخ الصوت يمكن إساءة استخدامه، وسوف يتم إساءة استخدامه. ربما هذا هو السبب وراء عدم قيام OpenAI بإطلاقه في البرية.
يقودنا هذا إلى TerifAI، وهو برنامج دردشة آلي قائم على الصوت منخفض زمن الاستجابة، والذي يسرق صوتك ويستنسخه مباشرة من المتصفح أثناء الدردشة معك حول كل ما قد يدور في ذهنك.
إن ابتكار الذكاء الاصطناعي مذهل للغاية، ولكن كما هو الحال مع حل استنساخ الصوت من OpenAI، فهو أيضًا مخيف بشكل لا يصدق. الأمر الأكثر إثارة للقلق هو أن الأمر لا يستغرق سوى بضع دقائق من الدردشة لاستنساخ صوتك. ويحدث ذلك دون سابق إنذار مناسب.
ولكن هذا هو بيت القصيد من TerifAI. من المفترض أن تكون تعليمية.
لقد قمت باختبار TerifAI لفترة وجيزة، ولكن ليس لفترة كافية لاستنساخ صوتي. كل ما عليك فعله هو منح أذونات الوصول إلى الميكروفون في متصفحك، وتحميل برنامج الدردشة الآلي، وبدء التحدث.
منذ البداية، أذهلتني سرعة الاستجابة المذهلة. يتفاخر الموقع بأن TerifAI هو أسرع برنامج دردشة آلي في العالم، وأنا أميل إلى تصديق ذلك. يتحدث روبوت الدردشة مثل الإنسان؛ كل شيء يحدث في الوقت الحقيقي. لا يوجد أي تأخير في معالجة البيانات الصوتية. كل ما عليك هو التحدث عما يدور في ذهنك، وسوف يقوم برنامج الدردشة الآلي بالرد عليك. سترى أيضًا زمن الوصول على الشاشة أثناء التحدث إليه.
يمتلك برنامج chatbot صوتًا افتراضيًا مثبتًا مسبقًا ولا يمكنك تغييره، ويمكنه تغطية موضوعات مختلفة، على الرغم من أن هذا ليس ChatGPT. في هذا الصدد، ليس من الواضح ما هي نماذج الذكاء الاصطناعي التي تستخدمها TerifAI.
سوف يقوم برنامج الدردشة الآلي بطرح أسئلة حول هواياتك والأشياء التي تحبها. سوف يكتشف بسرعة متى توقفت عن التحدث والرد. يمكنك مقاطعتها والرد عليها، تمامًا كما تفعل في محادثة عادية مع شخص آخر.
لم أصل إلى النقطة التي قام فيها برنامج الدردشة الآلي باستنساخ صوتي، لكنني رأيت العرض التوضيحي لأمان إبراهيم، وقد أرعبني ذلك. بمجرد أن يقوم برنامج الدردشة الآلي باستنساخ صوتك، فإنه سيتحدث إليك بصوتك ولهجتك.
ولحسن الحظ، يقول مطور TerifAI إن هذه العروض التوضيحية تهدف إلى رفع مستوى الوعي حول مخاطر التصيد الصوتي في عصر genAI. TerifAI ليس منتجًا تجاريًا في الوقت الحالي، لذا لا يمكنك إساءة استخدامه لإنشاء انتحالات لأشخاص مشهورين أو سياسيين.
ولكن مرة أخرى، ينطوي هذا النوع من التكنولوجيا على آثار هائلة، وخاصة إذا أسيء استخدامها في البرية. يمكن لأي شخص لديه الأدوات المناسبة إنشاء منتجات مماثلة يمكن استخدامها لاستنساخ الأصوات.
هذا عرض توضيحي يهدف إلى صدمتك، لذلك لن يطلب إذنك لاستنساخ صوتك. هذا مفهوم. لكنني وجدت أنه من المثير للقلق عدم وجود تحذيرات بأن برنامج الدردشة الآلي قد قام للتو باستنساخ صوتك في غضون دقائق من استخدامه. بعد حدوث الاستنساخ تدرك ما يحدث. يجب أن تحصل على نوع من الإشعار. ربما لم يتم استنساخ صوتي، لكن لا يوجد مؤشر مرئي في العرض التوضيحي لإبراهيم للإشارة إلى حدوث استنساخ صوتي.
ومن غير الواضح أيضًا ما يحدث لبياناتي وما هي إجراءات حماية الخصوصية التي يمكنني توقعها من TerifAI.
يتمتع موقع الويب بأكمله بتصميم بسيط، حيث يهيمن الوجه المبتسم لبرنامج الدردشة الآلية على التجربة. أفهم أن الهدف من كل ذلك هو عرض قدرات Pipecat، وهو إطار عمل مفتوح المصدر لبناء عملاء ذكاء اصطناعي يعتمدون على الصوت ويمكنهم استنساخ صوتك وزيادة الوعي حول إساءة الاستخدام المحتملة. لكن TerifAI هو نوع من منتجات الذكاء الاصطناعي التي يمكن أن تنتشر بسرعة. سيحاول الكثير من الأشخاص ذلك دون معرفة ما يحدث للعينات الصوتية التي يجمعها برنامج الدردشة الآلي.
ستجد المزيد من التفاصيل حول TerifAI على GitHub.
