ChatGpt يصنع Deepfakes ولا يهتم Sam Altman

لم أكن أتوقع أن يتحول منتج ChatGpt في أواخر شهر مارس ، لكننا هنا. أذهل Openai العالم بإصدار GPT-4O Image Generation ، وهو نموذج جديد من الذكاء الاصطناعي تم إنشاؤه مباشرة في ChatGPT ، مما يمنح المستخدمين ميزات توليد الصور المتقدمة بشكل لا يصدق.

أرسل موجهًا مفصلاً إلى الذكاء الاصطناعى ، وسوف ترسم ChatGpt على الفور صورة مدفوعة بالذهول بناءً على تعليماتك. يمكن أن تحتوي الصور على نص مقروء ، وهو الأول لتوليد صور ChatGpt ، وهو أمر مثير للإعجاب. أيضًا ، يمكن لأداة توليد صور AI استخدام صور حقيقية لتحريرها كما تريد.

تكمن المشكلة في أن أداة توليد الصور الجديدة التي قام بها Openai متوفرة للمستخدمين الممتازين بدون درابزين أمان قوي. غمرت الويب على الفور مع Deepfakes من ChatGPT التي تتميز بمشاهير وطن من رسومات AI المستوحاة من استوديو Ghibli.

لا تضع ChatGPT علامة مائية على إبداعاتها لإبلاغ المشاهدين بأنهم صور تم إنشاؤها من الذكاء الاصطناعي. البيانات الوصفية ليست ميزة أمان جيدة بما فيه الكفاية ، وليس عندما يمكن لأي شخص إنشاء هذه مزيج. قد يزيل الجوزاء العلامات المائية من إبداعات حقوق الطبع والنشر ولكن على الأقل يضع علامة مائية خاصة به على النتائج.

ما هو أسوأ من ذلك هو استجابة سام ألتمان الصماء لكل هذا. يحتضن الرئيس التنفيذي لشركة Openai كل الثناء الذي حصلت عليه ThatGpt AI ، وهو أمر يستحق بالتأكيد ، دون الالتزام فعليًا بمكافآت أفضل.

إليكم الرسالة التي نشرها Altman على X بعد فترة وجيزة من إصدار 4O Generation:

> كن أنا
> طحن لمدة عقد من الزمان في محاولة للمساعدة
أو أيا كان
في الغالب لا يهتم أحد لمدة 7.5 سنة الأولى ، ثم لمدة 2.5 سنة الجميع
يكره
أنت لكل شيء
> استيقظ في يوم من الأيام لمئات الرسائل: “انظر إلى أنني جعلتك في Twink
أسلوب غبيلي هاها “

رافقت الرسالة تغيير صورة الملف الشخصي لملف Altman’s X ، كما هو موضح في الصورة التالية. استبدل Altman صورته بنسخة Ghibli-style التي تم إنشاؤها من ChatGpt.

كل شيء ممتع وألعاب الآن لأننا لم نرى بعد سوء معاملة حقيقية. لكن لا يخطئون ، فسيقوم الناس بإساءة استخدام الأداة لإنشاء أعماق يمكن أن تخدع الأشخاص المطمئنين ، وخاصة الأشخاص الأقل ذكاءً للتكنولوجيا وتلك الموجودة في البلدان التي قد لا يتم فيها استخدام الذكاء الاصطناعى على نطاق واسع.

ليس مجرد ChatGpt الذي يعاني من قضية السلامة هذه. لدى Google أدوات توليد الصور المتقدمة الخاصة بها للجرميني يمكن استخدامها أيضًا لإنشاء مزيج بسهولة.

لكن Openai اختار عمدا عدم فرض قواعد أكثر صرامة. في إعلانها الأولي ، لدى Openai فصلًا عن السلامة يعالج أنواعًا معينة من الإساءة ، وهذا أمر يستحق الثناء. تأتي صور الذكاء الاصطناعى مع بيانات التعريف C2PA التي تحدد الصور على أنها تم إنشاؤها مع الذكاء الاصطناعي ، ولكن كل ما عليك فعله هو أخذ لقطة شاشة لتلك الصورة ، وستزيل تلك البيانات.

التقط الصورة العليا في هذا المنشور أعلاه ؛ إنها لقطة شاشة لصورة Ghibli-style التي تم إنشاؤها بواسطة chatgpt.

اجعلني صورة استوديو Ghibli-style بناءً على ما تحدثنا للتو. أريدها في 16:10 نسبة العرض إلى الارتفاع ، لديك حرية في تخيلني ونفسك

أيضًا ، يمنع ChatGPT طلبات محددة ، “مثل مواد الاعتداء الجنسي على الأطفال والعرق الجنسي”. قال Openai أيضًا ، “عندما تكون صور أناس حقيقيين في سياق ، لدينا قيود متزايدة بشأن نوع الصور التي يمكن إنشاؤها ، مع ضمانات قوية بشكل خاص حول العُري والعنف الجرافيكي.” ولكن هذا لا يغير حقيقة أن أي مستخدم chatgpt يمكنه الآن إنشاء DeepFakes يمكن إساءة استخدامه. ليس عليهم أن يكونوا جنسيين ليكونوا خطرين.

يمكن أن يفعل Openai المزيد هنا ، لكنه يختار عدم القيام بذلك على الرغم من معرفة تمامًا أن بعض الصور القادمة من ChatGpt ستبدو مثل الصور الحقيقية. إليك ما قاله Altman على X بعد إصدار الأداة:

نحن نطلق شيئًا جديدًا اليوم – يلمس في ChatGPT!

شيئان لقوله عن ذلك:

1. إنها تقنية/منتج لا تصدق. أتذكر أنني رأيت بعض الصور الأولى تخرج من هذا النموذج وتواجه وقتًا عصيبًا من قبل الذكاء الاصطناعي. نعتقد أن الناس سيحبونه ، ونحن متحمسون لرؤية الإبداع الناتج.

تهانينا للباحثين لدينا gabeegooh@prafdharajabri leiza_luth @kenjihata @dmed256

2. هذا يمثل علامة جديدة عالية للمياه بالنسبة لنا في السماح بالحرية الإبداعية. سيقوم الناس بإنشاء بعض الأشياء المذهلة حقًا وبعض الأشياء التي قد تسيء إلى الناس ؛ ما نود أن نهدف إليه هو أن الأداة لا تخلق أشياء مسيئة إلا إذا كنت تريدها ، وفي هذه الحالة في حدود ذلك. كما نتحدث في مواصفاتنا النموذجية ، نعتقد أن وضع هذه الحرية والسيطرة الفكرية في أيدي المستخدمين هو الشيء الصحيح الذي يجب القيام به ، لكننا سنلاحظ كيف تسير الأمور والاستماع إلى المجتمع. نعتقد أن احترام مجتمع الحدود الواسعة للغاية سيختار في النهاية تعيين منظمة العفو الدولية هو الشيء الصحيح الذي يجب القيام به ، وأهمية متزايدة مع اقترابنا من AGI. شكرا مقدما على الفهم ونحن نعمل من خلال هذا.

هناك أيضًا الفيل الواضح في الغرفة التي لا يعالجها Altman. لقد جعلت صلاحيات توليد الصور في ChatGPT مصممي الجرافيك قديمًا. أو بالقرب منه. كان هذا دائمًا ما يحدث ، لكن يجب على شركات الذكاء الاصطناعى مثل Openai على الأقل أن تتظاهر بأنها تهتم بتأثير منتجاتها على الوظائف والحياة كما نعرفها.

العودة إلى جميع صور gibli-in the ChatGpt التي أراها على وسائل التواصل الاجتماعي ، سألاحظ أيضًا تجاهل Openai لحقوق الطبع والنشر هنا. لن ترسم ChatGPT أحرفًا تنتمي إلى Studio Ghibli ، بالتأكيد ، لكنها ستقوم بنسخ النمط وتكييفه مع أي شيء تريده.

لا عجب أن رد فعل هاياو ميازاكي على استخدام الذكاء الاصطناعي للرسوم المتحركة قد عاد إلى الظهور عبر الإنترنت هذا الأسبوع. قال مؤسس الاستوديو Ghibli إن الرسوم المتحركة التي تم إنشاؤها من الذكاء الاصطناعى كانت “إهانة في الحياة نفسها” عندما تم تقديمها بأداة داخلية تعمل بذو الأطلسي قبل بضع سنوات يمكن أن تخلق رسومات بأسلوب Ghibli. أنا متأكد من أنه ليس سعيدًا جدًا برؤية ChatGpt ينسخ أسلوب شركته بسهولة.

هذا لا يعني أنه لا يمكن استخدام الذكاء الاصطناعي لأغراض إبداعية أو أن تقنية توليد الصور الجديدة من ChatGPT ليست مثيرة للإعجاب ، لأنها كذلك.

أيضًا ، في دفاع Chatgpt ، رأيت حماية السلامة في اختباراتي ، بما في ذلك تلك المتعلقة بحقوق الطبع والنشر. لكن هذا لا يغير حقيقة أن Openai يجعل من السهل للغاية على أي شخص استخدام DeepFakes التي تبدو لا يمكن تمييزها تقريبًا عن الصور الحقيقية ، ولا يبدو أن الرئيس التنفيذي للشركة يهتم.