يتحسن الذكاء الاصطناعي في Apple بفضل الشراكة مع NVIDIA
شاركت Apple وNVIDIA تفاصيل التعاون لتحسين أداء LLMs باستخدام تقنية إنشاء نص جديدة للذكاء الاصطناعي. يكتب كوبرتينو:
يعد تسريع استدلال LLM مشكلة بحثية مهمة في تعلم الآلة، نظرًا لأن إنشاء الرموز المميزة ذات الانحدار التلقائي باهظ التكلفة من الناحية الحسابية وبطيء نسبيًا، كما أن تحسين كفاءة الاستدلال يمكن أن يقلل من زمن الوصول للمستخدمين. بالإضافة إلى الجهود المستمرة لتسريع الاستدلال على Apple silicon، فقد حققنا مؤخرًا تقدمًا كبيرًا في تسريع الاستدلال LLM لوحدات معالجة الرسومات NVIDIA المستخدمة على نطاق واسع لتطبيقات الإنتاج عبر الصناعة.
في وقت سابق من هذا العام، نشرت شركة Apple برنامج Recurrent Drafter (ReDrafter) مفتوح المصدر، وهو أسلوب جديد لفك التشفير التخميني الذي “يحقق أداءً متطورًا”. وفقًا للشركة، يستخدم ReDrafter نموذج مسودة RNN، ويجمع بين بحث الشعاع والاهتمام بالشجرة الديناميكية لتسريع إنشاء رمز LLM المميز بما يصل إلى 3.5 رمز مميز لكل خطوة توليد للنماذج مفتوحة المصدر، متجاوزًا أداء تقنيات فك التشفير التخمينية السابقة.
تظهر أوراق Apple: “عند قياس نموذج إنتاج المعلمات بعشرات المليارات على وحدات معالجة الرسومات NVIDIA، باستخدام إطار تسريع الاستدلال NVIDIA TensorRT-LLM مع ReDrafter، شهدنا تسريعًا بمعدل 2.7 مرة في الرموز المميزة التي تم إنشاؤها في الثانية لفك التشفير الجشع”. مع ذلك، يمكن لهذه التقنية أن تقلل بشكل كبير من زمن الوصول الذي قد يواجهه المستخدمون، مع استخدام عدد أقل من وحدات معالجة الرسومات واستهلاك طاقة أقل.
يعد هذا مفيدًا بشكل خاص حيث تواصل Apple تحسين نظام Apple Intelligence الخاص بها. ومن خلال تقديم نتائج أسرع وأكثر دقة، سيحصل المستخدمون على تجربة أفضل عند استخدام أدوات الذكاء الاصطناعي من Apple. أنهت الشركة ورقتها بالقول إن ReDrafter يمكنه تحسين التجربة مع وحدات معالجة الرسومات الخاصة بـ NVIDIA:
يتم استخدام LLMs بشكل متزايد لتشغيل تطبيقات الإنتاج، ويمكن أن يؤثر تحسين كفاءة الاستدلال على التكاليف الحسابية ويقلل زمن الوصول للمستخدمين. بفضل نهج ReDrafter الجديد لفك التشفير التخميني المدمج في إطار عمل NVIDIA TensorRT-LLM، يمكن للمطورين الآن الاستفادة من توليد الرموز بشكل أسرع على وحدات معالجة الرسومات NVIDIA لتطبيقات LLM الخاصة بالإنتاج.
إذا كنت مطورًا وترغب في استخدام أداة ReDrafter الجديدة، فيمكنك العثور على معلومات تفصيلية على موقع ويب Apple ومدونة مطوري NVIDIA.
