موقع الصالح : آبل تتعاون مع Nvidia لتحسين سرعة أداء نماذج الذكاء الاصطناعى الخاصة بها

تتعاون آبل مع Nvidia، لتحسين سرعة أداء نماذج الذكاء الاصطناعي الخاصة بها (AI)، فقد أعلنت الشركة أنها كانت تبحث فى تسريع الاستدلال على منصة Nvidia لمعرفة ما إذا كان من الممكن تحسين كل من كفاءة وزمن وصول نموذج اللغة الكبير (LLM) فى وقت واحد.

واستخدمت شركة آبل، تقنية تسمى Recurrent Drafter (ReDrafter) والتى تم دمجها مع إطار عمل تسريع الاستدلال Nvidia TensorRT-LLM،

وشرح باحثو آبل، بالتفصيل التعاون الجديد مع Nvidia لتحسين أداء LLM والنتائج التى تم تحقيقها منه.

وسلطت الشركة الضوء على أنها كانت تبحث فى مشكلة تحسين كفاءة الاستدلال مع الحفاظ على زمن الوصول فى نماذج الذكاء الاصطناعى، ويشير الاستدلال في التعلم الآلي إلى عملية إجراء التنبؤات أو القرارات أو الاستنتاجات بناءً على مجموعة معينة من البيانات أو المدخلات أثناء استخدام نموذج مدرب.

وتقوم هذه الخطوة المعالجة فى نموذج الذكاء الاصطناعى، على فك تشفير المطالبات وتحويل البيانات الخام إلى معلومات معالجة غير مرئية
فى وقت سابق من هذا العام.

ونشرت شركة آبل تقنية ReDrafter وجعلتها مفتوحة المصدر، مما جلب نهجًا جديدًا لفك تشفير البيانات المضاربى، باستخدام نموذج مسودة الشبكة العصبية المتكررة (RNN)، فإنه يجمع بين البحث الشعاعى (آلية حيث يستكشف الذكاء الاصطناعى احتمالات متعددة للحل) والاهتمام الشجرى الديناميكى (يتم معالجة بيانات بنية الشجرة باستخدام آلية الاهتمام).

وذكر الباحثون أنه يمكن تسريع إنشاء رمز LLM بما يصل إلى 3.5 رمز لكل جيل.