نظام NVIDIA وGoogle الجديد يقلل تكاليف استدلال الذكاء الاصطناعي
تسعى NVIDIA وGoogle لتقليل تكاليف استدلال الذكاء الاصطناعي عبر بنية تحتية جديدة تدعم الأداء العالي.
في مؤتمر Google Cloud Next، قدمت شركتا Google وNVIDIA خارطة طريق للأجهزة تهدف إلى تقليل تكاليف استدلال الذكاء الاصطناعي على نطاق واسع. حيث تم الإعلان عن A5X bare-metal instances الجديدة التي تعمل على أنظمة NVIDIA Vera Rubin NVL72، والتي تهدف من خلال تصميم متكامل للأجهزة والبرمجيات إلى تحقيق انخفاض يصل إلى عشرة أضعاف في تكلفة الاستدلال لكل رمز مقارنة بالأجيال السابقة، وفي نفس الوقت الوصول إلى ضعف الإنتاجية لعشر مرات في عدد الرموز لكل ميغاوات.
تحسينات في البنية التحتية للاتصالات
تتطلب ربط الآلاف من المعالجات عرض نطاق ترددي كبير لمنع تأخيرات المعالجة. وتتناول A5X instances هذا التحدي من خلال دمج NVIDIA ConnectX-9 SuperNICs مع تقنية الشبكات Google Virgo. هذا التكوين يمكن أن يمتد ليشمل 80,000 من معالجات NVIDIA Rubin GPUs ضمن مجموعة واحدة، و960,000 معالج عبر نشر متعدد المواقع.
إدارة البيانات والأمان في السحابة
بالإضافة إلى القدرات المعالجة، تظل إدارة البيانات قضية رئيسية في نشرات المؤسسات. حيث تؤدي المتطلبات التنظيمية العالية، خصوصاً في القطاعات المالية والرعاية الصحية، إلى تعطيل مبادرات التعلم الآلي بسبب متطلبات سيادة البيانات ومخاطر تعرض المعلومات الحساسة. لمعالجة هذه المتطلبات، نماذج Google Gemini التي تعمل على معالجات NVIDIA Blackwell وBlackwell Ultra GPUs تدخل مرحلة المعاينة على Google Distributed Cloud.
تحديات التدريب على الذكاء الاصطناعي الموجه
يتطلب بناء أنظمة ذكية متعددة الخطوات ربط نماذج اللغة الكبيرة بواجهات برمجة التطبيقات المعقدة، مما يتطلب إدارة مستمرة لتزامن قواعد البيانات. لتبسيط هذه المتطلبات الهندسية الثقيلة، أصبح NVIDIA Nemotron 3 Super متاحًا على منصة Gemini Enterprise Agent Platform، مما يوفر للمطورين أدوات مخصصة لنماذج متعددة الوسائط.
تكامل الهندسة والتطبيقات الصناعية
يمثل دمج التعلم الآلي في الصناعات الثقيلة تحديات هندسية خاصة. حيث يتطلب ربط النماذج الرقمية بالأرضيات الصناعية محاكاة دقيقة، وقوة حوسبة هائلة، وتوحيد الأنظمة القديمة. توفر بنية تحتية NVIDIA ومكتبات الذكاء الاصطناعي الفيزيائية الآن على Google Cloud أساسًا للمنظمات لمحاكاة وأتمتة تدفقات العمل في التصنيع.
تأثيرات على النظام البيئي للحوسبة المتسارعة
يتطلب تحويل هذه المواصفات إلى عوائد مالية قابلة للقياس فحص كيفية استخدام المستخدمين الأوائل لهذه البنية التحتية. تشمل محفظة الخيارات ما يتراوح بين خزانات NVL72 كاملة إلى أجهزة G4 VMs صغيرة. كما تستخدم شركات مثل OpenAI هذه البنية التحتية لمعالجة أحمال العمل المتطلبة، بما في ذلك عمليات ChatGPT.
تسعى NVIDIA وGoogle Cloud إلى تقديم أساس حوسبي مصمم لدفع الوكلاء التجريبيين والمحاكاة إلى أنظمة إنتاجية تأمين الأساطيل.
المصدر: AI News