أعلنت أمازون في 19 أكتوبر عن TorchNeuron، وهي أداة برمجية تهدف إلى تمكين المطورين من تشغيل شيفرة الذكاء الاصطناعي الحالية المكتوبة باستخدام PyTorch على رقائق AWS Trainium من خلال إجراء تغيير واحد فقط في إعدادات التهيئة الخاصة بالتشغيل. وتقول الشركة إن هذا الأسلوب يلغي الحاجة إلى إعادة كتابة الشيفرة عند الانتقال إلى عتادها، مما يقلل إحدى عقبات اعتماده.
يستهدف الإعلان ميزة أساسية لدى إنفيديا، التي تساعد برمجياتها CUDA مطوري الذكاء الاصطناعي على استخدام معالجاتها. وذكرت رويترز أن إنفيديا أمضت أكثر من عقد في تطوير هذه المنظومة البرمجية. كما تسعى غوغل، التي تصمم رقائقها الخاصة للذكاء الاصطناعي، إلى جذب المطورين عبر تحسين أدوات PyTorch.
بحسب أمازون، يتصل TorchNeuron عبر الآلية القياسية في PyTorch لتسجيل العتاد الجديد. وتقول الشركة إن ذلك يسمح لأدوات الاختبار وتصحيح الأخطاء وتوسيع النطاق المعتادة بالعمل على Trainium دون تعديل. وفي عرض لأمازون، عمل برنامج التدريب نفسه على رقاقة تقليدية وعلى Trainium بعد تغيير إعداد الجهاز.
وقال كولين بريس، المسؤول البرمجي في وحدة تصميم الرقائق Annapurna Labs التابعة لأمازون، لرويترز إن أكثر من 30 عميلاً مبكراً يستخدمون البرنامج في مجالات تشمل الروبوتات ونماذج العالم والذكاء الاصطناعي الصوتي. وأوضح أن الهدف هو تقليل الخطوات اللازمة لتجربة معالجات أمازون، وأن الانتقال قد يحقق وفورات كبيرة. وهذه الوفورات تقدير من الشركة وليست ضماناً عاماً للأداء.
وتقول أمازون إنها تساهم أيضاً في إدخال تغييرات على PyTorch لتقليل الاعتماد على رقائق بعينها. ووفقاً للشركة، أضافت Hugging Face دعماً أصلياً لرقائق Trainium إلى أدوات التطوير الخاصة بها. ويتكامل TorchNeuron كذلك مع TorchTitan، موفراً مساراً قياسياً لتوزيع تدريب النماذج على عدة وحدات حوسبة من Trainium.
وتخطط الشركة لإصدار TorchNeuron بموجب ترخيص Apache 2.0 المفتوح المصدر في مؤتمر PyTorch لأمريكا الشمالية يوم 20 أكتوبر. وتقول إن البرنامج يدعم Trainium2 وTrainium3. وسيتيح الإصدار لمزيد من المطورين الوصول إلى الأداة لتقييم مدى ملاءمة عتاد أمازون لأعباء عمل الذكاء الاصطناعي الخاصة بهم.
التعليقات