- قامت SambaNova بتقليص حجم الأجهزة المطلوبة لخدمة DeepSeek - R1 671B بكفاءة إلى رف واحد (16 شريحة) - مما يوفر سرعة أكبر بثلاث مرات وكفاءة أكبر بخمس مرات من أحدث وحدات معالجة الرسومات.
- تعمل شركة SambaNova على توسيع قدراتها بسرعة وبحلول نهاية العام ستوفر سعة أكبر بمقدار 100 مرة لـ DeepSeek - R1.
- يتم استضافة DeepSeek على SambaNova في مراكز البيانات الأمريكية؛ بشكل خاص وآمن.
- صرح Rodrigo Liang، الرئيس التنفيذي لشركة SambaNova، قائلاً: "SambaNova هي أول شركة تقدم الاستدلال على نطاق واسع باستخدام DeepSeek - R1، النموذج بالحجم الكامل، بسرعة وكفاءة للمطورين".
(BUSINESS WIRE)--أعلنت شركة SmbaNova، شركة الذكاء الاصطناعي التوليدي التي تقدم شرائح الذكاء الاصطناعي الأكثر كفاءة وأسرع النماذج، أن DeepSeek - R1 671B يعمل اليوم على SambaNova Cloud بسرعة 198 رمزًا في الثانية (t/s)، مما يحقق سرعات وكفاءة لا يمكن لأي منصة أخرى أن يضاهيها.
نجح DeepSeek - R1 في خفض تكاليف تدريب الذكاء الاصطناعي بمقدار 10 أضعاف، ولكن اعتماده على نطاق واسع كان معوقًا بسبب تكاليف الاستدلال المرتفعة وعدم الكفاءة، حتى الآن. أزالت SambaNova هذا الحاجز، وفتحت المجال لاستدلال فعال من حيث التكلفة في الوقت الفعلي على نطاق واسع للمطورين والمؤسسات.
صرح Rodrigo Liang، الرئيس التنفيذي والمؤسس المشارك لشركة SambaNova، قائلاً: "بفضل شريحة SN40L RDU، تعد SambaNova أسرع منصة تعمل على تشغيل DeepSeek بمعدل 198 رمزًا في الثانية لكل مستخدم". "سوف تزيد هذه السرعة إلى 5 مرات أسرع من أحدث سرعة وحدة معالجة رسومية على رف واحد - وبحلول نهاية العام، سنقدم سعة بمقدار 100 مرة لـ DeepSeek - R1".
"إن القدرة على تشغيل نموذج DeepSeek - R1 671B بالكامل -وليس النسخة المقطرة- بسرعة SambaNova المذهلة هي بمثابة تغيير كبير للمطورين. تحتاج نماذج التفكير مثل R1 إلى توليد الكثير من رموز التفكير للتوصل إلى مخرجات متفوقة، مما يجعلها تستغرق وقتًا أطول من النماذج اللغوية الكبيرة التقليدية. وقال الدكتور Andrew Ng، مؤسس DeepLearning.AI، والشريك العام الإداري في AI Fund، وأستاذ مساعد في قسم علوم الكمبيوتر بجامعة ستانفورد: "هذا يجعل تسريعها مهمًا بشكل خاص".
قال George Cameron، المؤسس المشارك لشركة Artificial Analysis: "قامت شركة Artificial Analysis بقياس معيار نشر SambaNova السحابي لنموذج DeepSeek - R1 Mixture of Experts الذي يحتوي على 671 مليار معلمة بشكل مستقل عند أكثر من 195 رمز إخراج/ثانية، وهي أسرع سرعة إخراج قمنا بقياسها على الإطلاق لـ DeepSeek - R1. تعد سرعات الإخراج العالية مهمة بشكل خاص لنماذج التفكير، حيث تستخدم هذه النماذج رموز الإخراج المنطقية لتحسين جودة استجاباتها. "ستدعم سرعات الإنتاج العالية التي توفرها SambaNova استخدام نماذج الاستدلال في حالات الاستخدام الحساسة للزمن".
SambaNova تحل أكبر تحديات DeepSeek: الاستدلال على نطاق واسع
لقد أحدثت DeepSeek - R1 ثورة في مجال الذكاء الاصطناعي من خلال خفض تكاليف التدريب بمقدار عشرة أضعاف، ومع ذلك، توقف التبني على نطاق واسع لأن قدرات التفكير في DeepSeek - R1 تتطلب قدرًا أكبر بكثير من الحوسبة للاستدلال، مما يجعل إنتاج الذكاء الاصطناعي أكثر تكلفة. في الواقع، أبقى عدم كفاءة الاستدلال القائم على وحدة معالجة الرسومات DeepSeek - R1 بعيدًا عن متناول معظم المطورين.
قامت SambaNova بحل هذه المشكلة. بفضل بنية تدفق البيانات الملكية وتصميم الذاكرة ثلاثي الطبقات، تعمل شرائح وحدة تدفق البيانات القابلة لإعادة التكوين SN40L من SambaNova على خفض متطلبات الأجهزة لتشغيل DeepSeek - R1 671B بكفاءة من 40 رفًا (320 من أحدث وحدات معالجة الرسومات) إلى رف واحد (16 وحدة RDU) - مما يفتح المجال أمام الاستدلال الفعال من حيث التكلفة بكفاءة لا مثيل لها.
قال Rodrigo Liang، الرئيس التنفيذي لشركة SambaNova: " يعتبر DeepSeek - R1 أحد أكثر نماذج الذكاء الاصطناعي تقدمًا المتاحة، ولكن إمكاناته الكاملة كانت محدودة بسبب عدم كفاءة وحدات معالجة الرسومات". "هذا يتغير اليوم. "نحن نحقق الاختراق الرئيسي التالي - انهيار تكاليف الاستدلال وتقليل متطلبات الأجهزة من 40 رفًا إلى واحد فقط، لتقديم DeepSeek - R1 بأقصى سرعة وكفاءة."
قال Robert Rizk، الرئيس التنفيذي لشركة Blackbox AI: "يعتمد أكثر من 10 ملايين مستخدم وفريق هندسي في شركات Fortune 500 على Blackbox AI لتحويل كيفية كتابة التعليمات البرمجية وبناء المنتجات. تلعب شراكتنا مع SambaNova دورًا حاسمًا في تسريع سير عمل وكيل الترميز المستقل لدينا. قدرات رقائق SambaNova لا مثيل لها لخدمة طراز R1 671B الكامل، والذي يوفر دقة أفضل بكثير من أي من الإصدارات المقطرة. لا يمكننا أن نطلب شريكًا أفضل للعمل معه لخدمة ملايين المستخدمين".
التالي: واجهة برمجة تطبيقات DeepSeek الأكثر كفاءة في العالم — 100 ضعف السعة العالمية الحالية
وأوضح Sumti Jairath، كبير المهندسين المعماريين في SambaNova: " DeepSeek - R1 هي المطابقة المثالية لهندسة الذاكرة ثلاثية المستويات من SambaNova.مع 671 مليار معلمة، يعد R1 أكبر نموذج لغة كبير مفتوح المصدر تم إصداره حتى الآن، مما يعني أنه يحتاج إلى الكثير من الذاكرة لتشغيله. تُعاني وحدات معالجة الرسومات (GPUs) من قيود في الذاكرة، لكن بنية تدفق البيانات الفريدة من SambaNova تُمكننا من تشغيل النموذج بكفاءة لتحقيق 20000 رمز/ثانية من إجمالي إنتاجية الرف في المستقبل القريب—وهي كفاءة غير مسبوقة مقارنة بوحدات معالجة الرسومات بسبب قيودها الفطرية في الذاكرة وتواصل البيانات.
تعمل SambaNova على توسيع قدرتها بسرعة لتلبية الطلب المتوقع، وبحلول نهاية العام ستقدم أكثر من 100 ضعف القدرة العالمية الحالية لـ DeepSeek - R1. وهذا يجعل وحدات RDU الخاصة بها الحل المؤسسي الأكثر كفاءة لنماذج الاستدلال.
احصل على وصول مبكر إلى R1 على SambaNova Cloud
يتوفر طراز DeepSeek - R1 671B الكامل الآن لجميع المستخدمين لتجربته واختيار المستخدمين عبر واجهة برمجة التطبيقات على SambaNova Cloud. لتجربته اليوم، تفضل بزيارة cloud.sambanova.ai.
حول SambaNova Systems
يلجأ العملاء إلى SambaNova لنشر قدرات الذكاء الاصطناعي التوليدي الحديثة بسرعة داخل المؤسسة. منصة الذكاء الاصطناعي المصممة خصوصًا لهذا الغرض هي العمود الفقري التكنولوجي للجيل القادم من حوسبة الذكاء الاصطناعي.
يقع المقر الرئيسي لشركة SambaNova Systems في بالو ألتو، بولاية كاليفورنيا، وقد تأسست في عام 2017 من قبل مشاهير الصناعة وخبراء تصميم الأجهزة والبرمجيات من Sun/Oracle وجامعة ستانفورد. ومن بين المستثمرين صندوق SoftBank Vision Fund 2، والصناديق والحسابات التي تديرها شركة BlackRock، وشركة Intel Capital، وشركة GV، وشركة Walden International، وشركة Temasek، وشركة GIC، وشركة Redline Capital، وشركة Atlantic Bridge Ventures، وشركة Celesta، والعديد من الشركات الأخرى. تفضل بزيارتنا على sambanova.ai أو تواصل معنا على info@sambanova.ai. تابع SambaNova Systems على LinkedIn وعلى X.
صور / وسائط متعددة متوفرة على : https://www.businesswire.com/news/home/54206065/en
إن نص اللغة الأصلية لهذا البيان هو النسخة الرسمية المعتمدة. أما الترجمة فقد قدمت للمساعدة فقط، ويجب الرجوع لنص اللغة الأصلية الذي يمثل النسخة الوحيدة ذات التأثير القانوني.
https://aetoswire.com/ar/news/1402202544701
جهات الاتصال
جهة الاتصال الصحفية:
Virginia Jamieson
virginia.jamieson@sambanova.ai
650-279-8619
