Aller au contenu principal
usedby
Nebius AI CloudusedbySGLang

Comment SGLang utilise Nebius AI Cloud

SGLang, un framework open source de serving de LLM, a utilisé les clusters de calcul à la demande de Nebius AI Cloud ainsi que l'assistance de ses ingénieurs pour évaluer les performances et optimiser l'inférence du modèle DeepSeek R1. Ce travail visait à améliorer le débit et la latence pour les prompts longs et les fortes charges de concurrence.

ConfirméÉtude de cas de l’éditeur · Vérifié le 15 nov. 2026
Voir la preuve capturée

L’usage : comment SGLang déploie Nebius AI Cloud

SGLang, an open-source LLM serving framework, used Nebius AI Cloud's on-demand compute clusters and engineering support to benchmark and optimize inference of the DeepSeek R1 model. The work focused on improving throughput and latency for long prompts and high concurrency.

Les clients de Nebius AI Cloud dans le secteur Intelligence artificielle

Des entreprises du même secteur, avec une preuve publique.

DubformerConfirméHelicalConfirméHiggsfieldConfirméKrispConfirméPositronic RoboticsConfirméPrime IntellectConfirmé
Voir tous les clients de Nebius AI Cloud

Autres témoignages

Consulter la source

Cette synthèse repose sur l’étude de cas publiée par Nebius AI Cloud. Nous vérifions la preuve publique ; les résultats sont ceux rapportés par l’éditeur.

nebius.com
Dernière vérification
15 nov. 2026
nebius.comCapture de l’étude de cas de Nebius AI Cloud sur SGLangOuvrir la capture
Ce que dit le témoignage, et ce que nous avons vérifié

Ce que nous avons comparé à la page.

  • Le chiffre : 2×Vérifié

    Le chiffre est sur la page ; son libellé est formulé par nous.

  • L’extrait cité plus hautVérifié

    Copié mot pour mot depuis la page, près du nom de SGLang.

  • SGLang utilise Nebius AI CloudVérifié

    Ligne de niveau Confirmé.

  • Le résultat lui-mêmeNon vérifié

    Nous le citons ; nous ne l’avons pas mesuré.

SGLang, a pioneering LLM inference framework, teamed up with Nebius AI Cloud to supercharge R1’s performance for real-world use. SGLang achieved a 2× boost in throughput and markedly lower latency on one node.
Extrait de la page. nebius.com