Comment SGLang utilise Nebius AI Cloud
SGLang, un framework open source de serving de LLM, a utilisé les clusters de calcul à la demande de Nebius AI Cloud ainsi que l'assistance de ses ingénieurs pour évaluer les performances et optimiser l'inférence du modèle DeepSeek R1. Ce travail visait à améliorer le débit et la latence pour les prompts longs et les fortes charges de concurrence.
Voir la preuve capturéeL’usage : comment SGLang déploie Nebius AI Cloud
SGLang, an open-source LLM serving framework, used Nebius AI Cloud's on-demand compute clusters and engineering support to benchmark and optimize inference of the DeepSeek R1 model. The work focused on improving throughput and latency for long prompts and high concurrency.
Les clients de Nebius AI Cloud dans le secteur Intelligence artificielle
Des entreprises du même secteur, avec une preuve publique.
DubformerConfirméHelicalConfirmé
HiggsfieldConfirmé
KrispConfirméPositronic RoboticsConfirmé
Prime IntellectConfirméConsulter la source
Cette synthèse repose sur l’étude de cas publiée par Nebius AI Cloud. Nous vérifions la preuve publique ; les résultats sont ceux rapportés par l’éditeur.
nebius.com- Dernière vérification
- 15 nov. 2026
Ouvrir la capture Ce que dit le témoignage, et ce que nous avons vérifié
Ce que nous avons comparé à la page.
- Le chiffre : 2×Vérifié
Le chiffre est sur la page ; son libellé est formulé par nous.
- L’extrait cité plus hautVérifié
Copié mot pour mot depuis la page, près du nom de SGLang.
- SGLang utilise Nebius AI CloudVérifié
Ligne de niveau Confirmé.
- Le résultat lui-mêmeNon vérifié
Nous le citons ; nous ne l’avons pas mesuré.
SGLang, a pioneering LLM inference framework, teamed up with Nebius AI Cloud to supercharge R1’s performance for real-world use. SGLang achieved a 2× boost in throughput and markedly lower latency on one node.
