Ir al contenido principal
usedby
Nebius AI CloudusedbySGLang

Cómo SGLang utiliza Nebius AI Cloud

SGLang, un framework de código abierto para servir LLM, utilizó los clústeres de cómputo bajo demanda de Nebius AI Cloud y su soporte de ingeniería para evaluar y optimizar la inferencia del modelo DeepSeek R1. El trabajo se centró en mejorar el rendimiento y la latencia con prompts largos y alta concurrencia.

ConfirmadoCaso de éxito del proveedor · Verificado el 15 nov 2026
Ver la prueba capturada

El uso: cómo SGLang implementa Nebius AI Cloud

SGLang, an open-source LLM serving framework, used Nebius AI Cloud's on-demand compute clusters and engineering support to benchmark and optimize inference of the DeepSeek R1 model. The work focused on improving throughput and latency for long prompts and high concurrency.

Clientes de Nebius AI Cloud en Inteligencia artificial

Empresas del mismo sector, con pruebas públicas.

DubformerConfirmadoHelicalConfirmadoHiggsfieldConfirmadoKrispConfirmadoPositronic RoboticsConfirmadoPrime IntellectConfirmado
Ver todos los clientes de Nebius AI Cloud

Más historias

Consultar la fuente

Basado en el caso de éxito publicado por Nebius AI Cloud. Verificamos las pruebas públicas; los resultados son los que declara el proveedor.

nebius.com
Última verificación
15 nov 2026
nebius.comCaptura del caso de éxito de Nebius AI Cloud sobre SGLangAbrir la captura
Lo que dice la historia, y lo que verificamos

Lo que comparamos con la página.

  • La cifra: 2×Verificado

    La cifra está en la página; su etiqueta es redacción nuestra.

  • El pasaje citado arribaVerificado

    Copiado palabra por palabra de la página, cerca del nombre de SGLang.

  • SGLang usa Nebius AI CloudVerificado

    Línea de nivel Confirmado.

  • El resultado en síNo verificado

    Lo citamos; no lo medimos.

SGLang, a pioneering LLM inference framework, teamed up with Nebius AI Cloud to supercharge R1’s performance for real-world use. SGLang achieved a 2× boost in throughput and markedly lower latency on one node.
De la página. nebius.com