El uso: cómo Writer implementa Baseten
Writer serves its custom 70-billion-parameter domain-specific Palmyra LLMs for healthcare and finance on Baseten's inference platform. Baseten's model performance engineers built TensorRT-LLM engines for each model to improve serving speed and cost.
Otros resultados publicados
Cifras publicadas en el caso de estudio de Baseten. usedby no las mide de forma independiente.
23% lower time to first token
35% lower cost per million tokens
En palabras del cliente
La inferencia de LLM a medida puede ser un enorme quebradero de cabeza. Gracias a Baseten, obtenemos un servicio de modelos rentable y de alto rendimiento sin cargar de trabajo adicional a nuestros equipos de ingeniería internos. En cambio, podemos concentrar nuestra experiencia en crear los mejores LLM específicos de dominio posibles para nuestros clientes.Traducción automática del inglésVer el original
Inference for custom-built LLMs could be a major headache. Thanks to Baseten, we’re getting cost-effective high-performance model serving without any extra burden on our internal engineering teams. Instead, we get to focus our expertise on creating the best possible domain-specific LLMs for our customers.Otras herramientas de IA utilizadas por Writer
Otras relaciones públicas registradas en usedby.
CodeRabbitConfirmado
DaytonaConfirmado
PylonConfirmado
Elastic CloudDeclarado
ExaDeclarado
FullstoryDeclaradoClientes de Baseten en MarTech
Empresas del mismo sector, con pruebas públicas.
Ver todos los clientes de BasetenConsultar la fuente
Basado en el caso de éxito publicado por Baseten. Verificamos las pruebas públicas; los resultados son los que declara el proveedor.
baseten.co- Última verificación
- 11 nov 2026
Abrir la captura Lo que dice la historia, y lo que verificamos
Lo que comparamos con la página.
- La cifra: 60%Verificado
Impresa palabra por palabra en la página, cerca del nombre de Writer.
- El pasaje citado arribaVerificado
Copiado palabra por palabra de la página, cerca del nombre de Writer.
- Los números de nuestro resumenVerificado
Cada uno está impreso en la página.
- Writer usa BasetenVerificado
Línea de nivel Confirmado.
- El resultado en síNo verificado
Lo citamos; no lo medimos.
With TensorRT-LLM engines deployed on Baseten, Writer surpassed its performance requirements ahead of launching the new models.



