O caso de uso: como Writer implanta Baseten
Writer serves its custom 70-billion-parameter Palmyra domain-specific LLMs (for healthcare and finance) on Baseten's inference platform. Baseten's performance engineers built TensorRT-LLM engines for the models to get production-ready speed, throughput and cost.
Outros resultados informados
Números publicados no estudo de caso de Baseten. Eles não são medidos de forma independente pelo usedby.
60% higher tokens per second
23% lower time to first token
Nas palavras do cliente
Inference for custom-built LLMs could be a major headache. Thanks to Baseten, we’re getting cost-effective high-performance model serving without any extra burden on our internal engineering teams. Instead, we get to focus our expertise on creating the best possible domain-specific LLMs for our customers.Outras ferramentas de IA usadas por Writer
Outras relações públicas registradas no usedby.
Explorar a stack de IA de Writer
Usuários de Baseten no setor MarTech
Empresas do mesmo setor, com evidências públicas.
Ver todos os clientes de Baseten
Ir direto à fonte
Com base no estudo de caso publicado por Baseten. Verificamos as evidências públicas; os resultados são informados pelo fornecedor.
baseten.co- Fonte publicada em
- 31 de jul. de 2024
- Última verificação
- 9 de out. de 2026
Abrir a captura da fonte O que o estudo de caso afirma e o que verificamos
O que comparamos com a página.
- O número: 35%Verificado
Impresso palavra por palavra na página, perto do nome de Writer.
- O trecho citado acimaVerificado
Copiado palavra por palavra da página, perto do nome de Writer.
- Os números do nosso resumoVerificado
Cada um está impresso na página.
- A data de publicaçãoVerificado
Lida nos próprios metadados da página, nunca adivinhada.
- Writer usa BasetenVerificado
Linha de nível Confirmado.
- O resultado em siNão verificado
Nós o citamos; não o medimos.
Writer and Baseten worked together to create secure, private, high-performance deployments for Writer’s latest Palmyra LLMs. With TensorRT-LLM engines deployed on Baseten, Writer surpassed its performance requirements ahead of launching the new models.