Comment Writer utilise Baseten
Writer déploie ses LLM Palmyra personnalisés de 70 milliards de paramètres, spécialisés pour la santé et la finance, sur la plateforme d'inférence de Baseten. Les ingénieurs en performance des modèles de Baseten ont créé des moteurs TensorRT-LLM pour chaque modèle afin d'améliorer la vitesse et le coût de service.
Voir la preuve capturéeL’usage : comment Writer déploie Baseten
Writer serves its custom 70-billion-parameter domain-specific Palmyra LLMs for healthcare and finance on Baseten's inference platform. Baseten's model performance engineers built TensorRT-LLM engines for each model to improve serving speed and cost.
Autres résultats publiés
Chiffres publiés dans l’étude de cas de Baseten. usedby ne les mesure pas de façon indépendante.
23% lower time to first token
35% lower cost per million tokens
Le témoignage du client
L'inférence pour des LLM développés sur mesure peut vite devenir un casse-tête. Grâce à Baseten, nous disposons d'un serving de modèles performant et économique, sans charge supplémentaire pour nos équipes d'ingénierie internes. Nous pouvons ainsi concentrer notre expertise sur la création des meilleurs LLM spécialisés possible pour nos clients.Traduction automatique de l’anglaisVoir l’original
Inference for custom-built LLMs could be a major headache. Thanks to Baseten, we’re getting cost-effective high-performance model serving without any extra burden on our internal engineering teams. Instead, we get to focus our expertise on creating the best possible domain-specific LLMs for our customers.Les autres outils IA utilisés par Writer
Autres relations publiques recensées sur usedby.
Explorer la stack IA de WriterLes clients de Baseten dans le secteur MarTech
Des entreprises du même secteur, avec une preuve publique.
Voir tous les clients de BasetenConsulter la source
Cette synthèse repose sur l’étude de cas publiée par Baseten. Nous vérifions la preuve publique ; les résultats sont ceux rapportés par l’éditeur.
baseten.co- Dernière vérification
- 11 nov. 2026
Ouvrir la capture Ce que dit le témoignage, et ce que nous avons vérifié
Ce que nous avons comparé à la page.
- Le chiffre : 60%Vérifié
Imprimé mot pour mot sur la page, près du nom de Writer.
- L’extrait cité plus hautVérifié
Copié mot pour mot depuis la page, près du nom de Writer.
- Les nombres de notre résuméVérifié
Chacun est imprimé sur la page.
- Writer utilise BasetenVérifié
Ligne de niveau Confirmé.
- Le résultat lui-mêmeNon vérifié
Nous le citons ; nous ne l’avons pas mesuré.
With TensorRT-LLM engines deployed on Baseten, Writer surpassed its performance requirements ahead of launching the new models.









