Comment Parallel Web Systems utilise Baseten
Parallel exécute sur Baseten les pipelines agentiques multitours qui alimentent ses API Web Tool, en commençant par des API de modèles facturées au token, puis en passant à des déploiements dédiés d'un modèle open source. Elle utilise aussi Baseten pour affiner des modèles plus petits, les déployer et les tester en mode fantôme sur le trafic de production.
Voir la preuve capturéeL’usage : comment Parallel Web Systems déploie Baseten
Parallel runs the multi-turn agentic pipelines behind its Web Tool APIs on Baseten, starting with pay-per-token Model APIs and moving to dedicated deployments of an open-source model. It also uses Baseten to fine-tune smaller models, deploy them, and shadow-test them against production traffic.
Autres résultats publiés
Chiffres publiés dans l’étude de cas de Baseten. usedby ne les mesure pas de façon indépendante.
Baseten’s proprietary runtime cut latency by 50% and increased throughput by 3x through KV cache-aware routing and speculative decoding.
Within a few months of their initial deployment, Parallel scaled traffic with Baseten ~100x.
2x latency improvement with Baseten speculative decoding and KV cache-aware routing
Le témoignage du client
Nos charges de travail peuvent être très irrégulières. Nous devons pouvoir absorber les pics, mais nous ne voulons pas non plus payer pour les creux. Le paiement au token des Model APIs nous a permis de passer facilement à l'open source, jusqu'à ce que notre volume justifie des déploiements dédiés optimisés pour le débit et dotés d'un autoscaling flexible.Traduction automatique de l’anglaisVoir l’original
Our workloads can be very spiky. We need to be able to manage the peaks, but we also don't want to pay for the valleys. Pay-per-token with Model APIs enabled us to easily make the transition to open-source until our scale merited dedicated deployments optimized for throughput and flexible autoscaling.Les autres outils IA utilisés par Parallel Web Systems
Autres relations publiques recensées sur usedby.
Explorer la stack IA de Parallel Web SystemsLes clients de Baseten dans le secteur Intelligence artificielle
Des entreprises du même secteur, avec une preuve publique.
Voir tous les clients de BasetenConsulter la source
Cette synthèse repose sur l’étude de cas publiée par Baseten. Nous vérifions la preuve publique ; les résultats sont ceux rapportés par l’éditeur.
baseten.co- Dernière vérification
- 11 nov. 2026
Ouvrir la capture Ce que dit le témoignage, et ce que nous avons vérifié
Ce que nous avons comparé à la page.
- Le chiffre : 3xVérifié
Imprimé mot pour mot sur la page, près du nom de Parallel Web Systems.
- L’extrait cité plus hautVérifié
Copié mot pour mot depuis la page, près du nom de Parallel Web Systems.
- Parallel Web Systems utilise BasetenVérifié
Ligne de niveau Confirmé.
- Le résultat lui-mêmeNon vérifié
Nous le citons ; nous ne l’avons pas mesuré.
Baseten’s throughput and latency optimizations delivered 3x savings versus the equivalent closed-source model. Eliminating redundant processing made it economically viable to run the kind of long, multi-turn agent workflows that deliver meaningfully better results than a single-shot query.







