Aller au contenu principal
usedby
BasetenusedbyParallel Web Systems

Comment Parallel Web Systems utilise Baseten

Parallel exécute sur Baseten les pipelines agentiques multitours qui alimentent ses API Web Tool, en commençant par des API de modèles facturées au token, puis en passant à des déploiements dédiés d'un modèle open source. Elle utilise aussi Baseten pour affiner des modèles plus petits, les déployer et les tester en mode fantôme sur le trafic de production.

ConfirméÉtude de cas de l’éditeur · Vérifié le 11 nov. 2026
Voir la preuve capturée

L’usage : comment Parallel Web Systems déploie Baseten

Parallel runs the multi-turn agentic pipelines behind its Web Tool APIs on Baseten, starting with pay-per-token Model APIs and moving to dedicated deployments of an open-source model. It also uses Baseten to fine-tune smaller models, deploy them, and shadow-test them against production traffic.

Autres résultats publiés

Chiffres publiés dans l’étude de cas de Baseten. usedby ne les mesure pas de façon indépendante.

50%

Baseten’s proprietary runtime cut latency by 50% and increased throughput by 3x through KV cache-aware routing and speculative decoding.

~100x

Within a few months of their initial deployment, Parallel scaled traffic with Baseten ~100x.

2x

2x latency improvement with Baseten speculative decoding and KV cache-aware routing

Le témoignage du client

Nos charges de travail peuvent être très irrégulières. Nous devons pouvoir absorber les pics, mais nous ne voulons pas non plus payer pour les creux. Le paiement au token des Model APIs nous a permis de passer facilement à l'open source, jusqu'à ce que notre volume justifie des déploiements dédiés optimisés pour le débit et dotés d'un autoscaling flexible.
Traduction automatique de l’anglais
Voir l’originalOur workloads can be very spiky. We need to be able to manage the peaks, but we also don't want to pay for the valleys. Pay-per-token with Model APIs enabled us to easily make the transition to open-source until our scale merited dedicated deployments optimized for throughput and flexible autoscaling.
Matt Lee, Engineering Lead, Parallel Web Systems — Source

Les autres outils IA utilisés par Parallel Web Systems

Autres relations publiques recensées sur usedby.

HexObservé
Explorer la stack IA de Parallel Web Systems

Les clients de Baseten dans le secteur Intelligence artificielle

Des entreprises du même secteur, avec une preuve publique.

EliseAIConfirméGammaConfirméHebbiaConfirméOxen AIConfirméPoolsideConfirméRimeConfirmé
Voir tous les clients de Baseten

Autres témoignages

Consulter la source

Cette synthèse repose sur l’étude de cas publiée par Baseten. Nous vérifions la preuve publique ; les résultats sont ceux rapportés par l’éditeur.

baseten.co
Dernière vérification
11 nov. 2026
baseten.coCapture de l’étude de cas de Baseten sur Parallel Web SystemsOuvrir la capture
Ce que dit le témoignage, et ce que nous avons vérifié

Ce que nous avons comparé à la page.

  • Le chiffre : 3xVérifié

    Imprimé mot pour mot sur la page, près du nom de Parallel Web Systems.

  • L’extrait cité plus hautVérifié

    Copié mot pour mot depuis la page, près du nom de Parallel Web Systems.

  • Parallel Web Systems utilise BasetenVérifié

    Ligne de niveau Confirmé.

  • Le résultat lui-mêmeNon vérifié

    Nous le citons ; nous ne l’avons pas mesuré.

Baseten’s throughput and latency optimizations delivered 3x savings versus the equivalent closed-source model. Eliminating redundant processing made it economically viable to run the kind of long, multi-turn agent workflows that deliver meaningfully better results than a single-shot query.
Extrait de la page. baseten.co