O caso de uso: como Parallel Web Systems implanta Baseten
Parallel runs the multi-turn agentic pipelines behind its web search and research APIs on Baseten. It started on pay-per-token Model APIs, moved to a dedicated open-source model deployment, and now also fine-tunes, deploys and shadow-tests smaller models on the same platform.
Outros resultados informados
Números publicados no estudo de caso de Baseten. Eles não são medidos de forma independente pelo usedby.
increased throughput by 3x through KV cache-aware routing and speculative decoding
Baseten’s proprietary runtime cut latency by 50%
Parallel scaled traffic with Baseten ~100x
Nas palavras do cliente
Our workloads can be very spiky. We need to be able to manage the peaks, but we also don't want to pay for the valleys. Pay-per-token with Model APIs enabled us to easily make the transition to open-source until our scale merited dedicated deployments optimized for throughput and flexible autoscaling.Usuários de Baseten no setor Inteligência artificial
Empresas do mesmo setor, com evidências públicas.
Ver todos os clientes de Baseten
Ir direto à fonte
Com base no estudo de caso publicado por Baseten. Verificamos as evidências públicas; os resultados são informados pelo fornecedor.
baseten.co- Fonte publicada em
- 7 de jul. de 2026
- Última verificação
- 9 de out. de 2026
Abrir a captura da fonte O que o estudo de caso afirma e o que verificamos
O que comparamos com a página.
- O número: 3xVerificado
Impresso palavra por palavra na página, perto do nome de Parallel Web Systems.
- O trecho citado acimaVerificado
Copiado palavra por palavra da página, perto do nome de Parallel Web Systems.
- A data de publicaçãoVerificado
Lida nos próprios metadados da página, nunca adivinhada.
- Parallel Web Systems usa BasetenVerificado
Linha de nível Confirmado.
- O resultado em siNão verificado
Nós o citamos; não o medimos.
Baseten’s throughput and latency optimizations delivered 3x savings versus the equivalent closed-source model. Eliminating redundant processing made it economically viable to run the kind of long, multi-turn agent workflows that deliver meaningfully better results than a single-shot query.