Der Anwendungsfall: wie Parallel Web Systems Baseten einsetzt
Parallel runs the multi-turn agentic pipelines behind its web search and research APIs on Baseten. It started on pay-per-token Model APIs, moved to a dedicated open-source model deployment, and now also fine-tunes, deploys and shadow-tests smaller models on the same platform.
Weitere angegebene Ergebnisse
Zahlen aus der Fallstudie von Baseten. usedby hat sie nicht unabhängig gemessen.
increased throughput by 3x through KV cache-aware routing and speculative decoding
Baseten’s proprietary runtime cut latency by 50%
Parallel scaled traffic with Baseten ~100x
In den Worten des Kunden
Our workloads can be very spiky. We need to be able to manage the peaks, but we also don't want to pay for the valleys. Pay-per-token with Model APIs enabled us to easily make the transition to open-source until our scale merited dedicated deployments optimized for throughput and flexible autoscaling.Nutzer von Baseten in der Branche Künstliche Intelligenz
Unternehmen derselben Branche, mit öffentlichen Belegen.
Alle Kunden von Baseten ansehen
Direkt zur Quelle
Auf Basis der veröffentlichten Fallstudie von Baseten. Wir prüfen die öffentlichen Belege; die Ergebnisse gibt der Anbieter an.
baseten.co- Quelle veröffentlicht
- 7. Juli 2026
- Zuletzt geprüft
- 9. Okt. 2026
Screenshot der Quelle öffnen Was die Fallstudie behauptet und was wir geprüft haben
Was wir mit der Seite verglichen haben.
- Die Zahl: 3xGeprüft
Steht wörtlich auf der Seite, nahe dem Namen Parallel Web Systems.
- Die oben zitierte PassageGeprüft
Wörtlich von der Seite übernommen, nahe dem Namen Parallel Web Systems.
- Das VeröffentlichungsdatumGeprüft
Aus den eigenen Metadaten der Seite gelesen, nie geschätzt.
- Parallel Web Systems nutzt BasetenGeprüft
Eintrag mit Stufe Bestätigt.
- Das Ergebnis selbstNicht geprüft
Wir zitieren es; wir haben es nicht gemessen.
Baseten’s throughput and latency optimizations delivered 3x savings versus the equivalent closed-source model. Eliminating redundant processing made it economically viable to run the kind of long, multi-turn agent workflows that deliver meaningfully better results than a single-shot query.