Wie Cursor Fireworks AI nutzt
Cursor, ein KI-nativer Code-Editor, betreibt für seine Funktion Fast Apply ein feinabgestimmtes Llama-3-70b-Modell auf dem Inferenz-Stack von Fireworks AI mit einer Speculative-Decoding-API, sodass umfangreiche Code-Änderungen schnell angewendet werden.
Erfassten Nachweis ansehenDer Anwendungsfall: wie Cursor Fireworks AI einsetzt
Cursor, an AI-native code editor, runs a fine-tuned Llama-3-70b model for its Fast Apply feature on Fireworks AI's inference stack with a speculative decoding API, so large code edits are applied quickly.
Weitere angegebene Ergebnisse
Zahlen aus der Fallstudie von Fireworks AI. usedby hat sie nicht unabhängig gemessen.
a ~9x speedup over their previous GPT-4 speculative edits deployment
achieving speeds of ~1000 tokens/s (approximately 3500 char/s) on a 70b model
In den Worten des Kunden
...weil es deutlich leistungsfähiger ist als die Open-Source-Engines und wir es in der Produktion einsetzen. Unsere RL-Inferenz skaliert dadurch elastisch und global. Wenn wenig Produktionstraffic anliegt, skalieren wir RL hoch, bei hohem Produktionstraffic skalieren wir RL herunter.Maschinell übersetzt aus dem EnglischenOriginal anzeigen
...because it's way more performant than the open source engines and is what we use in production. our rl inference scales elastically and globally because of it. when we have low prod traffic we scale up RL, when we have high prod traffic, we scale down RL.Fireworks ist ein wichtiger Partner dabei, die Modelle hinter Cursor in großem Maßstab zu trainieren und bereitzustellen. Die Plattform unterstützt die RL-Workloads mit hohem Durchsatz und die Produktions-Inferenz, die für Composer erforderlich sind, und gibt uns die Geschwindigkeit, Zuverlässigkeit und Effizienz, um die Grenzen des KI-gestützten Programmierens weiter zu verschieben.Maschinell übersetzt aus dem EnglischenOriginal anzeigen
Fireworks has been a key partner in helping us train and serve the models behind Cursor at scale. Their platform supports the high-throughput RL workloads and production inference required for Composer, giving us the speed, reliability, and efficiency to keep pushing the frontier of AI coding.Weitere KI-Tools von Cursor
Weitere öffentliche Beziehungen, die auf usedby erfasst sind.
Den KI-Stack von Cursor ansehen
Nutzer von Fireworks AI in der Branche DevTools & Infrastruktur
Unternehmen derselben Branche, mit öffentlichen Belegen.
VercelBestätigt
HasuraSelbst angegeben
LinearSelbst angegeben
ReplitSelbst angegeben
TurbopufferSelbst angegeben
CognitionBeobachtetDirekt zur Quelle
Auf Basis der veröffentlichten Fallstudie von Fireworks AI. Wir prüfen die öffentlichen Belege; die Ergebnisse gibt der Anbieter an.
fireworks.ai- Quelle veröffentlicht
- 23. Juni 2024
- Zuletzt geprüft
- 11. Nov. 2026
Screenshot der Quelle öffnen Was die Fallstudie behauptet und was wir geprüft haben
Was wir mit der Seite verglichen haben.
- Die Zahl: ~13xGeprüft
Steht wörtlich auf der Seite, nahe dem Namen Cursor.
- Die oben zitierte PassageGeprüft
Wörtlich von der Seite übernommen, nahe dem Namen Cursor.
- Die Zahlen in unserer ZusammenfassungGeprüft
Jede steht auf der Seite.
- Das VeröffentlichungsdatumGeprüft
Aus den eigenen Metadaten der Seite gelesen, nie geschätzt.
- Cursor nutzt Fireworks AIGeprüft
Eintrag mit Stufe Bestätigt.
- Das Ergebnis selbstNicht geprüft
Wir zitieren es; wir haben es nicht gemessen.
Fireworks deployed Cursor’s special fine-tune of Llama-3-70b for the coding task “Fast Apply” using the speculative API flag, enabling them to ~13x speedup over vanilla inference using Llama-3-70b and a ~9x speedup over their previous GPT-4 speculative edits deployment