Das Versprechen
Der redaktionelle Workflow von Ars Technica hat in einem viel beachteten Bericht vom Februar 2026 von LLMs erfundene Zitate nicht erkannt (Ars Editor's Note). Dieses Versagen hat auf Hacker News die Debatte über die Zuverlässigkeit von KI-Extraktionstools im professionellen Journalismus neu entfacht.
Unter der Haube
Im Mittelpunkt steht Senior AI Reporter Benj Edwards. Er nutzte ein „experimentelles Claude-Code-Tool“ und ChatGPT (GPT-5), um Quellmaterial zu verarbeiten (Reddit / Tech Investigation). Edwards räumte auf Bluesky ein, dass er diese Modelle während einer COVID-Erkrankung nutzte, um wörtliche Zitate zu extrahieren. Als die Sicherheitsfilter von Claude einen bestimmten Prompt blockierten, wich er auf ChatGPT aus. Das Modell paraphrasierte die Quelle und machte daraus vollständig erfundene direkte Aussagen (Bluesky / 404 Media).
Das systemische Versagen zeigt einen erheblichen Mangel an redaktioneller Kontrolle bei der Publikation:
- Der Artikel trug zwei Autorenzeilen (Edwards und Kyle Orland), doch keiner der beiden Autoren prüfte die Zitate am ursprünglichen Quellmaterial.
- Ars Technica zog den Artikel am 15. Februar 2026 zurück und räumte ein, dass er „erfundene Zitate“ enthielt (Ars Editor's Note).
- Die Kurzbiografie von Benj Edwards wurde am 28. Februar 2026 in die Vergangenheitsform gesetzt. Das deutet darauf hin, dass er nicht mehr für das Medium arbeitet (Futurism).
- Ars Technica lehnt es ab, Details zur konkreten technischen Pipeline oder zu den Umständen des Abgangs des Reporters zu nennen (Aurich Lawson).
Wir wissen noch nicht, ob es ein Einzelfall war oder ob frühere Artikel ähnliche KI-gestützte Extraktionsmethoden nutzten (HN). Ars Technica löschte den ursprünglichen Inhalt und veröffentlichte eine vage Entschuldigung, statt das interne Versagen transparent aufzuarbeiten. Trotz der Fähigkeiten von Claude 4.5 und GPT-5 belegt dieser Fall: Extraktionsaufgaben leiden weiterhin unter „kreativen“ Paraphrasen, die wie faktische Berichterstattung wirken können.
Unsere Einschätzung
Das ist kein Versagen der LLM-Technologie, sondern ein Versagen grundlegender Prüfungen im Hintergrund der Redaktion. Selbst mit den Reasoning-Fähigkeiten von Claude 4.5 oder GPT-5 lädt es zu Fehlern mit hoher Entropie ein, ein LLM als deterministisches Extraktionstool für direkte Zitate zu behandeln. Wer 2026 eine RAG-Pipeline oder einen Content-Workflow aufbaut, kann das Motto „Vertrauen ist gut, Kontrolle ist besser“ vergessen. Es gilt: prüfen oder scheitern. Ars Technica versuchte, den kritischsten Teil des Journalismus zu automatisieren. Dabei zeigte sich, dass hartnäckige Halluzinationen kein Bug sind, den man aus dem Workflow eines Reporters herauspatchen kann. Wer ein LLM statt eines Transkripts nutzt, findet sich offenbar zuverlässig bis Monatsende in der Vergangenheitsform wieder.