Ars Technica hat einen Reporter entlassen, nachdem festgestellt wurde, dass er KI verwendet hatte, um erfundene Zitate in einem veröffentlichten Artikel zu generieren. Dies scheint die erste Entlassung bei einer großen Technologiepublikation aufgrund von KI-generierten Inhalten zu sein. Die dem Zitat zugeschriebene Quelle hatte diese Aussagen tatsächlich nicht gemacht. Der Reporter, Benj Edwards, entschuldigte sich öffentlich und erklärte, er habe krank mit hohem Fieber gearbeitet und versehentlich ein experimentelles Claude Code-basiertes Tool verwendet, das die Worte der Quelle umformulierte, anstatt sie direkt zu zitieren.
Es liest sich wie eine Geschichte aus der Medienbranche. Doch für alle, die im Bereich GEO tätig sind, ist es eine Fallstudie über genau den Fehlermodus – erfundene, nicht überprüfbare Behauptungen –, den KI-Antwortmaschinen in großem Maßstab verstärken können, und warum die Integrität von Zitaten nun eine Markenangelegenheit ist.
Wichtige Erkenntnisse
- Dies ist wahrscheinlich die erste Entlassung bei einer großen Technologiepublikation speziell wegen KI-erfundener Inhalte und setzt einen Präzedenzfall für redaktionelle Verantwortung im KI-Zeitalter. - Ars Technica hat den gesamten Artikel gelöscht und Kommentare entfernt, anstatt eine Korrektur zu veröffentlichen – eine Entscheidung, die auf Hacker News (334+ Punkte, 200+ Kommentare) weithin als Vertuschung kritisiert wurde. - Der Fehlermodus war subtil: Paraphrasen wurden als direkte Zitate präsentiert. KI muss nicht alles erfinden, um irreführend zu sein; sie kann die Zuschreibung leise verzerren. - Für GEO lautet die Lektion, dass die von KI-Engines zitierten Quellen erfundene oder verzerrte Behauptungen enthalten können – und diese Behauptungen können sich in Antworten über Ihre Marke verbreiten. - Marken müssen nicht nur überwachen, ob sie in KI erwähnt werden, sondern auch, was gesagt wird und auf welche Quellen sich die Aussagen stützen.
Was ist passiert
Laut Edwards war der Artikeltext von einem Menschen geschrieben, aber er verwendete umformulierte Versionen der Aussagen der Quelle anstelle von echten Zitaten, indem er ein experimentelles KI-Tool nutzte, während er krank war. Er bezeichnete den Vorfall als isoliert und nicht repräsentativ für die Standards von Ars Technica. Die Publikation hat eine klare Richtlinie, die den Einsatz von KI in einem finalen Artikel verbietet, sodass der Verstoß eindeutig ein Grund für die Entlassung war.
Die Handhabung zog ebenso viel Aufmerksamkeit auf sich wie der Vorfall selbst. Anstatt eine Korrektur oder eine Anmerkung des Redakteurs zu veröffentlichen, löschte Ars den Artikel und die Kommentare. Auf Hacker News wurde heiß diskutiert. Einige unterstützten die Entlassung – erfundene Zitate sollten unabhängig vom verwendeten Tool das Ende einer Autorenkarriere bedeuten. Andere argumentierten, dass das Löschen anstelle einer Korrektur wie Schadenskontrolle wirkte, und fragten, warum die Redakteure die Zitate nicht überprüft hatten. Dieser letzte Punkt ist der unangenehme: Erfindungen sind ein Systemversagen, nicht nur ein individuelles.
