Übersetzt aus dem englischen Original. Zahlen und Quellen sind unverändert. Englisches Original lesen
CNET (Red Ventures)
CNET setzt KI-geschriebene Finanzerklärstücke aus, nachdem Fehler in veröffentlichten Artikeln gefunden wurden
Ab November 2022 veröffentlichte CNET Money Finanzerklärstücke, die mit einer KI-Engine entworfen wurden, Mitte Januar 2023 etwa 75. Nachdem externe Recherchen sachliche Fehler aufgedeckt hatten, stellte CNET die Artikel unter Prüfung und setzte die Praxis aus, wie The Batch berichtet.
Kennzahlen
Wortgetreu aus den Quellen übernommen. Kopieren Sie jede Zahl mit ihrer Quellenangabe.
etwa 75
Seit November veröffentlichte KI-gestützte Erklärstücke, laut CNETs Chefredaktion am 16. Januar 20231
78
Veröffentlichte generierte Artikel, bevor das Programm gestoppt wurde, laut The Batch3
10.300
Dollar
Ertrag im ersten Jahr, den der ursprüngliche Artikel zum Zinseszins für eine Einlage von 10.000 Dollar bei 3 % nannte (die richtige Zahl ist 300 Dollar, laut Engadget)2
Was es erforderte
Kosten, Teamgröße und Zeitplan wurden in den Quellen nicht veröffentlicht.
Das Problem
CNET Money behandelt grundlegende Fragen zu persönlichen Finanzen, etwa was Zinseszins ist, mit einer ausgelasteten Mannschaft aus Reportern und Redakteuren. CNET beschloss zu testen, ob eine KI-Engine bei der Erstellung dieser Erklärstücke helfen könnte.
Was sie gebaut haben
Eine interne KI-Engine, die das Team von CNET Money einsetzte, um Erklärstücke zu entwerfen, die Redakteure anschließend prüften. Laut The Batch ist das Modell nicht benannt und wurde von CNETs Muttergesellschaft Red Ventures gebaut, die es auch für andere ihr gehörende Seiten nutzte, darunter Bankrate und CreditCards.com.
Wie sie vorgegangen sind
Das Team begann im November 2022, das Werkzeug auszuprobieren. CNETs Chefredaktion schrieb am 16. Januar 2023, die Engine stelle Entwürfe zusammen oder sammle Informationen, und ein Redakteur mit Fachkenntnis zum Thema prüfe, überprüfe die Fakten und überarbeite jeden Artikel vor der Veröffentlichung. Die Artikel erschienen zunächst unter der Autorenzeile „CNET Money Staff“; nach externer Berichterstattung änderte CNET die Autorenzeile und verlegte den Hinweis, damit er sichtbarer ist. Die Quellen nennen weder Kosten noch Teamgröße.
Ergebnisse
CNET meldete Mitte Januar 2023 etwa 75 solcher Artikel. Futurism, ein konkurrierendes Medium, fand in einem davon, einem Zinseszins-Erklärstück, schwere Fehler: Es überschätzte den Ertrag im ersten Jahr bei einer Einlage von 10.000 Dollar. Engadget berichtet, der Artikel sei korrigiert worden und auch in Erklärungen zu Darlehenszinsen und Einlagenzertifikaten seien Fehler aufgetreten.
Was schiefgelaufen ist
CNET versah seine KI-geschriebenen Beiträge mit einem Hinweis, dass sie auf Richtigkeit überprüft würden und Fehler korrigiert würden. The Batch berichtet, CNET habe die Praxis nach 78 generierten Artikeln ausgesetzt. Gegenüber Futurism erklärte CNET laut Engadget, das Unternehmen prüfe aktiv alle seine KI-gestützten Beiträge.
Erkenntnisse für Ihr Projekt
Prüfen Sie vor der Veröffentlichung, nicht danach. CNET sagt, Redakteure hätten jedes Stück geprüft, und trotzdem fanden externe Reporter Fehler in einem einfachen Erklärstück.
Machen Sie den KI-Einsatz von Anfang an deutlich kenntlich. CNET änderte die Autorenzeile und verlegte den Hinweis erst an eine sichtbarere Stelle, als die Praxis Aufmerksamkeit erregt hatte.
Starten Sie mit risikoarmen Inhalten. Finanzberatung, selbst grundlegende, hat echte Folgen, wenn die Zahlen falsch sind.
Richten Sie eine Genauigkeitsprüfung für Zahlen und eine Plagiatsprüfung für generierte Texte ein und legen Sie fest, was eine Pause auslöst.
Einschränkungen
- CNET nannte die Arbeit ein Experiment und beschrieb den Prozess als KI-Unterstützung mit redaktioneller Prüfung. Die Notiz der Chefredaktion ist die Darstellung des Unternehmens; Engadget und The Batch sind unabhängige Berichte.
- Die Zahl der Artikel unterscheidet sich je nach Quelle: etwa 75 (CNET und Engadget, Mitte Januar 2023) und 78 (The Batch). Beide werden mit ihrer Quelle angegeben.
- Das Modell wird nicht genannt. The Batch spricht von einem nicht benannten proprietären Modell, das Red Ventures, die Muttergesellschaft von CNET, gebaut hat; CNET selbst spricht von einer KI-Engine.
- Die Pause wird von The Batch berichtet, das sich auf The Verge beruft. Die für diesen Eintrag gelesenen Seiten von CNET und Engadget beschreiben eine Überprüfung der Artikel, keine Pause.
- The Batch berichtet außerdem von Fällen möglichen Plagiats und sagt, Insider hätten die Artikel als auf Suchverkehr und Affiliate-Einnahmen ausgerichtet beschrieben; das ist die Berichterstattung des Mediums, keine Aussage von CNET.
Quellen
- CNET Is Experimenting With an AI Assist. Here's Why
CNET · 2023-01-16 · Unternehmensblog · cnet.com
- CNET is reviewing its AI-written articles after being notified of serious errors
Engadget · 2023-01-18 · Nachrichten · engadget.com
- CNET Pauses its Practice of Writing News Articles With AI
The Batch (DeepLearning.AI) · 2023-01-25 · Nachrichten · deeplearning.ai
In eigenen Worten aus den oben genannten Quellen zusammengefasst. Einen Fehler entdeckt? Siehe Korrekturen.