Übersetzt aus dem englischen Original. Zahlen und Quellen sind unverändert. Englisches Original lesen
Apple
Apple setzt KI-Zusammenfassungen von Benachrichtigungen für Nachrichten-Apps nach falschen BBC-Schlagzeilen aus
Apple Intelligence fasste Benachrichtigungen der Nutzer auf dem iPhone zusammen, auch Nachrichtenmeldungen. Nachdem sich die BBC beschwert hatte, Zusammenfassungen ihrer Schlagzeilen enthielten falsche Behauptungen, kündigte Apple an, Zusammenfassungen für Nachrichten- und Unterhaltungs-Apps in der Beta von iOS 18.3 vorübergehend nicht mehr anzubieten.
Kennzahlen
Wortgetreu aus den Quellen übernommen. Kopieren Sie jede Zahl mit ihrer Quellenangabe.
22
BBC-Nachrichtenmeldungen, die zu einer einzigen, dreiteiligen falschen Schlagzeile über Luigi Mangione zusammengefasst wurden1
Was es erforderte
Kosten, Teamgröße und Zeitplan wurden in den Quellen nicht veröffentlicht.
Das Problem
Apple Intelligence, das KI-Funktionspaket, das Apple auf seinen neuesten iPhones eingeführt hat, enthält Zusammenfassungen von Benachrichtigungen. Sie verdichten Stapel von Nachrichten und Meldungen zu kurzen Sätzen, damit man nicht jede einzeln lesen muss. Apple machte die KI-Funktionen zu einem zentralen Verkaufsargument seiner neueren Geräte.
Was sie gebaut haben
Die Zusammenfassungsfunktion schreibt Benachrichtigungen vieler Apps um, auch von Nachrichten-Apps. Bei Nachrichtenmeldungen arbeitet sie, wie Tom's Guide erklärt, mit der Schlagzeile und dem Fließtext. Probleme traten auf, wenn sie mehrere Meldungen zu einer Zusammenfassung verschmolz.
Wie sie vorgegangen sind
Die Quellen beschreiben nicht, wie die Funktion gebaut wurde oder welches Modell sie antreibt. Sie berichten aber, dass die Zusammenfassungen von Apple Intelligence erzeugt und als Beta gekennzeichnet werden. Nach den Beschwerden sagte Apple, es werde zusammengefasste Benachrichtigungen kursiv darstellen, um sie von normalen zu unterscheiden, und Nutzern erlauben, Zusammenfassungen je App direkt auf dem Sperrbildschirm abzuschalten.
Ergebnisse
Die BBC beschwerte sich, das System von Apple verdrehe ihre Nachrichtenmeldungen zu falschen Tatsachen. Ein Beispiel fasste 22 einzelne BBC-Benachrichtigungen zu einer Schlagzeile zusammen, die fälschlich behauptete, ein Mordverdächtiger habe sich erschossen. Weitere Beispiele waren eine Meldung, ein Dartspieler habe einen WM-Titel gewonnen, bevor das Finale stattfand, und eine falsche Behauptung über einen Tennisspieler.
Was schiefgelaufen ist
In einer Stellungnahme gegenüber CNBC sagte Apple, die Beta-Versionen von iOS 18.3, iPadOS 18.3 und macOS Sequoia 15.3 würden Zusammenfassungen von Benachrichtigungen für die Kategorie Nachrichten und Unterhaltung vorübergehend abschalten. Verbesserungen kämen mit einem künftigen Update. Die BBC sagte, sie sei froh, dass Apple zugehört und die Funktion für Nachrichten ausgesetzt habe.
Was Sie übernehmen können
Testen Sie Zusammenfassungen an sensiblen Inhalten, machen Sie es leicht, eine Kategorie abzuschalten, und kennzeichnen Sie, was die KI geschrieben hat.
Erkenntnisse für Ihr Projekt
Testen Sie generative Zusammenfassungen vor dem Start an Inhalten mit hohem Risiko. Zusammenfassungen, die mehrere Meldungen zu einer verschmelzen, können mit großer Sicherheit falsche Schlagzeilen erzeugen.
Planen Sie einen Notausschalter pro Kategorie ein. Apple konnte einen Inhaltstyp abschalten und den Rest der Funktion weiterlaufen lassen.
Kennzeichnen Sie KI-geschriebenen Text deutlich. Apple stellte Zusammenfassungen kursiv dar und ergänzte auf dem Sperrbildschirm eine Option, sie je App abzuschalten.
Behandeln Sie Marken Dritter als Stakeholder. Verlage, deren Schlagzeilen umgeschrieben werden, beschweren sich, wenn die Umschreibung falsch ist.
Einschränkungen
- Apple legt das Modell hinter der Funktion nicht offen, und die Quellen nennen keines.
- Laut CNBC galt die Pause für Nutzer der Beta-Software von Apple, nicht für die Hauptversion. Die Quellen berichten nicht, was nach der Pause geschah.
- Apple sagt, das gesamte System Apple Intelligence befinde sich in der Beta, und die Quellen nennen keine Fehlerraten, nur Beispiele.
- Die Quellen nennen den Start von Apple Intelligence mit Oktober ohne Jahr. Der Monat in deployedDate ist aus den Artikeldaten abgeleitet.
- Mobile World Live wurde über eine archivierte Kopie gelesen und gibt selbst 9to5Mac und The Guardian wieder. Die Originalseite der BBC-Beschwerde ließ sich nicht lesen und wird nicht zitiert.
Quellen
- Apple disables AI notifications for news in its beta iPhone software
CNBC via NBC New York · 2025-01-16 · Nachrichten · nbcnewyork.com
- Apple halts controversial AI news service
Mobile World Live · 2025-01-17 · Nachrichten · mobileworldlive.com
- Apple scraps Apple Intelligence news feature in wake of false headlines
Tom's Guide · 2025-01-17 · Nachrichten · tomsguide.com
In eigenen Worten aus den oben genannten Quellen zusammengefasst. Einen Fehler entdeckt? Siehe Korrekturen.