Vertaald uit het Engelse origineel. De cijfers en bronnen zijn ongewijzigd. Lees het Engelse origineel
Apple
Apple pauzeert AI-samenvattingen van meldingen voor nieuws-apps na valse BBC-koppen
Apple Intelligence vatte meldingen van gebruikers op de iPhone samen, ook nieuwsberichten. Nadat de BBC klaagde dat samenvattingen van haar koppen valse beweringen bevatten, zei Apple samenvattingen voor de apps Nieuws en Entertainment tijdelijk niet beschikbaar te maken in de bètasoftware van iOS 18.3.
Kerncijfers
Letterlijk overgenomen uit de bronnen. Kopieer elk cijfer met bronvermelding.
22
BBC-nieuwsmeldingen die werden samengevoegd tot één valse kop in drie delen over Luigi Mangione1
Wat het kostte
Kosten, teamgrootte en doorlooptijd zijn in de bronnen niet openbaar gemaakt.
Het probleem
Apple Intelligence, het pakket AI-functies dat Apple lanceerde op zijn nieuwste iPhones, bevat samenvattingen van meldingen. Ze vatten stapels berichten en meldingen samen in korte zinnen, zodat mensen niet elk bericht hoeven te lezen. Apple maakte de AI-functies tot een belangrijk verkoopargument van zijn recente hardware.
Wat ze bouwden
De samenvattingsfunctie herschrijft meldingen van veel apps, ook nieuws-apps. Bij nieuwsberichten werkt ze, zo legt Tom's Guide uit, vanuit de kop en de lopende tekst. Problemen ontstonden toen ze meerdere verhalen in één samenvatting samenvoegde.
Hoe ze het aanpakten
De bronnen beschrijven niet hoe de functie is gebouwd of welk model haar aandrijft. Ze melden wel dat de samenvattingen door Apple Intelligence worden gemaakt en als bèta worden gelabeld. Na de klachten zei Apple samengevatte meldingen cursief te gaan tonen, om ze van gewone meldingen te onderscheiden, en gebruikers toe te staan samenvattingen per app uit te zetten vanaf het vergrendelscherm.
Resultaten
De BBC klaagde dat het systeem van Apple haar nieuwsberichten verdraaide tot valse feiten. Eén voorbeeld voegde 22 afzonderlijke BBC-meldingen samen tot een kop die ten onrechte zei dat een moordverdachte zichzelf had neergeschoten. Andere voorbeelden waren een bericht dat een darter een wereldtitel had gewonnen vóór de finale plaatsvond, en een onjuiste bewering over een tennisser.
Wat er misging
In een verklaring aan CNBC zei Apple dat bètaversies van iOS 18.3, iPadOS 18.3 en macOS Sequoia 15.3 samenvattingen van meldingen voor de categorie Nieuws en Entertainment tijdelijk zouden uitschakelen. Verbeteringen zouden volgen in een toekomstige update. De BBC zei blij te zijn dat Apple had geluisterd en de functie voor nieuws had gepauzeerd.
Wat u kunt overnemen
Test samenvattingen op gevoelige inhoud, maak het makkelijk een categorie uit te zetten en label wat de AI heeft geschreven.
Lessen voor uw project
Test generatieve samenvattingen vóór de lancering op inhoud met grote gevolgen. Samenvattingen die meerdere verhalen samenvoegen, kunnen met grote stelligheid valse koppen opleveren.
Plan een noodschakelaar per categorie. Apple kon één soort inhoud uitschakelen en de rest van de functie laten draaien.
Label door AI geschreven tekst duidelijk. Apple ging samenvattingen cursief tonen en voegde op het vergrendelscherm een optie toe om ze per app uit te zetten.
Behandel merken van derden als belanghebbenden. Uitgevers van wie de koppen worden herschreven, zullen klagen als de herschrijving onjuist is.
Kanttekeningen
- Apple maakt het model achter de functie niet bekend, en de bronnen noemen er geen.
- De pauze gold volgens CNBC voor gebruikers van de bètasoftware van Apple, niet voor die van de hoofdversie. De bronnen melden niet wat er na de pauze gebeurde.
- Apple zegt dat het hele systeem Apple Intelligence in bèta is, en de bronnen geven geen foutpercentages, alleen voorbeelden.
- De bronnen noemen de lancering van Apple Intelligence als oktober zonder jaar. De maand in deployedDate is afgeleid uit de artikeldata.
- Mobile World Live is gelezen via een gearchiveerde kopie en neemt zelf 9to5Mac en The Guardian over. De oorspronkelijke klachtpagina van de BBC kon niet worden gelezen en wordt niet aangehaald.
Bronnen
- Apple disables AI notifications for news in its beta iPhone software
CNBC via NBC New York · 2025-01-16 · Nieuws · nbcnewyork.com
- Apple halts controversial AI news service
Mobile World Live · 2025-01-17 · Nieuws · mobileworldlive.com
- Apple scraps Apple Intelligence news feature in wake of false headlines
Tom's Guide · 2025-01-17 · Nieuws · tomsguide.com
In eigen woorden samengevat op basis van de bovenstaande bronnen. Een fout gezien? Zie correcties.