Vertaald uit het Engelse origineel. De cijfers en bronnen zijn ongewijzigd. Lees het Engelse origineel
Air Canada
Air Canada aansprakelijk voor onjuist advies van zijn websitechatbot over rouwtarieven
In februari 2024 gelastte een tribunaal in British Columbia Air Canada een passagier te vergoeden nadat de chatbot op de website onjuist advies over rouwtarieven had gegeven. Het tribunaal verwierp het argument van de luchtvaartmaatschappij dat de chatbot zelf verantwoordelijk was voor zijn uitspraken.
Kerncijfers
Letterlijk overgenomen uit de bronnen. Kopieer elk cijfer met bronvermelding.
$ 650,88
Toegekende schadevergoeding voor onzorgvuldige misleidende voorstelling1
$ 812,02
Gemeld totaalbedrag (schadevergoeding, rente en griffiekosten)1
$ 125
Aan de passagier terugbetaalde griffiekosten2
Wat het kostte
Kosten, teamgrootte en doorlooptijd zijn in de bronnen niet openbaar gemaakt.
Het probleem
Air Canada zette een chatbot op zijn website om vragen van klanten te beantwoorden. In november 2022, na een sterfgeval in de familie, vroeg passagier Jake Moffatt tijdens het boeken van vluchten naar rouwtarieven.
Wat ze bouwden
Een chatbot voor klanten op de website. De bronnen beschrijven niet hoe hij werkte of welk model erachter zat.
Hoe ze het aanpakten
De chatbot zei tegen de heer Moffatt dat hij na de reis een rouwtarief kon aanvragen. Het beleid van de maatschappij stond dat niet toe. Het woord rouwtarieven in de chat verwees naar een pagina met dat beleid. Het tribunaal zag geen reden waarom een klant zou moeten weten dat het ene deel van de website klopte en het andere niet. Hij boekte vluchten en kreeg daarna de terugbetaling geweigerd. Een medewerker van Air Canada erkende later dat de chatbot misleidende bewoordingen had gebruikt.
Wat er misging
Air Canada voerde aan dat het niet aansprakelijk was voor wat zijn chatbot zei, en suggereerde dat de chatbot een aparte entiteit was. Tribunaallid Christopher Rivers noemde dit een opmerkelijk standpunt en oordeelde dat de chatbot deel uitmaakt van de website van de maatschappij. Hij stelde vast dat Air Canada een zorgplicht had, niet de redelijke zorg had betracht om de chatbot juist te laten antwoorden en dat de heer Moffatt er redelijkerwijs op had vertrouwd. De maatschappij beriep zich ook op zijn tarief, maar legde het contract niet over.
Resultaten
De uitspraak werd gedaan op 14 februari 2024. Het tribunaal kende $ 650,88 schadevergoeding toe voor onzorgvuldige misleidende voorstelling, plus rente en terugbetaling van de griffiekosten. Law360 Canada meldt een totaalbedrag van $ 812,02. De uitspraak wordt veel aangehaald als waarschuwing dat bedrijven verantwoordelijk zijn voor hun chatbots.
Lessen voor uw project
Een bedrijf is verantwoordelijk voor wat zijn chatbot zegt. Het tribunaal vond het niet uitmaken of informatie van een statische pagina of van een chatbot komt.
Reken er niet op dat een link naar de beleidspagina als vangnet werkt. Het tribunaal zag geen reden waarom een klant het ene deel van de site zou moeten controleren aan het andere.
Bewaar chatgesprekken en de exacte tekst van beleid en contracten. Air Canada legde het contract waarop het zich beriep niet over, waardoor het tribunaal de voorwaarden niet kon meewegen. Ook leverde de maatschappij geen bewijs over wat het tarief zou zijn geweest, en het tribunaal trok daaruit een nadelige conclusie.
Test antwoorden over beleid met veel risico, zoals terugbetalingen, voor de livegang en na elke beleidswijziging.
Kanttekeningen
- De uitspraak van het tribunaal zelf (Moffatt v. Air Canada, 2024 BCCRT 149) kon voor dit dossier niet worden geopend. De details komen uit onafhankelijke juridische nieuwsberichten en analyses, dus het oorspronkelijke dossier is niet rechtstreeks gelezen.
- Model, leverancier en opzet van de chatbot zijn niet bekendgemaakt. Het patroonlabel voor het ophalen van documenten is de beste benadering voor een antwoordbot op een website, geen bevestigd ontwerp.
- Geen enkele bron meldt wanneer de chatbot live ging. De getoonde datum is het moment waarop de passagier hem gebruikte (november 2022).
- Het bedrag was klein. De betekenis zit in het aansprakelijkheidsbeginsel, en een uitspraak van een tribunaal voor kleine vorderingen bindt andere rechtbanken niet.
Bronnen
- Court rejects Air Canada's 'remarkable' denial of liability regarding misinformation by its chatbot
Law360 Canada · 2024-02-16 · Nieuws · law360.ca
- A Legal Analysis of the Air Canada A.I. Chatbot Decision
Travel Market Report · 2024-02-22 · Nieuws · travelmarketreport.com
In eigen woorden samengevat op basis van de bovenstaande bronnen. Een fout gezien? Zie correcties.