Tradotto dall'originale inglese. Dati e fonti restano invariati. Leggi l'originale in inglese
Air Canada
Air Canada ritenuta responsabile per il consiglio sbagliato del chatbot sulle tariffe per lutto
Nel febbraio 2024 un tribunale della Columbia Britannica ha ordinato ad Air Canada di risarcire un passeggero dopo che il chatbot del sito gli aveva dato un’informazione errata sulle tariffe per lutto. Il tribunale ha respinto la tesi della compagnia secondo cui il chatbot sarebbe responsabile delle proprie affermazioni.
Dati chiave
Copiati esattamente dalle fonti. Copiate qualsiasi dato insieme alla sua citazione.
Cosa è servito
Le fonti non rendono noti costi, dimensioni del team e tempi.
Il problema
Air Canada ha messo sul proprio sito un chatbot per rispondere alle domande dei clienti. Nel novembre 2022, dopo un lutto in famiglia, il passeggero Jake Moffatt gli ha chiesto delle tariffe per lutto mentre prenotava i voli.
Cosa hanno costruito
Un chatbot rivolto ai clienti sul sito. Le fonti non descrivono come funzionasse né quale modello usasse.
Come ci sono riusciti
Il chatbot ha detto al signor Moffatt che poteva richiedere la tariffa per lutto dopo il viaggio. La politica della compagnia non lo consentiva. L’espressione «tariffe per lutto» nella chat rimandava a una pagina che indicava la regola. Il tribunale non ha visto motivo per cui un cliente dovesse sapere che una parte del sito era corretta e un’altra no. Lui ha prenotato i voli e poi gli è stato negato il rimborso. Un rappresentante di Air Canada ha poi ammesso che il chatbot aveva usato una formulazione fuorviante.
Cosa è andato storto
Air Canada ha sostenuto di non essere responsabile di ciò che dice il suo chatbot e ha suggerito che fosse un’entità separata. Il membro del tribunale Christopher Rivers ha definito la tesi notevole e ha stabilito che il chatbot fa parte del sito della compagnia. Ha ritenuto che Air Canada avesse un dovere di diligenza, che non avesse usato la ragionevole cura per rendere accurato il chatbot e che il signor Moffatt vi avesse fatto ragionevole affidamento. La compagnia ha anche citato la propria tariffa, ma non ha prodotto il contratto.
Risultati
La decisione è stata resa il 14 febbraio 2024. Il tribunale ha disposto 650,88 dollari di risarcimento per dichiarazione inesatta per negligenza, con interessi e rimborso delle spese del tribunale. Law360 Canada riporta un totale di 812,02 dollari. La sentenza è molto citata come monito: le aziende rispondono dei loro chatbot.
Lezioni per il vostro progetto
Un’azienda risponde di ciò che dice il suo chatbot. Per il tribunale non fa differenza che l’informazione arrivi da una pagina statica o da un chatbot.
Non contate su un link alla pagina delle regole come rete di sicurezza. Il tribunale non ha visto motivo per cui un cliente debba confrontare una parte del sito con un’altra.
Conservate le trascrizioni delle chat e il testo esatto di regole e contratti. Air Canada non ha prodotto il contratto su cui si basava, quindi il tribunale non ha potuto esaminarne le condizioni. Non ha nemmeno fornito prove su quale sarebbe stata la tariffa, e il tribunale ne ha tratto una conclusione sfavorevole.
Testate le risposte sulle regole ad alto rischio, come i rimborsi, prima del lancio e dopo ogni modifica delle regole.
Avvertenze
- La decisione del tribunale (Moffatt v. Air Canada, 2024 BCCRT 149) non è stata consultabile per questa scheda. I dettagli provengono da resoconti indipendenti della stampa giuridica e da analisi legali, quindi il documento originale non è stato letto direttamente.
- Modello, fornitore e progettazione del chatbot non sono resi noti. L’etichetta di recupero dei documenti è quella più vicina per un bot di risposte su un sito, non un’architettura confermata.
- Nessuna fonte dice quando il chatbot è entrato in funzione. La data indicata è quella in cui il passeggero lo ha usato (novembre 2022).
- La somma in gioco era modesta. Il rilievo sta nel principio di responsabilità, e la decisione di un tribunale per le controversie di modesta entità non vincola gli altri giudici.
Fonti
- Court rejects Air Canada's 'remarkable' denial of liability regarding misinformation by its chatbot
Law360 Canada · 2024-02-16 · Notizia · law360.ca
- A Legal Analysis of the Air Canada A.I. Chatbot Decision
Travel Market Report · 2024-02-22 · Notizia · travelmarketreport.com
Riassunto con parole nostre a partire dalle fonti sopra indicate. Avete notato un errore? Consultate le rettifiche.