Air Canada jugée responsable des mauvais conseils de son chatbot sur les tarifs de deuil

Le problème

Air Canada a mis un chatbot sur son site pour répondre aux questions des clients. En novembre 2022, à la suite d’un décès dans sa famille, le passager Jake Moffatt l’a interrogé sur les tarifs de deuil au moment de réserver ses vols.

Ce qu’ils ont construit

Un chatbot grand public sur le site web. Les sources ne décrivent ni son fonctionnement ni le modèle utilisé.

Comment ils s’y sont pris

Le chatbot a indiqué à M. Moffatt qu’il pouvait demander un tarif de deuil après son voyage. La politique de la compagnie ne le permettait pas. Les mots « tarifs de deuil » dans la conversation renvoyaient vers une page qui énonçait cette politique. Le tribunal n’a vu aucune raison pour qu’un client sache qu’une partie du site était exacte et une autre non. Il a réservé ses vols, puis s’est vu refuser le remboursement. Un représentant d’Air Canada a ensuite reconnu que le chatbot avait employé une formulation trompeuse.

Ce qui a mal tourné

Air Canada a soutenu qu’elle n’était pas responsable des propos de son chatbot, qu’elle présentait comme une entité distincte. Le membre du tribunal Christopher Rivers a qualifié cette thèse de remarquable et jugé que le chatbot fait partie du site web de la compagnie. Il a estimé qu’Air Canada avait un devoir de diligence, qu’elle n’avait pas pris de précautions raisonnables pour que le chatbot soit exact et que M. Moffatt s’y était raisonnablement fié. La compagnie a aussi invoqué son tarif, sans produire le contrat.

Résultats

La décision a été rendue le 14 février 2024. Le tribunal a accordé 650,88 $ de dommages-intérêts pour déclaration inexacte faite par négligence, ainsi que les intérêts et le remboursement des frais du tribunal. Law360 Canada indique un total de 812,02 $. Cette décision est largement citée comme un avertissement : les entreprises répondent de leurs chatbots.