Traducido del original en inglés. Las cifras y las fuentes no cambian. Leer el original en inglés
Air Canada
Air Canada, responsable del consejo erróneo de su chatbot sobre tarifas por duelo
En febrero de 2024, un tribunal de Columbia Británica ordenó a Air Canada indemnizar a un pasajero después de que el chatbot de su web le diera información errónea sobre las tarifas por duelo. El tribunal rechazó el argumento de la aerolínea de que el chatbot era responsable de sus propias afirmaciones.
Cifras clave
Copiadas literalmente de las fuentes. Copie cualquier cifra con su cita.
Qué requirió
Las fuentes no divulgan el coste, el tamaño del equipo ni los plazos.
El problema
Air Canada puso un chatbot en su web para responder a las preguntas de los clientes. En noviembre de 2022, tras un fallecimiento en la familia, el pasajero Jake Moffatt le preguntó por las tarifas por duelo mientras reservaba vuelos.
Qué construyeron
Un chatbot de cara al cliente en la web. Las fuentes no describen cómo funcionaba ni qué modelo usaba.
Cómo lo hicieron
El chatbot dijo al señor Moffatt que podía solicitar una tarifa por duelo después del viaje. La política de la aerolínea no lo permitía. La expresión «tarifas por duelo» en el chat enlazaba con una página que recogía la política. El tribunal no vio motivo para que un cliente supiera que una parte de la web era correcta y otra no. Reservó los vuelos y después se le denegó el reembolso. Un representante de Air Canada reconoció más tarde que el chatbot había usado una redacción engañosa.
Qué salió mal
Air Canada alegó que no era responsable de lo que dijera su chatbot y sugirió que este era una entidad independiente. El miembro del tribunal Christopher Rivers calificó el argumento de llamativo y sostuvo que el chatbot forma parte de la web de la aerolínea. Concluyó que Air Canada tenía un deber de diligencia, que no actuó con el cuidado razonable para que el chatbot fuera exacto y que el señor Moffatt se fio de él de forma razonable. La aerolínea también invocó su tarifa, pero no presentó el contrato.
Resultados
La decisión se dictó el 14 de febrero de 2024. El tribunal fijó 650,88 dólares de indemnización por declaración negligente e inexacta, con intereses y el reembolso de las tasas del tribunal. Law360 Canada comunica un total de 812,02 dólares. La sentencia se cita mucho como advertencia de que las empresas responden por sus chatbots.
Lecciones para su proyecto
Una empresa responde de lo que dice su chatbot. El tribunal consideró que da igual que la información proceda de una página estática o de un chatbot.
No confíe en que un enlace a la página de políticas sirva de red de seguridad. El tribunal no vio motivo para que un cliente deba contrastar una parte de la web con otra.
Conserve las transcripciones de los chats y el texto exacto de las políticas y los contratos. Air Canada no presentó el contrato en el que se apoyaba, así que el tribunal no pudo valorar sus condiciones. Tampoco aportó pruebas sobre cuál habría sido la tarifa, y el tribunal sacó de ello una conclusión desfavorable.
Pruebe las respuestas sobre políticas de alto riesgo, como los reembolsos, antes del lanzamiento y después de cada cambio de política.
Salvedades
- La decisión del tribunal (Moffatt v. Air Canada, 2024 BCCRT 149) no pudo abrirse para esta ficha. Los detalles proceden de informes independientes de prensa jurídica y de análisis legales, de modo que el expediente original no se leyó directamente.
- No se divulgan el modelo, el proveedor ni el diseño del chatbot. La etiqueta de recuperación de documentos es la más cercana para un bot de respuestas en una web, no un diseño confirmado.
- Ninguna fuente indica cuándo se puso en marcha el chatbot. La fecha mostrada es aquella en que el pasajero lo usó (noviembre de 2022).
- La cantidad en juego era pequeña. La importancia está en el principio de responsabilidad, y la decisión de un tribunal de reclamaciones menores no vincula a otros tribunales.
Fuentes
- Court rejects Air Canada's 'remarkable' denial of liability regarding misinformation by its chatbot
Law360 Canada · 2024-02-16 · Noticia · law360.ca
- A Legal Analysis of the Air Canada A.I. Chatbot Decision
Travel Market Report · 2024-02-22 · Noticia · travelmarketreport.com
Resumido con nuestras propias palabras a partir de las fuentes anteriores. ¿Ha detectado un error? Consulte correcciones.