Air Canada a tenté de prétendre qu’elle n’était pas responsable des fausses promesses de son chatbot – mais cela n’a pas abouti devant les tribunaux
Les chatbots IA peuvent-ils alléger le fardeau des représentants du service client ? Beaucoup d’entreprises semblent le penser, mais elles feraient mieux d’espérer que leurs chatbots ne causent pas le même problème que celui d’Air Canada. La compagnie aérienne vient d’être forcé proposer un remboursement partiel à un client, honorant une politique de remboursement que son chatbot semble avoir inventée sur place.
L’incident en question est arrivé à Jack Moffat, qui s’est adressé au chatbot d’Air Canada pour l’aider à comprendre la politique de la compagnie aérienne en matière de voyages de deuil suite au décès de sa grand-mère. Le chatbot a expliqué qu’il était possible de réserver un vol immédiatement et de demander un remboursement partiel dans un délai de 90 jours.
Malheureusement, la politique d’Air Canada sur les voyages en cas de deuil stipule que la compagnie aérienne ne remboursera pas le voyage une fois le vol réservé. Pour cette raison, la demande de remboursement de Moffatt a été rejetée. Air Canada a admis que le robot était en faute, a proposé à la place un bon de vol de 200 $ et a promis de mettre à jour le chatbot pour s’assurer que cela ne se reproduise plus.
Insatisfait, Moffatt a déposé une plainte pour petites créances auprès du Tribunal de résolution civile du Canada.
Le principal argument d’Air Canada était que, parce que le chatbot avait établi un lien vers la page officielle de la politique en matière de deuil, Moffatt aurait dû savoir quelle était la situation. Il a également fait valoir que le chatbot n’aurait pas dû faire confiance en premier lieu et que la compagnie aérienne ne pouvait pas être tenue responsable puisque le bit était une « entité juridique distincte ».
De toute évidence, le tribunal n’a pas cru à cette excuse, d’autant plus qu’Air Canada n’a pas expliqué pourquoi elle n’était pas responsable des informations fournies par ses agents, y compris les chatbots et les représentants humains du service client. Le tribunal a également statué qu’Air Canada n’avait pas non plus expliqué pourquoi les clients devraient être responsables de la vérification des faits, et que Moffatt n’avait aucune raison de croire que le chatbot ne fournissait pas des informations exactes.
Moffatt a obtenu un remboursement partiel d’un montant de 650,88 $ CAD (428,29 $), plus des dommages-intérêts supplémentaires pour couvrir les intérêts et les frais du tribunal.
Il est plutôt déconcertant qu’Air Canada tente un jour de faire valoir cela devant les tribunaux. L’idée qu’une entreprise puisse proposer un chatbot à la place d’un représentant humain du service client, puis refuser d’accepter la responsabilité en cas de problème, est assez ridicule. Surtout quand une si petite somme d’argent est en jeu.
Adam Leon Smith, président de F-TAG, le groupe consultatif technique de BCS et expert de premier plan en matière de sécurité de l’IA, a déclaré à Jugo Mobile : « C’est incroyable qu’Air Canada ait même essayé de combattre cette affirmation. Dans ce contexte, les conseils donnés par un chatbot sont évidemment équivalents en valeur aux conseils donnés sur leur page web. Il a ajouté plus tard que « les déployeurs de l’IA doivent comprendre ses limites et qu’ils restent en fin de compte responsables des erreurs commises par l’IA en leur nom ».
«C’est incroyable qu’Air Canada ait même essayé de contester cette affirmation.
Adam Leon Smith, président du F-TAG
Pendant ce temps, Ryan Carrier, PDG de l’organisation de sécurité et de certification de l’IA pour l’Humanité, a également critiqué la réponse d’Air Canada et le précédent qu’elle aurait pu créer en cas de succès. Carrier a déclaré à Jugo Mobile que forHumanity a « constamment soutenu que tous les outils tels que l’IA, les algorithmes et les systèmes autonomes devraient toujours avoir un propriétaire bénéficiaire responsable et responsable ». En d’autres termes, les entreprises doivent connaître les risques liés à l’utilisation de chatbots et d’outils similaires, et si votre chatbot déraille et fait un tas de promesses, vous feriez mieux d’être prêt à les tenir.
Ou, vous savez, arrêtez d’essayer de lésiner sur le service client et embauchez des agents humains supplémentaires qui peuvent être formés et instruits pour ne pas élaborer la politique de l’entreprise à la volée. De cette façon, les clients savent quel est le problème et les entreprises n’ont pas à faire face à autant de plaintes furieuses concernant de fausses promesses.
De plus, les opérateurs humains peuvent être licenciés s’ils injurier les clientsou passer à écrire de la poésie qui critique leur employeur pendant les heures de travail.
- J’ai utilisé ChatGPT pour créer des images IA — voici comment vous pouvez le faire vous-même
- Avec l’iPhone 16 et l’IA, Apple doit suivre l’exemple du Galaxy S24
- Aperçu du MWC 2024 : plus de téléphones, de pliables, de casques de réalité mixte et d’anneaux intelligents
