Air Canada foi derrotada em um processo judicial depois que seu assistente virtual divulgou informações falsas sobre políticas para um cliente.

A justificativa da Air Canada de que seu chatbot de atendimento ao cliente, impulsionado por inteligência artificial, era unicamente responsável por suas próprias ações não foi aceita no tribunal civil, e agora a empresa terá que restituir um cliente que foi informado incorretamente sobre a compensação de sua tarifa aérea.

Em 2022, houve um incidente com um cliente da Air Canada chamado Jake Moffatt, que interagiu com o chatbot da companhia aérea para obter orientações sobre como se qualificar para a tarifa de luto para uma viagem urgente relacionada a um funeral. O chatbot informou a Moffatt que seria possível solicitar um reembolso retroativo da diferença entre o valor de um bilhete regular e o da tarifa de luto, contanto que fosse feito dentro de um prazo de 90 dias após a compra.

Essa não é a prática adotada pela empresa aérea. Conforme informado no site da Air Canada:

A Air Canada possui uma política de viagens de emergência que é uma alternativa para passageiros que necessitam viajar devido a um evento de morte iminente ou falecimento de um parente próximo. É importante notar que esta política não contempla reembolsos para viagens já realizadas.

Após a recusa da Air Canada em reembolsar devido a um erro de informação, Moffat decidiu processá-los. A companhia aérea alegou que não era responsável pelas respostas do seu chatbot, considerando-o uma entidade separada que deveria assumir a responsabilidade por suas ações. Além disso, a Air Canada argumentou que não era responsável por informações fornecidas por “agentes, servidores ou representantes – incluindo um chatbot”, deixando dúvidas sobre o significado disso.

De acordo com um membro do tribunal canadense, embora um chatbot tenha uma função interativa, ele é apenas uma parte do site da Air Canada. A responsabilidade da companhia por todas as informações em seu site deve ser clara, independentemente de a informação ser proveniente de uma página estática ou de um chatbot.

• O sistema de inteligência artificial do Snapchat publicou uma postagem e em seguida deixou de interagir. Isso desagradou os usuários.
• “O artigo ‘Eternal You’ explora a intenção dos chatbots de inteligência artificial em trazer de volta os falecidos.”
• O assistente virtual da Microsoft Bing AI Copilot fornece informações eleleitorais incorretas.
• ChatGPT agora irá reter informações sobre você.
• OpenAI fala sobre possível divulgação não autorizada de diálogo privado do ChatGPT.

O caso pioneiro em um tribunal canadense pode afetar futuramente outras empresas que incluem inteligência artificial ou agentes de aprendizado de máquina em seus serviços de atendimento ao cliente.

Inteligência Artificial se refere à capacidade das máquinas de realizar tarefas que normalmente requerem inteligência humana.