Chatbot da empresa errou: 6 travas para não repetir

A Resposta Errada do Chatbot: Mais que um Bug, um Risco Jurídico

A implementação de chatbots de Inteligência Artificial (IA) em sites e aplicativos de atendimento trouxe inúmeras vantagens para as empresas, como a otimização de processos e a disponibilidade 24/7. No entanto, um erro de resposta de um chatbot não é apenas uma falha técnica pontual; no Brasil, essa situação pode se transformar em um passivo jurídico significativo. O artigo 30 do Código de Defesa do Consumidor (CDC) vincula o fornecedor a toda informação ou publicidade veiculada, mesmo que proveniente de sistemas automatizados.

Recentemente, um caso notório no Canadá, Moffatt v. Air Canada, evidenciou essa responsabilidade. Após receber informações incorretas de um chatbot sobre tarifas de luto, o consumidor buscou reparação. A companhia aérea tentou argumentar que o chatbot era uma entidade separada e não responsável por suas falhas, uma tese que o tribunal considerou notável. O entendimento foi claro: o chatbot é parte integrante do site da empresa, e a origem da informação (página estática ou IA) não altera a responsabilidade do fornecedor.

Este post abordará seis travas essenciais para garantir que seu chatbot de IA opere com precisão, segurança e em conformidade com a lei, evitando que sua empresa enfrente consequências legais e danos à reputação. Se você é dono de PME ou gestor de atendimento e já integrou ou planeja integrar IA em suas operações, este guia completo é para você.

Principais Pontos:

• Responsabilidade Legal: No Brasil, o artigo 30 do CDC torna o fornecedor responsável por informações geradas por chatbots.
• Precedente Internacional: O caso Air Canada demonstra que a alegação de que a IA é uma entidade separada não isenta a empresa de responsabilidade.
• Mitigação Técnica: Técnicas como Retrieval Grounding (RAG) e guardrails em camadas reduzem drasticamente a alucinação de LLMs (Large Language Models).
• Prevenção de Alucinações: A taxa base de alucinação de LLMs pode variar, exigindo múltiplas camadas de proteção.
• Integração e Monitoramento: Conectar o bot a sistemas internos e monitorar logs são cruciais para a assertividade.

Entendendo o Risco Jurídico: O CDC e a Vinculação da Informação

No Brasil, o Código de Defesa do Consumidor (CDC) é a principal salvaguarda contra práticas comerciais abusivas. O artigo 30 é categórico: "Toda informação ou publicidade, suficientemente precisa, veiculada por qualquer forma ou meio de comunicação com relação a produtos e serviços, obriga o fornecedor, bem como aquele que dela se utiliza para práticas comerciais."

Isso significa que, independentemente de o chatbot ser um sistema de fluxo de conversação simples ou um modelo avançado de IA generativa, qualquer informação prestada a um cliente tem o poder de vincular a empresa. Análises jurídicas sobre o tema no país são unânimes: alegar que a promessa ou informação foi gerada automaticamente pelo sistema não isenta o fornecedor de sua obrigação. Falhas em sistemas automatizados ou decisões algorítmicas que resultem em prejuízo ao consumidor não podem ser repassadas a ele.

O chatbot é uma ferramenta do fornecedor, não uma entidade jurídica independente. Logo, a responsabilidade por suas falhas recai sobre a empresa.

O Caso Air Canada: Um Alerta Global

Em 14 de fevereiro de 2024, o Civil Resolution Tribunal da Colúmbia Britânica, no Canadá, proferiu uma decisão significativa no caso Moffatt v. Air Canada. Jake Moffatt, após a morte de sua avó, consultou o chatbot da Air Canada no site da companhia em busca de informações sobre tarifas especiais para luto (bereavement fare). O chatbot forneceu informações incorretas sobre a política da empresa.

A Air Canada, em sua defesa, sustentou que não poderia ser responsabilizada pelas informações prestadas por seu chatbot, argumentando que a IA seria uma entidade legal separada e responsável por seus próprios atos. O tribunal, em uma decisão que chamou essa alegação de notável, considerou que o chatbot é, na verdade, parte integrante do site da empresa. Portanto, não faz diferença se a informação foi apresentada em uma página estática tradicional ou através de uma interface de conversação com IA.

Essa decisão reforça a tese de que a tecnologia utilizada não afasta a responsabilidade legal do fornecedor. Empresas que implementam chatbots devem estar cientes de que as interações mediadas por essas ferramentas criam obrigações legais.

As Seis Travas Essenciais para Evitar Respostas Erradas do Chatbot

Para mitigar o risco de que seu chatbot forneça informações incorretas e proteja sua empresa de passivos jurídicos e danos à reputação, é fundamental implementar um conjunto robusto de salvaguardas. Essas travas podem ser divididas entre técnicas e processuais.

1. Retrieval Grounding (RAG): O Pilar Contra a Alucinação

Um dos maiores desafios dos modelos de linguagem grandes (LLMs) é a alucinação: a tendência de gerar informações falsas ou sem base nos dados de treinamento, apresentando-as como fatos. O Retrieval Grounding (RAG), ou Aterramento por Recuperação, é a técnica isolada mais eficaz para combater esse problema.

O RAG funciona buscando informações relevantes em uma base de dados confiável (documentos da empresa, FAQs, manuais) e utilizando esses dados para