Quem arca com as consequências quando a IA mente?
Com base em casos jurídicos específicos, Tony Branco levanta a questão sobre quem é responsável quando a inteligência artificial falha ou apresenta informações falsas. Ele observa que um cliente que perde um litígio devido a erros desses modelos pode, em teoria, reivindicar responsabilidades contra aqueles que os introduziram.
Artigo de Tony Branco (*)
Em 28 de maio, o Tribunal Regional de Munique I proferiu uma decisão notável no âmbito da inteligência artificial. Quando a IA produz textos de forma autônoma, esses textos pertencem à empresa e esta deve arcar com a responsabilidade.
O caso 26 O 869/26 relata que duas editoras da cidade descobriram que os resumos gerados pela IA do Google, conhecidos como AI Overviews, estavam vinculando seus nomes a fraudes e golpes de assinatura, sem que essas acusações estivessem presentes nas fontes citadas pelo sistema. A IA, portanto, havia fabricado tais alegações e as apresentado como verdades.
O Google defendeu que não admite como seus os conteúdos que o sistema processa. No entanto, os juízes desconsideraram essa alegação. O AI Overview não se limita a agregar links; ele gera afirmações independentes com linguagem e estrutura próprias. Essa diferença em relação a um motor de busca convencional tem significativas implicações jurídicas.
A decisão é provisória e pode ser contestada, mas a lógica estabelecida é difícil de ser ignorada e sua influência se estende além de Munique.
A questão chave que surge a partir dessa decisão é: quando a IA erra em uma peça processual, quem assume a responsabilidade?
No caso 986/23.7GAFAF.G1, o Tribunal da Relação de Guimarães encontrou seis acórdãos mencionados em uma peça de defesa que não constavam na DGSI. Já no caso 3156/24.3T8VNG.P1, o Tribunal da Relação do Porto reconheceu por escrito que não tinha meios de verificar se a peça havia sido gerada por IA. Estão em questão dois tribunais coletivos em contextos distintos, onde o sistema se viu sem uma resposta clara.
O direito europeu oferece uma resposta parcial. A Diretiva (UE) 2024/2853, que trata da responsabilidade por produtos defeituosos, será aplicada a partir de dezembro deste ano e abrange componentes de inteligência artificial. Entretanto, quando uma peça processual que contém jurisprudência fabricada entra nessa categoria? A Diretiva não esclarece, mas abre um precedente.
No dia 11 de junho, a Procuradoria-Geral da República tomou uma medida institucional clara ao proibir o uso de IA para prever condenações. Criou um Comitê de Supervisão e considerou as alucinações jurisprudenciais como um risco evidente.
A meu ver, a alegação de “a IA cometeu um erro” não será uma defesa sustentável por muito mais tempo. O tribunal de Munique já declarou isso, e com razão, ao Google. A obrigação de verificação não desaparece simplesmente porque o erro partiu do modelo. Um cliente que perde um processo baseado em acórdãos inexistentes tem, teoricamente, uma ação contra aqueles que os apresentaram.
Quem é responsável quando a IA apresenta informações falsas?
Por enquanto, a resposta é: quem perdeu o processo.
