Deepfakes no ambiente corporativo: prevenção, responsabilidade e litígios

A inteligência artificial generativa transformou a forma como empresas produzem conteúdo, automatizam processos e se comunicam. Contudo, a mesma tecnologia que impulsiona ganhos de eficiência vem sendo utilizada para criar uma nova categoria de risco corporativo: os chamados deepfakes.

Por meio de técnicas avançadas de aprendizado de máquina, tornou-se possível reproduzir com elevado grau de fidelidade a imagem, a voz e até mesmo os padrões de comunicação de uma pessoa. O que antes exigia sofisticados recursos de edição audiovisual hoje pode ser produzido em poucos minutos, com ferramentas amplamente acessíveis — e o resultado é o crescimento de fraudes cada vez mais difíceis de identificar.

Nos últimos meses, casos envolvendo mensagens de voz fraudulentas passaram a ocupar espaço nas discussões sobre segurança corporativa em diversos países. Em algumas situações, colaboradores foram induzidos a realizar transferências financeiras após receberem supostas instruções de diretores da empresa; em outras, criminosos utilizaram a imagem e a voz de representantes comerciais para obter informações estratégicas ou acessar sistemas internos.

O problema, portanto, deixa de ser apenas tecnológico e passa a ter relevantes implicações jurídicas.

Do ponto de vista do contencioso cível, os deepfakes têm potencial para gerar disputas envolvendo responsabilidade civil, perdas financeiras, vazamento de informações confidenciais, danos reputacionais e conflitos contratuais.

A depender das circunstâncias, a discussão pode alcançar não apenas o autor da fraude, mas também terceiros envolvidos na cadeia de segurança da informação, incluindo prestadores de serviço e parceiros comerciais. Surge, nesse contexto, uma questão central: até que ponto uma empresa pode ser responsabilizada pelos prejuízos decorrentes de uma fraude baseada em inteligência artificial?

A resposta dependerá da análise do caso concreto, mas alguns elementos tendem a assumir papel determinante. A existência de protocolos internos de validação, mecanismos de autenticação, treinamentos periódicos de colaboradores e políticas de segurança digital poderá influenciar diretamente a avaliação sobre eventual falha na adoção de medidas preventivas adequadas.

Em outras palavras, a discussão jurídica frequentemente gravitará não apenas em torno da ocorrência da fraude, mas também do grau de diligência empregado pela organização para reduzir riscos previsíveis.

Outro desafio crescente diz respeito à produção de provas. À medida que imagens, vídeos e áudios podem ser manipulados com alto grau de realismo, a simples existência de um registro digital deixa de representar, por si só, garantia de autenticidade. Isso impõe novas exigências à atividade probatória, tornando cada vez mais relevantes elementos como metadados, registros de sistemas, perícias técnicas e mecanismos capazes de demonstrar a origem e a integridade das informações apresentadas em juízo.

A tendência é que os tribunais passem a lidar com maior frequência com discussões sobre autenticidade de conteúdos digitais, exigindo das partes uma atuação mais rigorosa na preservação e na produção de provas.

Diante desse cenário, a prevenção assume papel estratégico. Políticas de governança digital, procedimentos de dupla validação para operações sensíveis, treinamentos voltados à identificação de fraudes e controles adequados sobre o uso de inteligência artificial deixam de ser apenas boas práticas de gestão para se tornarem instrumentos concretos de mitigação de riscos jurídicos.

A evolução tecnológica continuará ampliando as possibilidades de utilização da inteligência artificial nos negócios, e o desafio das empresas não está em resistir à inovação, mas em desenvolver estruturas capazes de acompanhar seus riscos.

No caso dos deepfakes, a questão já não é se a tecnologia será utilizada por agentes mal-intencionados, mas se as organizações estão preparadas para identificar essas ameaças e responder adequadamente quando elas se materializarem.