Representantes das duas tecnológicas avisam que vídeos e gravações de áudio gerados por inteligência artificial estão a tornar-se cada vez mais difíceis de distinguir de conteúdos autênticos, criando novos desafios para a justiça.Apesar do alerta, os tribunais dos Estados Unidos ainda registam poucos casos contestados por suspeitas de falsificação digital, levando os magistrados a ponderar se as leis actuais são suficientes para enfrentar o problema.
Inteligência artificial dificulta verificação de provas judiciais
Representantes da OpenAI e da Meta alertaram, na quinta-feira, 15 de Outubro, para os riscos crescentes da utilização de conteúdos falsificados por inteligência artificial como provas em processos judiciais nos Estados Unidos. Segundo os especialistas, os avanços dos modelos generativos permitem produzir vídeos e gravações de áudio cada vez mais convincentes, dificultando a identificação de materiais manipulados.
O alerta foi apresentado durante uma reunião em Boston do Comité Consultivo sobre Regras de Prova da Conferência Judicial dos Estados Unidos, organismo que acompanha questões relacionadas com a admissibilidade e a avaliação de provas nos tribunais federais norte-americanos.
O grupo debate desde 2023 formas de lidar com os chamados deepfakes, conteúdos audiovisuais gerados ou alterados artificialmente para representar acontecimentos, declarações ou comportamentos que podem nunca ter ocorrido.
A preocupação central é que um vídeo aparentemente autêntico, uma gravação de voz ou outro registo digital possa ser apresentado num julgamento e influenciar a avaliação dos factos, mesmo quando o material tenha sido fabricado ou manipulado.
Os participantes na reunião consideraram que a evolução tecnológica está a tornar esta tarefa mais complexa. Conteúdos que anteriormente apresentavam erros visuais ou sonoros perceptíveis podem agora atingir um nível de realismo capaz de enganar pessoas e ferramentas de verificação.
OpenAI considera improvável um método de detecção infalível
Shira Anderson, responsável pelas políticas jurídicas da OpenAI, advertiu que os conteúdos gerados por inteligência artificial estão a melhorar rapidamente e que poderá não existir um método científico capaz de identificar todos os materiais artificiais de forma fiável.
A responsável chamou a atenção para as limitações dos sistemas de detecção, numa altura em que os modelos generativos conseguem produzir imagens e vídeos cada vez mais realistas. A dificuldade não está apenas em reconhecer conteúdos falsos já conhecidos, mas também em verificar materiais novos, produzidos com ferramentas e técnicas diferentes.
O problema é particularmente relevante no contexto judicial, onde a autenticidade de uma prova pode influenciar decisões sobre responsabilidade criminal, indemnizações, contratos ou outros conflitos legais.
Uma gravação falsificada pode, por exemplo, atribuir declarações inexistentes a uma pessoa ou apresentar uma sequência de acontecimentos que não corresponde ao que realmente ocorreu. Se o material não for identificado a tempo, poderá afectar a interpretação dos factos antes de a sua autenticidade ser devidamente questionada.
A posição apresentada pela OpenAI não significa que todos os conteúdos produzidos por inteligência artificial sejam impossíveis de detectar. O alerta centra-se na ausência de um método universal que consiga identificar, com garantia absoluta, qualquer conteúdo artificial em todas as circunstâncias.
Meta alerta para a facilidade de criar conteúdos falsos
Devin Norder, director de gestão de produto da Meta, também destacou o grau de realismo alcançado pelos modelos generativos mais recentes. Segundo o responsável, determinados conteúdos produzidos por sistemas avançados podem ser indistinguíveis de materiais autênticos para um observador humano.
Outro factor preocupante é a redução do custo e do tempo necessários para produzir este tipo de material. Ferramentas de inteligência artificial permitem criar imagens, vozes e vídeos manipulados sem exigir os conhecimentos técnicos especializados que eram necessários em fases anteriores da tecnologia.
Esta facilidade de produção pode ampliar o número de pessoas capazes de fabricar provas falsas e tornar mais difícil determinar a origem de conteúdos suspeitos. A ameaça não depende apenas da sofisticação dos modelos, mas também da possibilidade de gerar grandes quantidades de material em pouco tempo.
No sistema judicial, a combinação entre realismo, baixo custo e facilidade de distribuição pode complicar o trabalho de advogados, peritos, investigadores e magistrados. A análise tradicional de vídeos e gravações poderá deixar de ser suficiente para confirmar a autenticidade de um registo.
As declarações dos representantes das duas empresas reflectem, assim, uma preocupação partilhada pela indústria tecnológica: os mecanismos de verificação precisam de acompanhar a evolução dos sistemas capazes de produzir conteúdos sintéticos.
Apenas 15 dos 931 juízes consultados relataram casos contestados
Apesar dos riscos identificados, os dados disponíveis indicam que o problema ainda não é frequente nos tribunais federais norte-americanos, pelo menos no que diz respeito a casos em que a autenticidade de uma prova foi formalmente contestada devido à possibilidade de se tratar de um deepfake.
Em Março de 2026, o Centro Judicial Federal, organismo de investigação do sistema judicial dos Estados Unidos, divulgou os resultados de um inquérito a juízes. Entre os 931 magistrados que responderam, apenas 15 disseram ter encontrado um processo em que uma das partes contestou a apresentação de provas por suspeitar que tinham sido fabricadas com inteligência artificial.
Os números mostram que os casos identificados continuam a representar uma pequena parcela das respostas recolhidas. Contudo, não demonstram que o risco seja inexistente ou que todos os conteúdos falsificados sejam detectados antes de chegarem aos tribunais.
A distinção é importante porque um material artificial pode não ser reconhecido como falso, ou a sua autenticidade pode não ser questionada pelas partes envolvidas. Por esse motivo, o número de casos contestados não corresponde necessariamente ao número total de conteúdos manipulados que possam ter sido apresentados em processos judiciais.
Jesse Furman, juiz federal de Manhattan e presidente do comité consultivo, reconheceu que existe uma diferença entre as previsões de especialistas sobre o impacto futuro dos deepfakes e a quantidade de casos concretos já identificados nos tribunais.
Perante esse cenário, o comité decidiu aprofundar a análise através de uma subcomissão dedicada ao problema, em vez de avançar imediatamente para uma nova regulamentação específica.
Sistemas de marca de água não garantem autenticidade
OpenAI e Meta estão entre as empresas que têm procurado desenvolver ferramentas e serviços destinados a ajudar a verificar a origem e a autenticidade de conteúdos digitais. Uma das abordagens utilizadas pela indústria consiste na aplicação de marcas de água digitais, que podem indicar que determinado material foi gerado ou alterado por inteligência artificial.
Algumas medidas legislativas na Califórnia e na União Europeia também exigem mecanismos de identificação ou marcação de determinados conteúdos sintéticos. A intenção é facilitar o reconhecimento de materiais artificiais e aumentar a transparência na sua circulação.
No entanto, estes mecanismos apresentam limitações. Segundo Anderson, cada empresa pode utilizar sistemas diferentes, sem existir uma solução universal capaz de identificar todas as marcas de água ou confirmar a autenticidade de qualquer imagem ou vídeo.
A ausência de normas técnicas comuns dificulta a utilização destes mecanismos como prova definitiva. Um sistema pode reconhecer determinados conteúdos produzidos por uma ferramenta específica e falhar perante materiais criados por outro modelo ou processados posteriormente.
Além disso, a existência de uma marca de água não substitui uma análise completa das circunstâncias em que o conteúdo foi produzido, guardado e apresentado. A validação de uma prova pode exigir a análise dos ficheiros originais, dos metadados disponíveis, da cadeia de custódia e de outros elementos que ajudem a confirmar a sua origem.
O desenvolvimento de ferramentas de verificação continua a ser relevante, mas os especialistas advertiram que não deverá ser encarado como uma solução infalível para o problema.
Juízes defendem cautela antes de criar novas regras
Apesar das advertências da indústria tecnológica, alguns membros do comité consideram que os tribunais não devem avançar precipitadamente para a criação de regras específicas para conteúdos produzidos por inteligência artificial.
Valerie Caproni, juíza federal de Manhattan e membro do comité, defendeu uma abordagem cautelosa, tendo em conta a falta de dados que demonstrem que as provas falsas geradas por inteligência artificial já constituem um problema generalizado nos tribunais.
A magistrada salientou que o sistema judicial já dispõe de regras destinadas a impedir a apresentação de provas fraudulentas e permite aos juízes avaliar se um determinado material foi falsificado.
Esta posição assenta na ideia de que a falsificação de provas não é um fenómeno inteiramente novo. Documentos adulterados, testemunhos falsos e outras formas de fraude já faziam parte dos desafios enfrentados pela justiça antes do aparecimento da inteligência artificial generativa.
A diferença está na escala e na facilidade com que as novas ferramentas podem produzir materiais audiovisuais convincentes. Por isso, embora as normas existentes possam continuar a ser aplicáveis, a forma de verificar a autenticidade das provas poderá precisar de evoluir.
O debate envolve, assim, duas preocupações: evitar que conteúdos falsificados comprometam os julgamentos e impedir que a introdução de regras demasiado amplas dificulte desnecessariamente a utilização de provas digitais legítimas.
Autenticidade das provas poderá exigir novas práticas
A crescente utilização de vídeos, mensagens, gravações de áudio e outros registos digitais nos processos judiciais torna a questão da autenticidade particularmente importante. À medida que os conteúdos sintéticos se tornam mais realistas, a aparência de uma gravação deixa de constituir, por si só, uma garantia suficiente de que o acontecimento retratado ocorreu.
Uma eventual resposta poderá envolver procedimentos mais rigorosos para preservar os ficheiros originais, documentar a origem das provas e permitir análises técnicas independentes quando existam dúvidas fundamentadas.
A verificação poderá também exigir maior cooperação entre magistrados, peritos digitais, investigadores e empresas responsáveis pelas ferramentas utilizadas para criar ou analisar conteúdos. Contudo, a aplicação de novos procedimentos terá de considerar os custos, a disponibilidade de especialistas e a necessidade de evitar atrasos excessivos nos processos.
Outro desafio será distinguir entre uma manipulação deliberadamente fraudulenta e conteúdos legítimos que tenham sido produzidos ou editados com recurso à inteligência artificial. A tecnologia pode ser utilizada para falsificar acontecimentos, mas também para tarefas legítimas de edição, restauração e produção audiovisual.
A avaliação judicial terá, por isso, de considerar o contexto, a origem e a finalidade do material, em vez de presumir que todo o conteúdo criado com inteligência artificial é falso ou que qualquer gravação aparentemente real é autêntica.
Sistema judicial procura antecipar os riscos
A decisão de criar uma subcomissão para aprofundar o tema demonstra que os responsáveis judiciais pretendem acompanhar a evolução tecnológica, mesmo sem evidências de que os casos contestados sejam actualmente generalizados.
O trabalho deverá contribuir para avaliar se as regras existentes conseguem responder às novas formas de falsificação e se serão necessárias orientações adicionais para a análise de provas digitais. A discussão também poderá ajudar a identificar situações em que os tribunais precisam de maior apoio técnico para avaliar materiais suspeitos.
O desafio não se limita aos Estados Unidos. Os sistemas judiciais de outros países enfrentam questões semelhantes à medida que a inteligência artificial se torna mais acessível e os conteúdos digitais assumem um papel crescente na investigação e na resolução de litígios.
A evolução das ferramentas de geração de imagens, áudio e vídeo poderá obrigar as instituições a rever práticas que durante muito tempo dependeram da avaliação visual ou auditiva dos materiais apresentados.
Para já, os magistrados norte-americanos procuram equilibrar a necessidade de prevenir fraudes com a prudência exigida pela ausência de dados que demonstrem a dimensão real do problema. A discussão deverá continuar à medida que surgirem novos casos e que a tecnologia evoluir.
A principal conclusão dos especialistas é que a verificação de provas digitais será cada vez mais exigente. Embora não exista actualmente um método universal e infalível para detectar todos os deepfakes, a resposta judicial dependerá da combinação entre regras de admissibilidade, análise técnica e avaliação rigorosa da autenticidade de cada prova.
