A polícia chinesa deteve um homem que supostamente usou o ChatGPT para gerar notícias falsas e disseminá-las on-line, no que pode ser a primeira prisão no país relacionada ao uso do bot, informa o jornal SCMP.
“A polícia da província de Gansu, no noroeste da China, disse em um comunicado no domingo, 7 de Maio, que um suspeito, de sobrenome Hong, havia sido detido por ‘usar a tecnologia de inteligência artificial [IA] para inventar informações falsas e inverídicas'”, escreve o jornal.
O caso chamou a atenção da divisão cibernética da polícia local quando eles detectaram um artigo de notícias falsas que afirmava que nove pessoas morreram em um acidente de locomotiva em 25 de abril, segundo o artigo.
Os agentes de segurança cibernética do distrito de Kongtong descobriram que o artigo foi publicado simultaneamente por mais de 20 contas em uma plataforma de blogs chinesa. A publicação tinha recebido mais de 15.000 cliques quando chegou ao conhecimento das autoridades.
As informações foram geradas pelo ChatGPT, um popular chatbot de IA que tem recursos em diferentes áreas, incluindo redação e tradução de artigos.
De acordo com a polícia, Hong agiu na esperança de obter dinheiro por meio do alto tráfego da rede. Ele comprou muitas contas em plataformas on-line e espalhou as notícias falsas por meio dessas contas, disse a polícia.
“Esta é a primeira vez que o público toma conhecimento de uma prisão pelas autoridades chinesas depois que as primeiras disposições de Pequim para regulamentar o uso da tecnologia ‘deepfake’ entraram em vigor oficialmente em janeiro”, relata o SCMP.
As disposições, chamadas de Disposições Administrativas sobre Síntese Profunda para Serviço de Informações da Internet, definem síntese profunda como o uso de tecnologias – incluindo aprendizado profundo e realidade aumentada – para gerar texto, imagens, áudio e vídeo e criar cenários virtuais.
Após uma investigação preliminar, se descobriu que as contas pertenciam a uma empresa que opera plataformas de mídia pessoal em Shenzhen, cujo representante legal era Hong.
A declaração diz que Hong confessou ter contornado a função de verificação de duplicação da rede social para publicar a mesma notícia em várias contas.
Ele inseriu no ChatGPT os elementos das histórias sociais populares na China nos últimos anos para produzir rapidamente diferentes versões da mesma história falsa e carregou-as em suas contas.
