Nova regulamentação impõe limites às plataformas de companheiros virtuais e combate dependência emocional da inteligência artificial
Empresas terão de implementar mecanismos de protecção, identificação de utilizadores e controlo da utilização
A China vai proibir que plataformas de inteligência artificial ofereçam relações amorosas virtuais ou outros vínculos afectivos simulados a menores de idade, ao abrigo de um novo conjunto de regras destinado a regular os serviços de interacção emocional entre humanos e sistemas de inteligência artificial. As medidas entram em vigor a 15 de Julho.
As novas normas, aprovadas pela Administração do Ciberespaço da China em conjunto com outras entidades governamentais, aplicam-se aos serviços de inteligência artificial concebidos para simular a personalidade, a forma de pensar e o estilo de comunicação de seres humanos, desde que promovam interacções emocionais continuadas com os utilizadores.
Entre as principais restrições encontra-se a proibição de disponibilizar “parceiros virtuais”, “familiares virtuais” ou qualquer outro tipo de relação íntima simulada a utilizadores com menos de 18 anos. Para menores de 14 anos, qualquer outro serviço abrangido pela regulamentação exigirá autorização dos pais ou representantes legais.
A legislação determina ainda que as plataformas implementem um modo específico para menores, com limites de tempo de utilização, lembretes periódicos de que o utilizador está a interagir com uma inteligência artificial e ferramentas de controlo parental. As empresas terão igualmente de impedir que os sistemas incentivem dependência emocional, manipulem decisões dos utilizadores ou prejudiquem as suas relações interpessoais no mundo real.
Outra exigência passa pela monitorização de situações de risco. Caso o sistema detecte sinais de automutilação, tendências suicidas ou outros comportamentos potencialmente perigosos, deverá activar mecanismos de intervenção e, quando aplicável, contactar um encarregado de educação ou um contacto de emergência previamente indicado pelo utilizador.
As empresas terão ainda de submeter os seus sistemas a avaliações de segurança, registar os algoritmos junto das autoridades chinesas e cumprir requisitos adicionais de gestão de dados, transparência e protecção da privacidade. Serviços que ultrapassem determinados níveis de utilização estarão sujeitos a controlos regulatórios mais exigentes antes de poderem operar no mercado chinês.
A regulamentação surge numa altura em que cresce a popularidade das aplicações de companhia virtual baseadas em inteligência artificial. Nos últimos meses, várias plataformas chinesas permitiam aos utilizadores criar personagens capazes de manter conversas persistentes e desenvolver ligações afectivas ao longo do tempo, fenómeno que levou as autoridades a manifestarem preocupação com riscos de dependência psicológica e manipulação emocional.
Especialistas consideram que estas medidas representam um dos enquadramentos regulatórios mais abrangentes do mundo para serviços de companhia virtual baseados em inteligência artificial. Ao contrário de outras legislações centradas sobretudo na privacidade e na transparência, as novas regras chinesas procuram também limitar o impacto emocional destes sistemas sobre os utilizadores e estabelecer fronteiras claras para o seu desenvolvimento.
