China regula humanos digitais e regras superam expectativas

As autoridades de Pequim estão a sugerir a elaboração de um conjunto de normas inovadoras para a regulação das plataformas de inteligência artificial voltadas para companhia e avatares virtuais. Essas regras proíbem interações íntimas com menores, exigem intervenções nos casos de pensamentos suicidas e demandam que todo o conteúdo gerado por IA seja claramente identificado.

O surgimento das plataformas de companhia virtual chamou a atenção do regulador chinês, que através da Administração do Ciberespaço da China (CAC) divulgou, no dia 3 de abril, um conjunto de regulamentos preliminares para os chamados “humanos digitais”. Essas entidades digitais imitam a aparência e o comportamento humano, podendo interagir em conversas, simular emoções e estabelecer laços prolongados com os usuários.

Mantenha-se atualizado sobre as principais novidades em tecnologia e siga tudo em tek.sapo.pt

O documento estava disponível para consulta pública até o dia 6 de maio, mas seu conteúdo já gera um considerável interesse internacional. A própria CAC posicionou a questão ressaltando que “o governo dos humanos digitais já não é apenas uma questão de normas industriais, mas se tornou um desafio científico estratégico que diz respeito à segurança do ciberespaço, ao interesse público e à qualidade do desenvolvimento da economia digital.”

As propostas regulatórias se baseiam em diversos princípios, com destaque para o requisito de identificação. Todo conteúdo relacionado a um humano digital deverá exibir de forma permanente e visível a etiqueta “humano digital”. Dessa forma, busca-se evitar que os usuários fiquem inseguros sobre a natureza das interações, se estão conversando com uma pessoa real ou uma criação de inteligência artificial (IA). Essa exigência, embora pareça simples, implica uma transformação significativa para plataformas cujo valor comercial se fundamenta na ilusão de autenticidade.

A proteção dos menores é uma das partes mais detalhadas do regulamento, que propõe a proibição da oferta de relacionamentos íntimos virtuais para menores de 18 anos, incluindo figuras parentais ou parceiros românticos simulados. Também são vedados serviços que possam levar a gastos excessivos, estimular comportamentos prejudiciais ou ter um impacto negativo na saúde física e mental dos jovens. As plataformas que oferecem serviços de companhia emocional a menores devem ainda obter o consentimento explícito dos responsáveis legais.

Além dessa autorização, as plataformas devem disponibilizar ferramentas de controle parental, integrar um “modo para menores” que inclua lembretes regulares de que a interação não é com um humano real, e implementar limites de tempo de uso. Outro aspecto importante diz respeito aos protocolos em situações de crise. Quando um usuário expressar intenções de suicídio ou autolesão, os provedores de serviço serão obrigados a transferir a interação para um atendente humano e a contatar os familiares ou contatos de emergência.

Esse tipo de procedimento será necessário tanto para o registro de usuários menores quanto de idosos. O regulamento também determina a criação de um sistema de alerta para usos prolongados. Se a utilização contínua exceder duas horas, a plataforma deve emitir um alerta para que o usuário faça uma pausa. No que diz respeito a dados e identidade, as regras também são bastante rigorosas.

É proibido criar humanos digitais utilizando informações pessoais de terceiros sem o consentimento explícito, bem como usar avatares virtuais para driblar sistemas de verificação de identidade. Essa referência é vital para evitar fraudes e o uso de IA para contornar controles. O regulamento ainda veda expressamente que humanos digitais disseminem conteúdos que ameacem a segurança nacional, incitem à subversão do governo ou promovam a separação territorial.

Todas as plataformas com mais de um milhão de usuários registrados ou cem mil usuários ativos mensais também terão que submeter relatórios de avaliação de segurança às autoridades. O momento da criação dessas regras é especialmente significativo, visto que no mês anterior o governo chinês formalizou um novo plano de cinco anos relacionado às suas ambições para a adoção de IA em toda a economia. Dessa forma, a China não apenas investe pesadamente em tecnologia, mas também estabelece diretrizes claras para que seu uso seja controlado e seguro.

A lógica é semelhante àquela que norteou as restrições aos videogames em 2021, quando o tempo de jogo para menores de 18 anos foi limitado a três horas por semana. Agora, a mesma estrutura de intervenção é aplicada às plataformas de companhia virtual baseadas em IA. Essas regras farão com que os fornecedores de ferramentas de IA interativas realizem um investimento significativo em salvaguardas técnicas. Isso permitirá a implantação de moderação de conteúdo e mecanismos de proteção que, em vários aspectos, superam os requisitos de qualquer outra legislação internacional atual.

Inscreva-se na newsletter do TEK Notícias e receba diariamente as principais notícias de tecnologia diretamente na sua caixa de entrada.