IA que gera nudes sem consentimento sob análise da União Europeia: Proibição em discussão
Além da produção de imagens sexuais sem autorização, o Conselho da União Europeia está a sugerir a proibição de sistemas de IA que gerem conteúdo de abuso sexual infantil.
Recentemente, o Conselho da União Europeia alcançou um consenso sobre a proposta que visa facilitar algumas das normas relacionadas com inteligência artificial. Esta iniciativa, que faz parte do pacote legislativo Omnibus VII (também conhecido como Digital Omnibus), está integrada na agenda de simplificação da União Europeia.
Mantenha-se atualizado com as principais notícias do setor tecnológico esiga tudo em tek.sapo.pt
Conforme destacado em comunicado, o mandatário do Conselho introduziu uma nova cláusula no AI Act que proíbe a utilização de IA para a criação de conteúdo sexual ou íntimo sem consentimento, assim como a geração de material de abuso sexual infantil.
Lembre-se que, no início do ano, tanto o Grok quanto a plataforma X estiveram envolvidos em controvérsia depois de aparecerem relatos de que o chatbot de IA estava a ser usado para gerar imagens sexualizadas de crianças, que foram disseminadas na plataforma.
A empresa inicialmente tentou minimizar a situação, mas o caso acabou por colocar a rede social de Elon Musk em “maus lençóis” com reguladores ao redor do mundo, incluindo na Europa.
Investigação aberta ao Grok pela partilha de conteúdo ilegal na rede social X
No contexto do Regulamento dos Serviços Digitais (DSA), a Comissão Europeia iniciou uma nova investigação sobre a rede social X devido a…
No início do ano, a Comissão Europeia deu início a uma investigação à rede social X, focando-se especialmente no Grok e na disseminação de conteúdo ilícito, como imagens sexualmente explícitas manipuladas por IA e outros conteúdos que possam ser considerados materiais de abuso sexual infantil.
Antes do anúncio da investigação, a plataforma havia avisado os utilizadores que a criação de imagens na rede social usando a IA do Grok seria restrita, uma medida anunciada um dia após a determinação de que teriam de guardar todos os documentos referentes ao chatbot até que a Comissão Europeia garantisse a conformidade com as regras ativadas na região.
Posteriormente, a xAI decidiu reforçar as restrições à edição de imagens com a IA do Grok, aplicando-as a todos os usuários da ferramenta.
Vários aplicativos para criar nudes com IA ainda estão disponíveis nas plataformas Android e iOS
Após as controvérsias envolvendo o Grok, um relatório de uma ONG revela que não é apenas utilizando o assistente…
Além disso, uma análise recente nas lojas de aplicativos das principais plataformas móveis, Android e iOS, concluiu que em ambas é possível acessar diversas aplicações que permitem criar nudes a partir de fotos comuns, utilizando inteligência artificial.
Foram identificadas 55 aplicações desse tipo na Play Store da Google e 47 na App Store da Apple, que somaram mais de 700 milhões de downloads globalmente e geraram receitas de 117 milhões de dólares.
Facilitação das normas de IA na Europa
O Conselho enfatiza que o pacote do Digital Omnibus inclui sugestões para dois regulamentos cujo objetivo é simplificar a legislação digital da UE e a aplicação harmonizada das normas para a IA.
Além das questões referentes à criação de conteúdo sexual sem consentimento ou de material de abuso sexual infantil através de IA, o texto acordado também estabelece um cronograma fixo para a implementação das normas do AI Act para sistemas de risco elevado.
Dessa forma, as novas datas seriam 2 de dezembro de 2027 para sistemas de IA autônomos de alto risco e 2 de agosto de 2028 para os sistemas de alto risco integrados em produtos.
O Conselho também restabelece a exigência de que os fornecedores de sistemas de alto risco registrem suas tecnologias na base de dados pertinente da UE, mesmo considerando que seus sistemas estão isentos dessa classificação.
O texto adianta para 2 de dezembro de 2027 o prazo para a criação de ambientes regulatórios de IA pelas autoridades nacionais competentes, esclarecendo ainda as competências do AI Office na supervisão de sistemas que utilizam modelos de IA geral quando o modelo e o sistema forem desenvolvidos pelo mesmo fornecedor.
Também são especificadas as exceções nas quais as autoridades nacionais continuam a ter jurisdição, incluindo áreas como aplicação da lei, gestão de fronteiras, autoridades judiciais e instituições financeiras.
O Conselho estabelece ainda uma nova obrigação para a Comissão Europeia, que deverá oferecer orientações às empresas que utilizam sistemas de IA de alto risco para garantir a conformidade com os requisitos do AI Act.
Após a aprovação do mandato do Conselho, a presidência iniciará as negociações com o Parlamento Europeu.
Nota de redação: A notícia foi atualizada com informações adicionais. (Última atualização: 17h02)
