IA que evolui sozinha pode chegar antes do previsto; Anthropic sugere travão no desenvolvimento
A Anthropic reconhece que uma IA que possa se auto-evoluir seria “um marco significativo na evolução tecnológica”, mas alerta sobre riscos consideráveis, afirmando que é vital desacelerar este progresso.
Com o desenvolvimento acelerado da Inteligência Artificial, a Anthropic declara que, em breve, os modelos poderão capacitar-se a se desenvolver sem a necessidade de intervenção humana. A empresa ressalta que essa evolução traz riscos sérios, defendendo a urgência de uma “pausa” em conjunto no progresso tecnológico.
Fique atento às novidades tecnológicas eacompanhe tudo em tek.sapo.pt
Um relatório da empresa indica que, ao longo da história da IA, os seres humanos sempre foram responsáveis por conduzir todas as etapas do seu progresso. No entanto, na Anthropic, cada vez mais desse trabalho está sendo transferido para sistemas de IA.
Os pesquisadores da empresa afirmam que, caso levada ao seu limite com capacidade computacional suficiente, tal tendência pode resultar em sistemas de IA capazes de criar e desenvolver seus próprios sucessores, conceito conhecido como auto-melhoria recursiva.
“Ainda não atingimos esse estágio, e a auto-melhoria recursiva não é uma certeza. No entanto, ela pode ocorrer mais rapidamente do que diversas instituições estão preparadas para lidar”, adverte a empresa.
Vídeo
Papa Leão XIV alerta para robots assassinos e a urgência de libertar a IA da lógica de “dominação, exclusão e morte”
Na sua primeira encíclica, o Papa Leão XVI expressa que a atual corrida em direção à IA apresenta o risco de um processo incontrolável de concentração de poder, onde a rapidez das inovações supera a capacidade de proteger a dignidade humana, a segurança e os direitos fundamentais.
Embora a Anthropic reconheça que uma IA autônoma representaria “um marco significativo na evolução tecnológica”, com a potencial de proporcionar melhorias notáveis em campos como a ciência e a saúde, a empresa enfatiza que essa habilidade pode aumentar o risco de perda de controle por parte dos humanos.
Na visão da Anthropic, se os sistemas forem capazes de criar seus próprios sucessores, é crucial dispor de mecanismos de segurança, monitoramento e controle sobre suas ações.
Nesse contexto, a empresa acredita que reduzir o desenvolvimento da IA seria benéfico, pois proporcionaria mais tempo para lidar com suas consequências. No entanto, essa “pausa” deve ser global, pois, caso contrário, pode resultar em efeitos adversos, diminuindo a segurança.
A Anthropic argumenta ainda que isso demandaria um consenso entre os principais laboratórios de IA, bem como diretrizes claras sobre seu funcionamento. Nos próximos meses, os pesquisadores da Anthropic planejam se reunir com tomadores de decisão, instituições de pesquisa e outras empresas de IA para debater como gerenciar os riscos futuros dos sistemas.
“Parem o treino de IA”: o que diz a carta aberta de signatários como Elon Musk e Steve Wozniak “contra” a OpenAI?
Uma carta aberta, com mais de mil assinaturas de personalidades reconhecidas, incluindo Elon Musk e Steve Wozniak…
Lembre-se de que não é a primeira vez que surgem pedidos para uma “pausa” no desenvolvimento da IA. Em 2023, uma carta aberta com mais de mil assinaturas solicitou que laboratórios parassem o treinamento de sistemas mais avançados que o GPT-4.
O documento, que incluía a assinatura de figuras como Elon Musk, Steve Wozniak e Evan Sharp, argumentava que, apesar do potencial desses sistemas, eles também apresentam riscos significativos à humanidade, referindo-se a pesquisas realizadas sobre esse assunto.
