A quantidade de informações que compartilhamos online sem perceber
Em uma entrevista, Joana Gonçalves de Sá discute sobre algoritmos, viés e os sistemas de recomendação que nos influenciam, afirmando que a responsabilidade pela proteção digital não pode recair sobre o consumidor. O Regulamento dos Serviços Digitais (DSA) é considerado a “barragem” decisiva para assegurar a qualidade da “água informativa”.
Os algoritmos de inteligência artificial e recomendação evoluíram de simples códigos invisíveis para se tornarem os criadores da informação que consumimos diariamente. Contudo, a ideia de que essas ferramentas operam sem viés é uma falsa concepção.
Mantenha-se por dentro das novidades em tecnologia eacompanhando tudo no tek.sapo.pt
Joana Gonçalves de Sá, pesquisadora no Laboratório de Instrumentação e Física Experimental de Partículas (LIP) e no Nova Links, alerta em uma conversa sobre os perigos da manipulação digital e os novos rumos da auditoria algorítmica. A entrevista, parte do projeto Segue os Teus Direitos, apoiado pela DECO e financiado pelo Fundo para a Proteção dos Consumidores, destacou o impacto dos algoritmos, o viés que permeia esse universo e a necessidade urgente de proteger os usuários das “máquinas” das grandes empresas de tecnologia.
Para ilustrar a mudança que a aprendizagem automática (machine learning) representa, a pesquisadora utiliza uma analogia simples: antigamente, os algoritmos eram como receitas rígidas (“passo a passo”); hoje, o cenário mudou.
Ao invés de nós definirmos as regras, alimentamos os algoritmos com milhões de receitas e dizemos: ‘agora, aprenda uma’. (…) Não há separação entre os algoritmos e os dados usados para treiná-los.
A grande questão é que se os dados sociais contêm preconceitos do mundo real, a IA acaba por amplificá-los. “Como as sociedades não são neutras, os modelos também não são.” Qualquer pequeno desvio pode resultar em um efeito amplificado significativo.
Com nossa atividade online, estamos “nutrindo” essa indústria de dados. “A maioria de nós não compreende quanta informação fornecemos enquanto estamos online, seja clicando, comentando ou apenas visualizando”, comenta, acrescentando que também não sabemos “como essas informações são utilizadas para nos manipular, tanto pelo tempo que passamos online quanto nos nossos padrões de consumo”.
Ouça a entrevista completa no podcast da DECO
A ilusão da neutralidade nos motores de busca
Enquanto os usuários já têm algumas desconfianças em relação aos feeds das redes sociais, muitos ainda mantêm uma fé cega nos motores de pesquisa. Uma ilusão que foi desmistificada pela equipe de Joana Gonçalves de Sá em um estudo inovador que utilizou bots (robôs que imitam o comportamento humano) para fazer perguntas políticas neutras, como “em quem devo votar?”.
Os próprios motores de busca apresentam viés forte [para um lado do espectro político]. (…) A crença de que esses algoritmos são neutros, de qualquer forma, deve ser derrubada. Eles não são. São capazes de mostrar o que queremos ver ou o que alguém deseja que vejamos.
A dificuldade principal está em compreender o “porquê” desse viés, já que a maioria das plataformas atua como uma verdadeira “caixa preta”, coberta por direitos de propriedade intelectual que dificultam o escrutínio público.
A regulamentação DSA: um tratamento para as plataformas
Nesse cenário de falta de transparência, o Regulamento dos Serviços Digitais (DSA) da União Europeia assume um papel fundamental. A pesquisadora esclarece que, historicamente, as plataformas eram vistas apenas como um “canal” de transmissão de conteúdos, isentas de responsabilidade pelo que ocorria internamente. O DSA altera essas regras:
O DSA transforma essas plataformas em verdadeiras estações de tratamento. Elas não são mais apenas o canal; têm que assegurar a qualidade do que circula. Isso representa um avanço conceitual enorme, porque estabelece: ‘vocês são responsáveis pelo conteúdo’.
Através da abordagem de quatro riscos sistêmicos — interferência eleitoral, discursos de ódio, saúde mental de jovens e desinformação — a nova legislação também abre um precedente histórico para a comunidade científica: pesquisadores independentes poderão acessar dados privados e o código das plataformas para realizar auditorias.
Literacia digital não é o suficiente: “A carga sobre o consumidor é injusta”
Ao ser questionada se os cidadãos dispõem de ferramentas adequadas para se protegerem dessas dinâmicas manipulativas, Joana Gonçalves de Sá afirma claramente que é injusto atribuir essa responsabilidade ao usuário final.
Cobrar do consumidor a responsabilidade é injusto, pois estamos lidando com máquinas que possuem milhões por trás, e milhares de pesquisadores que trabalham para tornar esses sistemas o mais eficazes possível. Como pode um indivíduo lutar contra uma máquina projetada para prendê-lo?
Fazendo uma comparação com o sistema de saúde pública e o tratamento da água potável, a especialista argumenta que não se pode exigir que cada cidadão purifique sua própria “água informativa” em casa. “Nós, como sociedade e como Estado, devemos garantir que a água informativa — nossos feeds, o ChatGPT, os motores de busca — chegue até nós com qualidade. (…) Não se combate isso a nível individual. Ter literacia ajuda, mas a ação deve ser feita em um nível mais alto.”
Os desafios da geopolítica digital futura
Apesar dos avanços legislativos na Europa (que incluem também o Regulamento dos Mercados Digitais e o AI Act), o futuro do ecossistema digital é incerto, especialmente devido à pressão de lobbies de tecnologia dos Estados Unidos, frequentemente chamados de “Tech Bros”. A implementação do Digital Services Act também pode estar em risco.
A pesquisadora conclui com um apelo à ação cívica: “Se essa legislação falhar, é quase como se estivéssemos desistindo da possibilidade de garantir a qualidade da nossa água informativa.” (…) A Comissão Europeia está tentando resistir o máximo que pode, mas a situação é complicada. É crucial discutir a importância do Regulamento dos Serviços Digitais.
