O debate sobre a necessidade de uma regulamentação mais robusta para as plataformas digitais e a fiscalização de conteúdos gerados por Inteligência Artificial (IA) ganha urgência no Brasil. Especialistas alertam para os riscos crescentes de desinformação, vieses algorítmicos e a potencialização da violência política, especialmente em contextos eleitorais.
Essa pauta foi central em um recente webinário, onde pesquisadoras destacaram como a falta de controle adequado pode impactar a sociedade, a democracia e a percepção pública. A discussão sublinha a importância de equilibrar a inovação tecnológica com a proteção dos direitos dos usuários e a integridade do debate público.
Vieses Algorítmicos e a Necessidade de Transparência
Durante o evento “Tecnologias, IA e Eleições”, promovido pela Articulação de Organizações de Mulheres Negras Brasileiras, a diretora executiva do Instituto de Referência em Internet e Sociedade (IRIS), Fernanda Rodrigues, chamou atenção para o funcionamento dos algoritmos de recomendação. Segundo ela, esses mecanismos exercem um poder significativo ao determinar quais conteúdos são apresentados aos usuários, moldando suas percepções e acesso à informação.
Rodrigues enfatizou a importância de uma regulamentação mínima que garanta aos indivíduos a opção de não receber conteúdos padronizados. Além disso, a especialista defendeu que tais normas devem assegurar que os mecanismos de recomendação não contenham vieses discriminatórios, que podem perpetuar desigualdades sociais e raciais ao favorecer ou suprimir determinados tipos de conteúdo ou grupos de pessoas.
A transparência sobre como esses algoritmos operam e a possibilidade de auditoria externa são pontos cruciais para mitigar esses riscos. Sem isso, a capacidade de discernimento do público e a pluralidade de informações podem ser severamente comprometidas, afetando diretamente a formação de opinião e o engajamento cívico.
O Desafio da Inteligência Artificial e a Educação Midiática
A cofundadora da plataforma de comunicação independente Blogueiras Negras, Larissa Santiago, abordou a questão da Inteligência Artificial, ressaltando que o desenvolvimento dessa tecnologia não tem sido pautado pelas demandas da sociedade. Ela criticou o monopólio das grandes empresas de tecnologia no debate sobre o tema, o que pode levar a soluções que não atendem aos interesses públicos.
Santiago reconheceu que o Brasil possui um sistema regulatório de IA comparável a outros países, mas enfatizou a necessidade urgente de aumentar a fiscalização e, principalmente, a educação midiática. A capacidade de distinguir entre conteúdos reais e aqueles criados por IA é um desafio crescente para a população, que se torna mais vulnerável à manipulação e à desinformação.
A educação midiática surge como uma ferramenta essencial para capacitar os cidadãos a analisar criticamente as informações que consomem, identificando fontes, verificando fatos e compreendendo as intenções por trás da produção de conteúdo. Sem essa habilidade, a proliferação de informações falsas ou distorcidas, potencializada pela IA, pode ter consequências graves.
IA e os Riscos para a Democracia e Eleições
Um dos pontos mais sensíveis do debate é o impacto da IA nas eleições e na política. Larissa Santiago relembrou o processo de impeachment da então presidenta Dilma Rousseff, em 2016, citando a circulação de imagens e notícias distorcidas. Embora esse evento tenha ocorrido antes da popularização das ferramentas atuais de IA generativa, a especialista alertou que a tecnologia moderna potencializa a violência política de gênero e raça.
A capacidade da IA de gerar deepfakes (vídeos e áudios falsos realistas) e desinformação em larga escala representa uma ameaça sem precedentes à integridade dos processos eleitorais. A manipulação de imagens e narrativas, como as que foram observadas no passado, pode ser replicada e amplificada de forma muito mais sofisticada e persuasiva, minando a confiança nas instituições e no sistema democrático.
A preocupação é ainda maior para grupos minorizados, como mulheres e pessoas negras, que já são alvos frequentes de ataques e desinformação no ambiente digital. A IA pode ser usada para criar campanhas de difamação altamente personalizadas e direcionadas, intensificando a violência política e dificultando a participação desses grupos na vida pública.
O Caminho para uma Regulação Equilibrada
Diante desse cenário complexo, o Brasil se encontra em um momento crucial para definir o futuro da regulação digital. A discussão não se limita a proibir ou restringir tecnologias, mas a criar um ambiente onde a inovação possa florescer de forma ética e responsável, protegendo os direitos dos cidadãos e a saúde do debate público.
É fundamental que o processo regulatório envolva múltiplos atores – governo, sociedade civil, academia e setor privado – para construir soluções equilibradas e eficazes. A educação midiática, a transparência algorítmica e a fiscalização rigorosa são pilares para garantir que as plataformas digitais e a Inteligência Artificial sirvam ao bem comum, em vez de serem ferramentas para a desinformação e a polarização.
Para continuar acompanhando as análises aprofundadas sobre tecnologia, política e sociedade, fique conectado ao Inova Carajás. Nosso portal oferece informação relevante, atual e contextualizada para que você esteja sempre bem informado sobre os temas que impactam o seu dia a dia e o futuro do Brasil.
Fonte: agenciabrasil.ebc.com.br
