A governança do poder digital ganhou um lugar central na agenda política nacional e internacional, bastando observar os primeiros meses deste ano para comprovar isso. No Brasil, o ECA Digital entrou em vigor, com novas obrigações para plataformas e maior proteção a crianças e adolescentes, o TSE fixou regras para o uso de IA nas eleições de 2026e o Congresso discutiu projetos de regulação dessa tecnologia. Fora do país, decisões judiciais nos EUA contra meta e Google por danos ligados ao desenho de produtos capazes de gerar dependência, restrições ao acesso de menores às redes sociais em países como Austrália, Espanha, França e Turquia e medidas de rotulagem de deepfakes no Reino Unido e na União Europeia apontam para a mesma preocupação de definir limites para as plataformas digitais e os sistemas de IA.
A ascensão desse ator e dessa tecnologia deu origem a uma nova configuração de poder, capaz de reorganizar a economia, impactar o trabalho, redesenhar a esfera pública e pôr em risco a democracia, como analiso em meu novo livro, A humanidade e o poder digital: impactos da IA sobre nosso futuro.
Congresso discutiu projetos de regulação de uso de IA Foto: Carlos Moura/Agência Senado
As grandes plataformas digitais, controladas pelas grandes tecnologiasconsolidaram-se em um ambiente no qual internet, dispositivos conectados, big data e algoritmos permitem capturar atenção e alimentar um modelo de negócios baseado na maximização do engajamento e na extração de dados comportamentais. Com isso, fortalecem sua capacidade de induzir comportamentos e influenciar a opinião pública. Esse poder também se manifesta em um poder normativo inédito. Quando essas empresas, por meio de softwares e termos de uso, estabelecem regras, arbitram disputas e aplicam sanções, surge uma forma de soberania funcional, na qual a praça pública digital e a própria liberdade de expressão passam a depender de uma governança privada, nem sempre submetida ao escrutínio público. Essa dinâmica, somada à vigilância constante, ao domínio dos dados e à persuasão algorítmica, pode pôr em xeque não apenas a privacidade, mas também a autonomia individual.
A expansão da IA também gera consequências econômicas e dilemas éticos, o que exige novos arranjos de governança. No mundo do trabalho, a automação pode colocar empregos em risco e ampliar desigualdades, já que os ganhos de produtividade tendem a se concentrar entre poucos indivíduos, empresas ou países. A resposta passa pelo uso da IA de forma complementar às capacidades humanas, pela criação de ocupações e pela adoção de políticas públicas de requalificação e redistribuição de renda.
Além disso, muitos sistemas que automatizam decisões operam como estruturas opacas e pouco previsíveis, dificultando a identificação de vieses, a definição de limites e a responsabilização de agentes cada vez mais autônomos. Essas ferramentas também não são neutras, pois escolhas de valores podem ser embutidas em sua arquitetura de maneira invisível ao público, o que reforça a necessidade de transparência. A difusão do chamado “solucionismo tecnológico”, que trata problemas políticos e sociais como entraves técnicos, acentua esse perigo.
Essas tecnologias, vale lembrar, não são democráticas por natureza. As mesmas ferramentas que ampliam o acesso à informação e ajudam cidadãos a organizar protestos também podem ser usadas por governos autoritários para vigiar, censurar e neutralizar a oposição. Mesmo em regimes democráticos, a lógica de engajamento das redes sociais favorece conteúdos extremos e emocionalmente carregados, gera câmaras de eco e amplia a circulação de desinformação. Fake news, deepfakes e redes coordenadas de bots e trolls podem comprometer a integridade de processos eleitorais. A moderação de conteúdo pelas plataformas, por sua vez, cria outro dilema, pois decisões pouco transparentes ou sem critérios consistentes provocam questionamentos sobre arbitrariedade, legitimidade e censura.
Como discuto no livro, compreender essas transformações é o primeiro passo para governar o poder digital e assegurar que ele atenda ao interesse público. Esse é um desafio que exige acompanhar o ritmo dos avanços tecnológicos e enfrentar obstáculos técnicos e políticos. Só assim poderemos reduzir riscos, estimular a concorrência e construir instrumentos capazes de proteger direitos fundamentais e preservar nosso livre-arbítrio, sem abdicar dos benefícios que as novas tecnologias podem oferecer à sociedade.
