MEMBRO DA ABRASCI, WALDIR MARANHÃO debate os limites da Inteligência Artificial e seus impactos

Por Waldir Maranhão

A Inteligência Artificial costuma ser apresentada como uma das maiores promessas do século XXI. Ela poderá ajudar na medicina, acelerar descobertas científicas, melhorar serviços públicos, apoiar a educação e ampliar a produtividade. Mas existe outro lado dessa transformação. A mesma tecnologia que promete resolver grandes problemas também pode concentrar poder, ampliar a vigilância, manipular informações, enfraquecer democracias e tornar sociedades inteiras dependentes de sistemas que não compreendem.

• por isso, a grande questão não é apenas o que a IA pode fazer;
• a questão decisiva é: quem controla a Inteligência Artificial?

Uma tecnologia poderosa demais para ficar nas mãos de poucos

A IA avançada está concentrada em poucas empresas globais. Essas corporações controlam os dados, os modelos, os servidores, os investimentos e boa parte da infraestrutura necessária para desenvolver sistemas cada vez mais poderosos. Essa concentração cria uma nova forma de desigualdade.

De um lado, empresas capazes de capturar dados, conhecimento e recursos naturais. De outro, populações inteiras usando sistemas que não controlam, não auditam e muitas vezes nem compreendem. Quando uma tecnologia passa a influenciar o trabalho, a educação, a informação, a segurança e a economia, ela deixa de ser apenas uma inovação privada. Torna-se uma questão pública.

O mito de “desligar a máquina”

Muitas pessoas acreditam que, se a IA se tornar perigosa, bastaria desligá-la. Mas essa imagem é simplista. A IA já está sendo integrada a plataformas digitais, sistemas financeiros, serviços públicos, empresas, redes de comunicação e processos de decisão. Quanto mais esses sistemas se espalham, mais difícil se torna interrompê-los sem causar impactos sociais e econômicos. Além disso, a dependência tecnológica reduz a capacidade de controle democrático.

Uma sociedade que transfere funções importantes para sistemas opacos passa a depender de decisões que não consegue explicar nem contestar plenamente.

• o problema não é apenas a possibilidade de uma IA “sair do controle”, como em filmes de ficção científica;
• o problema mais imediato é uma sociedade perder o controle sobre tecnologias que já afetam sua vida cotidiana.

O experimento social sem consentimento

A IA é treinada com dados produzidos por pessoas. Textos, imagens, vozes, comportamentos, pesquisas, códigos e interações humanas alimentam sistemas comerciais de grande valor econômico. A maioria das pessoas, porém, nunca foi consultada de forma clara sobre esse uso. Não recebeu remuneração. Não conhece as regras do processo. Não sabe como seus dados foram utilizados nem como poderão afetar sua vida no futuro.

Nesse sentido, a expansão da IA se parece com um experimento social em larga escala. Em pesquisas científicas éticas, experimentos com seres humanos exigem consentimento, transparência, avaliação de riscos e supervisão independente. No caso da IA, bilhões de pessoas estão sendo afetadas por sistemas construídos sem um debate público suficiente. Isso deveria preocupar qualquer sociedade democrática.

Informação, manipulação e risco democrático

A democracia depende de informação confiável. A IA pode ameaçar esse princípio ao permitir a produção de textos, imagens, áudios e vídeos falsos em grande escala. Com essas ferramentas, torna-se mais fácil espalhar desinformação, manipular debates públicos, criar perfis falsos, simular apoio popular e atacar reputações.

Em períodos eleitorais, esse risco é ainda maior. A fronteira entre conteúdo humano, conteúdo automatizado e conteúdo falso pode se tornar cada vez mais difícil de identificar.

• regular a IA, portanto, não significa censurar a inovação;
• significa proteger a integridade do debate público.

O custo ambiental da IA

Embora pareça uma tecnologia imaterial, a Inteligência Artificial depende de uma infraestrutura pesada: data centers, energia elétrica, água para resfriamento, chips, redes e equipamentos.

Grandes centros de processamento podem consumir muita energia e água, pressionando comunidades locais e agravando desigualdades territoriais. Muitas vezes, os custos ambientais ficam com a população, enquanto os lucros se concentram nas empresas. Por isso, a IA também deve ser discutida como questão ambiental. Não basta perguntar se um sistema é eficiente. É preciso perguntar quanto ele custa ao planeta e se seu uso atende a uma finalidade social legítima.

Menos foguetes, mais bicicletas

A sociedade não precisa abandonar a Inteligência Artificial. Mas precisa mudar sua direção. Em vez de uma corrida por sistemas gigantescos, generalistas, caros e opacos, poderíamos priorizar tecnologias menores, específicas, auditáveis e socialmente úteis. A metáfora é simples: menos foguetes e mais bicicletas.

• os “foguetes” da IA são sistemas enormes, voltados à competição corporativa e geopolítica, com alto consumo e pouca transparência.
• as “bicicletas” da IA seriam ferramentas desenhadas para apoiar pessoas em tarefas específicas, sem substituir a deliberação humana.

Na saúde, a IA pode auxiliar diagnósticos, sempre com supervisão médica. Na educação, pode apoiar professores, sem substituí-los. No meio ambiente, pode monitorar desmatamento e emissões. Na administração pública, pode organizar dados, mas nunca eliminar o direito de revisão humana.

Uma agenda democrática para a IA

A Inteligência Artificial precisa ser regulada com base no interesse público. Isso exige transparência, auditorias independentes, proteção de dados, responsabilização por danos, avaliação ambiental, proteção de direitos autorais e participação social. Também é necessário fortalecer universidades, centros públicos de pesquisa e organizações independentes capazes de fiscalizar os impactos da tecnologia.

Não podemos depender apenas da autorregulação das empresas que lucram com a IA.

Conclusão 

A Inteligência Artificial não é apenas uma questão técnica. É uma questão de poder. Quem controla os dados controla parte da economia. Quem controla os modelos controla parte da comunicação. Quem controla os sistemas de decisão pode influenciar direitos, oportunidades e riscos sociais.

• a sociedade não deve ser tratada como cobaia de um experimento conduzido por poucos;
• a tecnologia deve estar a serviço da vida coletiva, da justiça social e da democracia.

O futuro da IA ainda está em disputa. E essa disputa precisa envolver todos nós.

*Waldir Maranhão é professor, ex-reitor da Uema, ex-deputado federal e membro da Academia Brasileira de Ciências, Arte, História e Literatura