O acordo anunciado pelo governo dos Estados Unidos para que grandes empresas de tecnologia adotem, de forma voluntária, mecanismos próprios de segurança no desenvolvimento da inteligência artificial (IA) reacendeu o debate sobre os limites da autorregulação no setor.
Para o sociólogo Sérgio Amadeu, professor da Universidade Federal do ABC (UFABC), deixar nas próprias empresas a responsabilidade pelo controle de uma tecnologia com impactos tão amplos representa um risco significativo para a sociedade.
ACORDO PREVÊ CONTROLES INTERNOS NAS EMPRESAS
O compromisso foi anunciado na terça-feira (29), na Casa Branca, com a participação de empresas como OpenAI, Meta, Anthropic, Google, Nvidia e X, antigo Twitter.
Entre as medidas previstas está a adoção de mecanismos internos para acompanhar o funcionamento dos modelos de IA e evitar que os sistemas tenham acesso ou provoquem alterações não planejadas em estruturas tecnológicas.
Na avaliação de Amadeu, porém, essas medidas não representam uma mudança relevante no controle da tecnologia, já que procedimentos semelhantes já fazem parte do desenvolvimento de sistemas de inteligência artificial.
“O que o Trump fez foi entregar completamente e de modo irresponsável o controle democrático do desenvolvimento da IA para a própria corporação que a desenvolve. Isso é um risco gigantesco”, avaliou.
O professor também questiona a efetividade dos controles internos anunciados pelas companhias.
“Isso já é feito. Todo o processo de treinamento de IA requer um controle robusto. O monitoramento interno já é feito. Tudo isso não agrega nada de importante para regulamentar e controlar usos e desenvolvimentos indevidos do aprendizado de máquina e do aprendizado profundo”, completou Amadeu.
AUDITORIA EXTERNA TAMBÉM É QUESTIONADA
O acordo prevê ainda a realização de auditorias externas independentes para avaliar as práticas adotadas pelas empresas de inteligência artificial.
Para Sérgio Amadeu, entretanto, há uma questão central nesse modelo: o serviço de auditoria será financiado pelas próprias companhias avaliadas.
“Até que ponto esse auditor externo pago pela própria empresa vai fazer críticas e sugestões que vão criar descontentamento do conselho de acionistas das empresas?”, questionou Sérgio.
A discussão coloca em evidência um dos principais desafios da governança da IA: como garantir avaliações independentes quando as próprias empresas responsáveis pela tecnologia também participam do financiamento dos mecanismos de fiscalização.
ESPECIALISTA APONTA LIMITES DE ACORDOS VOLUNTÁRIOS
O especialista em governança de IA Ettore Arpini, fundador da organização Plures, considera que compromissos voluntários podem produzir resultados concretos, mas ressalta que existe o risco de essas iniciativas perderem força quando entrarem em conflito com interesses comerciais.
Como exemplo, Arpini menciona a Moratória da Soja na Amazônia, acordo voluntário que reuniu empresas em torno do compromisso de evitar o cultivo de soja em áreas desmatadas do bioma.
Segundo ele, a experiência funcionou durante duas décadas, mas acabou sendo afetada por mudanças no cenário político e econômico.
“Isso deu certo por 20 anos, de forma voluntária, até que mudou o ambiente político e econômico e as empresas que faziam parte saíram do acordo e a moratória morreu. O que acontece se uma empresa reprovar numa auditoria ou abandonar o pacto?”, questionou.
O caso é usado pelo especialista para ilustrar a dificuldade de garantir a continuidade de compromissos privados quando não existem mecanismos regulatórios obrigatórios.
SAÚDE PÚBLICA ESTÁ ENTRE AS PREOCUPAÇÕES
Além dos efeitos sobre a democracia, Sérgio Amadeu chama atenção para possíveis impactos da inteligência artificial na saúde pública.
O professor também relaciona o avanço da tecnologia a questões ambientais, como o elevado consumo de energia e água, além de preocupações relacionadas à privacidade e à possibilidade de vigilância em larga escala.
Na área da saúde, a preocupação aumenta diante da aproximação entre empresas de tecnologia e setores farmacêuticos. Pesquisas e aplicações de IA desenvolvidas em parceria com grandes companhias podem envolver decisões capazes de afetar diretamente a população.
“Sabemos que quando o uso de IA fica sob controle apenas de investidores, isso traz um risco gigantesco para experimentos e ações que coloquem em risco a saúde pública”, comentou.
Entre os exemplos citados pelo sociólogo estão o uso de sistemas de inteligência artificial para orientar pessoas sobre medicamentos ou auxiliar na realização de diagnósticos sem acompanhamento adequado de profissionais.
“Quando nós estamos tratando de fenômenos ligados à chamada saúde pública e que incluam a parceria de grandes big techs com indústrias químicas e de fármacos, é um risco muito grande e, portanto, precisa de uma regulamentação estatal democrática”, concluiu.
PESQUISAS MOSTRAM PREOCUPAÇÃO COM OS EFEITOS DA IA
O debate sobre a autorregulação ocorre em meio à preocupação de parte da população dos Estados Unidos com os efeitos da inteligência artificial.
Uma pesquisa realizada pela Ipsos em parceria com a Reuters apontou que 73% dos entrevistados consideram insuficientes as medidas adotadas pelas empresas de IA para evitar danos à sociedade. No mesmo levantamento, 39% disseram acreditar que a tecnologia está produzindo impacto negativo na sociedade.
Entre os riscos associados ao avanço dos sistemas estão possíveis ataques cibernéticos facilitados pela tecnologia, alterações no mercado de trabalho e o uso de ferramentas de IA por criminosos para a aplicação de golpes.
O governo de Donald Trump, por sua vez, tem defendido uma abordagem com menos restrições ao desenvolvimento da inteligência artificial, enquanto organizações e setores da sociedade discutem a necessidade de mecanismos de proteção.
IA TAMBÉM LEVANTA ALERTAS SOBRE A DEMOCRACIA
Outro ponto de preocupação envolve o potencial da inteligência artificial para influenciar a formação da opinião pública.
O International AI Safety Report 2026, produzido com a participação de cerca de 100 especialistas de mais de 30 países, aponta que sistemas de IA podem ser utilizados para influenciar pessoas e alterar a circulação de informações nas redes sociais.
O documento cita pesquisas experimentais que identificaram mudanças nas crenças de indivíduos após interações com sistemas de inteligência artificial.
“Diversos estudos laboratoriais demonstraram que a interação com sistemas de IA pode levar a mudanças mensuráveis nas crenças das pessoas”, aponta o relatório.
A capacidade de produzir e distribuir conteúdos em grande escala amplia a discussão sobre os efeitos da tecnologia em ambientes digitais, especialmente quando sistemas automatizados são usados para influenciar a percepção das pessoas sobre determinados assuntos.
RELATÓRIO TAMBÉM CITA RISCOS COM ARMAS QUÍMICAS E BIOLÓGICAS
O relatório internacional também chama atenção para outro possível uso de sistemas de inteligência artificial de uso geral: o fornecimento de informações relacionadas ao desenvolvimento de armas químicas e biológicas.
A preocupação está associada à capacidade de modelos avançados reunirem e apresentarem informações técnicas que poderiam ser utilizadas de maneira indevida.
“Sistemas de IA de uso geral podem fornecer informações sobre o desenvolvimento de armas biológicas e químicas, incluindo detalhes sobre patógenos e instruções de laboratório de nível especializado”, diz o relatório internacional.
Nesse cenário, o debate sobre a governança da inteligência artificial vai além da criação de ferramentas mais eficientes. A discussão envolve também quem deve estabelecer os limites de utilização da tecnologia, como esses limites serão fiscalizados e quais mecanismos poderão responsabilizar empresas e usuários diante de possíveis danos.
Com informações de Agência Brasil
