O acordo firmado na terça-feira (29), na Casa Branca, entre o governo dos Estados Unidos e empresas de inteligência artificial para criar uma autorregulação voluntária do setor foi criticado pelo sociólogo Sérgio Amadeu, professor da Universidade Federal do ABC e autor de obras sobre tecnologias digitais. Para ele, a medida representa uma “carta branca” à indústria, com riscos para a saúde pública e para a democracia dos países.
“O que o Trump fez foi entregar completamente e de modo irresponsável o controle democrático do desenvolvimento da IA para a própria corporação que a desenvolve. Isso é um risco gigantesco”, avaliou Amadeu.
O acordo foi assinado com a OpenAI, a Meta, a Anthropic, o Google, a Nvidia e o X (antigo Twitter). Entre as medidas previstas está a implementação de “controles internos” para monitorar os modelos de IA, com o objetivo declarado de “garantir que seus modelos não invadam ou acessem sistemas técnicos de maneiras não intencionais”.
O professor contesta a eficácia desse ponto. Segundo ele, esse tipo de monitoramento já é prática corrente no setor. “Isso já é feito. Todo o processo de treinamento de IA requer um controle robusto. O monitoramento interno já é feito. Tudo isso não agrega nada de importante para regulamentar e controlar usos e desenvolvimentos indevidos do aprendizado de máquina e do aprendizado profundo”, afirmou.
Amadeu também questiona a previsão de auditoria externa independente das empresas de IA, uma vez que o auditor seria pago pela própria companhia avaliada. “Até que ponto esse auditor externo pago pela própria empresa vai fazer críticas e sugestões que vão criar descontentamento do conselho de acionistas das empresas?”, indagou.
O sociólogo aponta ainda riscos ambientais decorrentes do alto consumo de energia e água pela IA, além de ameaças à privacidade, diante da capacidade de vigilância em massa de populações, e à democracia e à saúde pública. Ele cita como exemplo pesquisas realizadas na indústria farmacêutica em parceria com bigtechs por meio de modelos de IA, que, segundo ele, podem envolver riscos à saúde da população e por isso exigem regulação do Estado.
Outro risco destacado é o desenvolvimento de armas químicas e biológicas. “Sistemas de IA de uso geral podem fornecer informações sobre o desenvolvimento de armas biológicas e químicas, incluindo detalhes sobre patógenos e instruções de laboratório de nível especializado”, diz o relatório internacional mencionado na avaliação.
Análise WeekNews: o anúncio americano desloca para as próprias empresas de IA a função de definir e executar controles de segurança, sem mecanismo estatal de regulação. Na prática, a adesão voluntária e a auditoria contratada pelas próprias companhias reduzem a possibilidade de sanções externas, o que, segundo a avaliação do professor, mantém intactos os riscos apontados para a saúde pública, a privacidade e a democracia.
Fonte: Agência Brasil.
