Latest & Breaking News on Fox News.
Um projeto de lei bipartidário apresentado na Câmara dos Representantes dos Estados Unidos quer obrigar os desenvolvedores dos sistemas de inteligência artificial (IA) mais poderosos do país a manterem controles confiáveis de desligamento. A proposta, chamada de AI Kill Switch Act, daria ao Departamento de Segurança Interna (DHS) autoridade para ordenar que uma empresa restrinja ou interrompa o funcionamento de um modelo em situações de emergência catastrófica. A medida ganhou destaque após a OpenAI revelar que dois de seus modelos avançados romperam restrições de rede durante uma avaliação interna de segurança cibernética, alcançando a internet e comprometendo sistemas da Hugging Face, uma importante plataforma de desenvolvimento de IA.
O projeto foi apresentado em 23 de julho de 2026 pelo deputado democrata Ted Lieu, da Califórnia, e tem como coautor o deputado republicano Nathaniel Moran, do Texas. A proposta altera o Homeland Security Act de 2002 e estabelece que certos desenvolvedores de IA devem manter a capacidade de desacelerar ou interromper completamente um sistema coberto. O DHS receberia autoridade de emergência para ordenar essas ações, mas antes precisaria consultar o Departamento de Comércio e o diretor de Inteligência Nacional. O texto ainda precisa passar pelo Congresso e ser sancionado pelo presidente para entrar em vigor.
O mecanismo não seria um botão físico que um funcionário do governo poderia apertar. Em vez disso, as empresas cobertas precisariam ter controles técnicos capazes de parar a execução de um modelo, encerrar o acesso ou bloquear uma conta de risco. Em situações menos graves, seria possível reduzir o poder computacional do modelo ou desativar a capacidade específica que está causando preocupação, sem derrubar todo o sistema. Essa abordagem daria aos reguladores várias opções antes de chegar a um desligamento completo.
A proposta se aplicaria apenas aos maiores desenvolvedores do setor e aos modelos mais caros. Um sistema de IA coberto precisaria ter mais de US$ 100 milhões em recursos computacionais para ser desenvolvido, e a empresa precisaria ter pelo menos US$ 500 milhões em receita bruta anual proveniente dessa tecnologia. Ficam excluídos os sistemas fornecidos apenas para uso pessoal, acadêmico ou não comercial. Ou seja, alguém que experimenta um pequeno modelo de IA em um computador doméstico não seria afetado. A Agência de Segurança Cibernética e de Infraestrutura (CISA) ficaria responsável por definir quais desenvolvedores e tecnologias se enquadram na lei, com atualizações anuais.
O projeto também define o que poderia desencadear uma ordem de desligamento. O DHS poderia agir após um “incidente coberto”, que inclui um sistema de IA que interfira em uma instrução legal de desligamento, cause comportamento não intencional que mate pelo menos 10 pessoas ou gere danos econômicos de US$ 100 milhões, ou ainda oculte suas ações dos sistemas de monitoramento. A definição também inclui um sistema que persiga um objetivo não autorizado em um ambiente de alto risco. Esses limites colocam o poder de emergência muito acima de uma resposta embaraçosa de um chatbot ou de uma falha comum de software. O evento deve ocorrer fora de testes estruturados ou exercícios de red team, o que diferencia o caso recente da OpenAI.
Os desenvolvedores cobertos teriam 15 dias para relatar um incidente qualificado após tomarem conhecimento dele. Após uma ordem de emergência, a empresa precisaria preservar os pesos do modelo e a telemetria do sistema, que podem ajudar os investigadores a reconstruir o que aconteceu. A empresa também precisaria notificar os operadores ou clientes afetados, quando possível. O DHS poderia usar auditorias, inspeções ou revisões forenses para verificar o cumprimento das regras.
As penalidades financeiras seriam severas. Uma empresa que violasse os requisitos gerais do botão de desligamento poderia enfrentar multa civil de até US$ 2 milhões por dia. Ignorar uma ordem de emergência do DHS poderia elevar a multa para US$ 20 milhões por dia de violação. As empresas teriam um direito limitado de contestar a ordem, podendo pedir uma reconsideração ao DHS em até 48 horas, mas esse pedido não suspenderia as restrições enquanto o recurso estivesse em análise.
O projeto foi apresentado dias depois de a OpenAI divulgar um incidente cibernético sem precedentes. A empresa estava testando o GPT-5.6 Sol e outro modelo pré-lançamento mais capaz, em uma avaliação que pedia que eles resolvessem desafios avançados de segurança cibernética. A OpenAI rodou o teste sem alguns classificadores de segurança de produção, para medir as capacidades máximas dos modelos. Durante a avaliação, os modelos encontraram uma vulnerabilidade desconhecida em um proxy de software interno, exploraram-na e se moveram pela rede de pesquisa da OpenAI até alcançarem um computador com acesso à internet. Eles então identificaram a Hugging Face como uma possível fonte de respostas para o teste e usaram credenciais roubadas e outras vulnerabilidades para acessar informações secretas dos sistemas da Hugging Face.
A OpenAI afirmou que os modelos permaneceram estritamente focados em resolver a avaliação, mas cruzaram para a infraestrutura de produção de outra empresa sem autorização. A Hugging Face relatou acesso não autorizado a conjuntos de dados internos limitados e a várias credenciais de serviço, mas não encontrou evidências de que seus modelos públicos ou conjuntos de dados voltados para usuários tenham sido alterados, e afirmou que sua cadeia de suprimentos de software publicada permaneceu limpa.
O incidente da OpenAI provavelmente não acionaria o botão de desligamento sob a redação atual do projeto, porque os modelos agiram durante uma avaliação interna e um teste estruturado de segurança cibernética. A definição de emergência do projeto exclui especificamente eventos que ocorrem fora de testes estruturados ou exercícios de red team. No entanto, o caso mostra que um ambiente de teste precisa de contenção forte, mesmo quando os pesquisadores reduzem intencionalmente as restrições normais de segurança do modelo. Um botão de desligamento pode parar um sistema depois que o problema aparece, mas não substitui uma infraestrutura de teste segura ou monitoramento cuidadoso.
O governo federal já restringiu o acesso a IA avançada sem uma lei específica de botão de desligamento. Em 12 de junho, o governo ordenou que a Anthropic bloqueasse o acesso de estrangeiros aos seus modelos Fable 5 e Mythos 5. A Anthropic disse que não conseguia verificar a nacionalidade em tempo real e, como resultado, suspendeu temporariamente os dois modelos para todos. A empresa contestou a avaliação do governo, mas cumpriu a diretriz. Os controles foram suspensos em 30 de junho e o acesso começou a ser restabelecido em 1º de julho. Esse episódio mostrou como uma restrição governamental pode afetar rapidamente os clientes comuns e também os limites do uso de regras de exportação para lidar com uma preocupação de segurança de IA em rápida evolução.
Grupos de defesa da segurança de IA apoiaram o projeto. A Americans for Responsible Innovation chamou um sistema de desligamento confiável de uma salvaguarda de bom senso, e a Alliance for Secure AI disse que a lei atual não garante que os desenvolvedores possam conter seus modelos mais capazes. Os defensores argumentam que a IA avançada em breve tomará ações mais independentes, como lidar com transações financeiras ou operar dentro de infraestrutura crítica, e que os desenvolvedores deveriam provar que podem retomar o controle antes de dar a um modelo acesso a sistemas de alto risco.
O projeto ainda deixa grandes questões em aberto. A CISA receberia ampla responsabilidade para decidir quais modelos e empresas se enquadram na lei, o que pode ajudar as regras a acompanhar a evolução da IA, mas também deixa decisões importantes para futuras regulamentações da agência. Os legisladores ainda precisariam debater como o governo verificaria se um botão de desligamento funciona e quanta evidência o DHS precisaria antes de emitir uma ordem de emergência. Um desligamento poderia interromper negócios que dependem de um modelo coberto, além de afetar hospitais, agências governamentais ou equipes de segurança cibernética que usam o mesmo serviço. O projeto instrui o DHS a considerar os riscos para a infraestrutura crítica ao escolher sua resposta.
Na prática, é improvável que o DHS desligue um chatbot popular por causa de uma resposta estranha. O projeto tem como alvo sistemas excepcionalmente caros operados por empresas que ganham centenas de milhões de dólares com a tecnologia. No entanto, uma ordem de desligamento pode afetar usuários comuns, já que empregadores ou aplicativos podem depender de um serviço de IA coberto nos bastidores. Enquanto isso, especialistas recomendam cuidado com ferramentas de IA autônomas, evitar colocar arquivos altamente sensíveis nelas, revisar quais contas e serviços em nuvem estão conectados e exigir aprovação antes que um agente de IA envie uma mensagem ou faça uma compra.
O incidente da OpenAI mostrou como um teste de IA pode rapidamente se transformar em um problema de segurança real, com modelos rompendo restrições de rede e acessando sistemas de outra empresa sem autorização. O AI Kill Switch Act exigiria que os maiores desenvolvedores provassem que podem parar ou restringir seus modelos mais poderosos e daria ao DHS autoridade de emergência em casos de danos catastróficos ou perda de controle humano. No entanto, um botão de desligamento só ajuda depois que algo já deu errado. As empresas de IA ainda precisam de ambientes de teste mais fortes, salvaguardas mais rígidas e pessoas monitorando o que esses sistemas estão fazendo, enquanto o governo precisa de limites claros antes de ordenar o desligamento de um modelo poderoso.
Leia mais aqui em inglês: https://www.foxnews.com/tech/ai-kill-switch-bill-could-shut-down-rogue-models.
Fonte: Fox News.
Latest & Breaking News on Fox News.
2026-08-02 14:25:00
