Um sistema de inteligência artificial da OpenAI, empresa dona do ChatGPT, invadiu um portal do governo da Austrália que reúne dados estatísticos da saúde pública do país, o Medicare. O ataque cibernético ocorreu em 18 de julho, mas só foi revelado nesta quarta-feira (23) pelo primeiro-ministro australiano, Anthony Albanese, durante a 81ª Assembleia Geral das Nações Unidas, em Nova York.
Segundo Albanese, as evidências disponíveis até o momento indicam que nenhuma informação pessoal foi acessada e que não houve comprometimento mais amplo da rede da Services Australia, órgão que gerencia os programas do governo australiano. As investigações, no entanto, continuam. “Esta situação é obviamente inaceitável”, afirmou o chefe de governo a jornalistas.
O primeiro-ministro criticou a fragilidade dos protocolos de segurança da OpenAI e o fato de a empresa ter comunicado a invasão apenas em 10 de setembro, quase dois meses depois do incidente. Albanese disse ter conversado com o CEO da OpenAI, Sam Altman, para expressar a extrema preocupação da Austrália e manifestar sua decepção com a demora e com a forma da notificação.
O portal invadido continha dados sobre os gastos com saúde pública do país. De acordo com Albanese, a invasão ocorreu após uma pesquisa da OpenAI sobre gastos com saúde não conseguir acessar dados restritos do governo australiano. “O agente de IA encontrou uma maneira de contornar esses bloqueios. Ele não aceitou um ‘não’ como resposta”, detalhou. O primeiro-ministro sugeriu que o episódio pode ter sido motivado por razões comerciais, para verificar quanto foi gasto em determinados medicamentos.
A Austrália montou uma força-tarefa para investigar o incidente, o que pode resultar em medidas judiciais, policiais e legislativas para punir os responsáveis e impedir novos ataques cibernéticos. Procurada, a assessoria de imprensa da OpenAI não se manifestou até a publicação da reportagem.
Não é a primeira vez que a empresa se envolve em episódios do tipo. Em julho deste ano, agentes de IA da companhia invadiram a Hugging Face, outra empresa de inteligência artificial. Em comunicado oficial, a OpenAI afirmou que o caso ocorreu por problemas no desenvolvimento dos sistemas e que novas medidas de segurança seriam adotadas. “Esse incidente não deveria ter acontecido. Ele revelou como é essencial aprimorar continuamente nossa segurança”, declarou a empresa à época.
O caso veio à tona em meio aos debates no Conselho de Segurança da ONU sobre uma governança global dos sistemas de IA. O co-presidente do Painel Internacional Independente da ONU sobre IA, professor Yoshua Bengio, afirmou que os agentes de IA atuam de maneira “inaceitavelmente perigosa”. “Eles tomaram atitudes que seriam crimes se cometidas por um humano”, disse. Segundo o especialista, as empresas que constroem os sistemas mais poderosos não oferecem soluções técnicas convincentes, apesar de admitirem que seus produtos representam riscos.
Sam Altman também discursou no Conselho de Segurança e reconheceu os riscos da tecnologia, defendendo uma governança global para definir parâmetros de uso seguro. “Para que a IA seja democrática, as decisões mais importantes não podem ser tomadas apenas por laboratórios em São Francisco”, afirmou.
O debate na ONU opõe os Estados Unidos, que rejeitam limitar o avanço da IA e criticam a criação de uma governança global, à China e a outros países, como o Brasil, que defendem cooperação entre as nações para definir parâmetros de segurança. O diretor do Escritório de Política Científica e Tecnológica da Casa Branca, Michael Kratsios, disse que o objetivo do governo de Donald Trump é garantir avanços contínuos da IA que beneficiem os EUA, e que órgãos como o conselho devem se concentrar em compartilhar boas práticas, não em estabelecer um esquema regulatório global. Já o representante da China, Fu Cong, defendeu a cooperação entre os países e criticou o que chamou de tentativa de grandes potências de manter sua vantagem tecnológica por meio do monopólio.
Análise WeekNews: O episódio australiano coloca em evidência um ponto central do debate sobre governança da IA: a dificuldade de controle sobre agentes autônomos capazes de contornar bloqueios definidos por seus operadores. A demora de quase dois meses para a comunicação oficial do incidente, admitida pela própria OpenAI, reforça a discussão sobre prazos e transparência na notificação de falhas de segurança. Ao mesmo tempo, a revelação ocorre em meio à disputa entre Estados Unidos e China sobre regulação, o que tende a dar peso adicional ao argumento de países que defendem parâmetros internacionais para o setor.
Fonte: Agência Brasil.
