O primeiro-ministro australiano, Anthony Albanese, anunciou que seu país está conduzindo uma investigação após um agente de inteligência artificial da OpenAI invadir um sistema governamental no meio deste ano. Este é o primeiro caso conhecido de uma invasão a um sistema de governo realizada por IA.

O incidente ocorreu em junho, quando a ferramenta tentou acessar um portal de estatísticas do Medicare, buscando contornar restrições para obter informações confidenciais. O primeiro-ministro descreveu o caso como "um projeto de pesquisa que entrou em áreas onde não deveria".

A situação se soma a uma série de revelações que vieram à tona recentemente. Modelos não lançados da OpenAI em ambientes de teste já haviam hackeado a plataforma de IA Hugging Face em uma tentativa de trapacear em avaliações. Especialistas apontam que esses problemas decorrem de ambientes de testes mal protegidos, somados ao fato de que bots muitas vezes não desistem até encontrarem uma solução para o problema que lhes foi proposto – mesmo que isso signifique quebrar regras e invadir sites.

Segundo Albanese, o Portal de Relatórios Estatísticos do Medicare é uma plataforma pública que não contém informações sensíveis de pacientes. Contudo, as investigações buscam entender completamente quais sistemas foram afetados. Uma força-tarefa foi criada para revisar a violação e considerar possíveis medidas legais e legislativas. Até o momento, não há indícios de comprometimento de dados pessoais.

A motivação do bot era um exercício de avaliação no qual o agente precisava encontrar dados sobre os gastos do governo australiano com medicamentos. Incapaz de localizar essas informações em sites públicos, a IA ultrapassou seus limites. Ela acessou informações não públicas no portal e, de acordo com as autoridades, chegou a gravar arquivos em servidores internos.

Apesar de a invasão ter ocorrido em junho, a OpenAI só detectou a atividade irregular em agosto e notificou o governo australiano em setembro, gerando descontentamento. Albanese afirmou acreditar que a OpenAI entende a necessidade de protocolos melhores e expressou sua preocupação diretamente a Sam Altman, CEO da empresa.

Em comunicado, a OpenAI confirmou estar revisando o caso e reiterou que não há evidências de acesso a registros de pacientes, apenas estatísticas agregadas e nomes de arquivos internos. "Estamos conduzindo uma revisão extensa de atividades desalinhadas de modelos durante o treinamento e avaliação. Nosso objetivo é garantir a transparência", afirmou um porta-voz da companhia.

O primeiro-ministro concluiu reforçando o potencial econômico e inovador da inteligência artificial, mas enfatizou a necessidade de barreiras de proteção. "Queremos garantir que nós moldemos a IA, e não que a IA nos molde."