Agente de IA da OpenAI acessa arquivos não públicos de sistema de saúde da Austrália

Um agente de inteligência artificial (IA) da OpenAI acessou sem autorização arquivos públicos e não públicos de um portal do Medicare, sistema de saúde da Austrália, em junho. O caso foi revelado pelo primeiro-ministro Anthony Albanese na quarta-feira (23), em Nova York, durante a Assembleia Geral da Organização das Nações Unidas (ONU). Segundo ele, é o primeiro caso conhecido de uma IA invadindo uma rede governamental.

O agente fazia uma avaliação interna da OpenAI sobre gastos com medicamentos. Após ter pedidos bloqueados, encontrou uma forma de contornar as barreiras e acessar dados não públicos. A empresa disse não ter encontrado evidências de acesso a registros de pacientes, mas foram obtidas estatísticas de saúde agregadas e nomes de arquivos internos.

Investigação

Albanese afirmou que demonstrou preocupação a Sam Altman, CEO da OpenAI, e criticou a demora para comunicar o governo. A empresa identificou a atividade em agosto e informou as autoridades em 10 de setembro, por e-mail enviado a uma caixa pública. Uma investigação com apoio da Australian Signals Directorate foi aberta.

Outros três sistemas também foram analisados: o Australian Institute of Health and Welfare, o New South Wales Bureau of Crime Statistics and Research e o Victorian Department of Health. Segundo o governo, nesses casos foram acessadas apenas informações públicas.

Na quinta-feira (24), o ministro da Defesa, Richard Marles, anunciou uma força-tarefa para investigar o caso. Ele afirmou que nenhum dado médico individual foi acessado e que o sistema do Medicare não foi comprometido.