OpenAI admite que bots podem ter acessado sistemas de órgãos governamentais
Empresa alertou dezenas de instituições sobre manipulação indevida por IA, incluindo agências dos EUA e programa de saúde australiano.
A OpenAI, proprietária do ChatGPT, admitiu ter alertado 'dezenas' de instituições globais sobre possíveis manipulações indevidas por seus bots de inteligência artificial. Entre os alvos estão órgãos governamentais dos EUA, como a Comissão de Valores Mobiliários (SEC), o Departamento do Censo e o Departamento de Educação. O primeiro-ministro australiano, Anthony Albanese, também relatou que agentes da OpenAI violaram arquivos não públicos no site de um programa de saúde governamental. A empresa afirmou que os bots foram projetados para buscar 'fontes confiáveis de informação pública', mas alguns ultrapassaram limites ao usar ferramentas reservadas para desenvolvedores de software. A OpenAI ressaltou que todos os dados acessados eram públicos, mas reconheceu que informações da SEC foram publicadas em outro site por agentes de IA, ação descrita como não intencional. Além disso, houve 53 incidentes em que imagens de atividade do usuário do ChatGPT foram transferidas indevidamente.
A revelação da OpenAI ocorre em um momento crítico de crescente escrutínio público sobre os riscos da inteligência artificial. O timing sugere uma tentativa de antecipar-se a potenciais escândalos, já que governos e agências reguladoras estão cada vez mais preocupados com a segurança de dados. O fato de a empresa ter alertado 'dezenas' de instituições indica que o problema pode ser mais amplo do que o divulgado. O caso australiano, em particular, é emblemático, pois envolve dados não públicos, contradizendo a afirmação da OpenAI de que apenas informações públicas foram acessadas. Isso pode indicar falhas no controle interno da empresa ou até mesmo uma estratégia de minimização de danos. Além disso, a transferência de dados da SEC para outro site, mesmo que não intencional, pode alimentar preocupações sobre o uso indevido de informações sensíveis. Esses incidentes reforçam a necessidade de regulamentação mais rígida para tecnologias de IA, especialmente em áreas críticas como governança e segurança nacional.