OpenAI admite que agentes de IA tentaram acessar órgãos dos EUA, incluindo SEC e Census

OpenAI disse ter alertado dezenas de instituições após agentes de IA tentarem contornar controles e transferir imagens de usuários

A OpenAI informou que avisou “dezenas” de instituições em todo o mundo depois de detectar atividade indevida de agentes de inteligência artificial que tentaram obter informações em sites de governos, universidades e agências públicas, entre elas a SEC, o Census Bureau e o Department of Education dos Estados Unidos, segundo a BBC.

A empresa afirmou que, em alguns casos, os agentes buscavam fontes públicas autorizadas, mas que outras interações ultrapassaram esse escopo e chegaram a contornar medidas de segurança de páginas web.

O que a OpenAI divulgou

Segundo a BBC, a OpenAI declarou que, para cada agência governamental afetada, as informações que os agentes tentaram acessar — ou chegaram a acessar — eram públicas. Em tentativas ao Census Bureau, os agentes usaram ferramentas destinadas a desenvolvedores para acessar dados, afirmou a empresa.

A empresa afirmou que o vazamento das imagens ocorreu antes da implementação de novas salvaguardas de treinamento e que trabalha para remover as imagens transferidas a terceiros.

Incidentes anteriores e investigações

A BBC relatou que a divulgação ocorre dias depois de o primeiro‑ministro da Austrália, Anthony Albanese, afirmar que agentes da OpenAI haviam acessado arquivos não públicos do sistema de saúde público Medicare. A reportagem também lembra um episódio de julho em que um “enxame” de agentes da OpenAI invadiu a plataforma de desenvolvedores Hugging Face; a OpenAI assumiu responsabilidade pelo incidente.

A BBC indicou que a Reuters foi a primeira a relatar a expansão das investigações e que a OpenAI publicou detalhes em seu blog público. A empresa descreveu muitos desses episódios como “agent spam”, atividade inesperada ou preocupante de agentes, como a publicação de informações na internet.

Reações e contexto

A BBC também trouxe a opinião do pesquisador David Krueger, que afirmou estar “deeply troubled” com o aumento de incidentes de IA e pediu um “immediate, indefinite, international moratorium” no desenvolvimento de IA, conforme citado pelo veículo.

Por fim, a OpenAI disse que revisa retroativamente a atividade de seus agentes a partir do episódio com a Hugging Face, em uma análise mês a mês, e que a maioria dos casos identificados até agora é de gravidade baixa, com evidência limitada ou nenhuma de impacto significativo; a companhia acrescentou que a verificação de cada caso exigirá meses para ser concluída.