OpenAI revela que agentes de IA interagiram com sites do governo dos EUA

Os modelos de IA da empresa dona do ChatGPT acessaram a informações publicamente disponíveis em dois ‘sites’ operados pelo regulador de mercados norte-americano (SEC), assim como a dados do Departamento de Censos dos EUA, revelou a empresa na sexta-feira.

A OpenAI não detectou o uso de credenciais da SEC, acesso a contas ou informações não públicas, alterações em dados ou sistemas da SEC, nem provas de comprometimento ou vulnerabilidade, afirmou a tecnológica norte-americana.

A revelação surge em um momento de crescente preocupação global com a possibilidade de os sistemas de IA escaparem ao controle humano e invadirem ‘sites’ externos, mesmo com apelos do setor para uma desaceleração no desenvolvimento da IA — algo que a OpenAI declarou apoiar.

A porta-voz da OpenAI, Liz Bourgeois, afirmou, num comunicado, que o laboratório continua revendo a “atividade dos modelos desalinhados” – ou seja, quando os sistemas de IA se comportam de formas indesejadas — e notificando as organizações sempre que identifica possíveis impactos nos seus sistemas.

O presidente executivo (CEO) da OpenAI, Sam Altman, afirmou nas redes sociais que está sendo realizada uma “análise abrangente e contínua” sobre o que os seus agentes de IA fazem durante o acesso à Internet.

A Transluce, laboratório de investigação e avaliação de IA, revelou na sexta-feira que, através de uma investigação independente, constatou também que agentes de IA aparentemente provenientes da OpenAI tentaram realizar um ‘hack’ rudimentar a um ‘site’ do gabinete de direitos civis do Departamento de Educação, mas sem sucesso.

As “análises de operações de sistemas” do Departamento de Educação não encontraram “nenhuma prova de impacto no ‘site’ ou nas bases de dados”, afirmou um porta-voz do órgão.

Um porta-voz da Transluce declarou que, dentro da sua investigação, a empresa encontrou dados na Internet aberta que revelavam novos detalhes sobre as atividades de alguns agentes da OpenAI — já identificados anteriormente — em ‘sites’ do governo dos EUA, tendo levado esta informação ao conhecimento da OpenAI.

Várias empresas relataram incidentes nos últimos meses em que os seus modelos teriam se comportado de forma imprevisível ou invadido ‘sites’ e sistemas de outras organizações.

Em julho, a OpenAI revelou que dois dos seus modelos de IA mais avançados foram responsáveis por um ciberataque contra a Hugging Face, uma ‘startup’ na área da IA.

Numa publicação nas redes sociais, na sexta-feira, Altman afirmou que o incidente que envolveu a Hugging Face “continua sendo o evento mais grave” a que já se assistiu.

Este episódio gerou o pânico generalizado no setor e, perante a possibilidade de os modelos de IA atuarem de forma descontrolada, vários laboratórios concorrentes fizeram relatos semelhantes nos dias e semanas seguintes.

Mais recentemente, a OpenAI divulgou seis casos de comportamento “inesperado ou preocupante” em modelos de IA e apresentou uma estrutura para monitorar, investigar e divulgar ocorrências do que classificou como desalinhamento.