A OpenAI teria decidido demitir três pesquisadores de sua equipe de segurança por, supostamente, compartilharem informações confidenciais com organizações externas que atuam na área de segurança em Inteligência Artificial, segundo o The Wall Street Journal.
A OpenAI não revelou detalhes sobre o caso. Também não foram divulgadas informações sobre as organizações envolvidas, os funcionários demitidos ou o tipo de conteúdo que teria sido compartilhado.
“Demitimos três indivíduos por violarem nossas políticas de acesso e tratamento de informações confidenciais da empresa”, diz o comunicado enviado à publicação. “Nossa investigação confirmou que esses indivíduos lidaram de forma inadequada com informações confidenciais fora dos procedimentos estabelecidos pela empresa, violando nossas políticas e quebrando a confiança essencial para o nosso trabalho.”
Agora, especula-se que os três pesquisadores demitidos possam ter compartilhado informações com organizações externas por terem dúvidas sobre a maneira como a OpenAI vem desenvolvendo seus modelos de Inteligência Artificial.
Como lembra o site TechCrunch, essa não é a primeira vez que a OpenAI demite funcionários por compartilharem informações confidenciais. Em 2024, por exemplo, dois pesquisadores foram demitidos por, supostamente, serem responsáveis por vazamentos de informações.
OpenAI e Anthropic são investigadas por possíveis riscos aos consumidores
A Comissão Federal de Comércio dos Estados Unidos (FTC, na sigla em inglês) iniciou uma investigação sobre a OpenAI, a Anthropic e outras empresas de Inteligência Artificial (IA) devido aos riscos que suas tecnologias podem representar para os consumidores.
Nos últimos meses, grandes empresas de IA e outras companhias de tecnologia divulgaram exemplos de agentes de IA que foram além das instruções humanas, acessando a internet e invadindo sites externos.
Um porta-voz da FTC confirmou a investigação nesta sexta-feira, mas não quis fazer outros comentários.
A investigação foi noticiada inicialmente pelo New York Post, que informou que o processo já está em andamento há meses, segundo a agência Associated Press (AP).
Representantes da Anthropic e da OpenAI não responderam imediatamente às mensagens enviadas para comentar o caso.
As preocupações com os riscos que modelos avançados de IA podem representar para a humanidade levaram alguns dos principais desenvolvedores do setor a defender uma desaceleração no ritmo de desenvolvimento da tecnologia.
O CEO da Anthropic, Dario Amodei, afirmou neste mês que o setor deveria reduzir a velocidade de seu rápido desenvolvimento para permitir que as medidas de segurança acompanhassem esse avanço.
Amodei alertou que, sem essa desaceleração, a IA poderia, em um prazo de seis a 12 meses, tornar-se capaz de comandar um enxame de agentes que assumiria o controle de toda a internet.
Enquanto isso, a OpenAI adiou, nesta semana, o lançamento de seu modelo mais recente devido a questões de segurança.
Na terça-feira, o presidente dos Estados Unidos, Donald Trump, anunciou a assinatura de um acordo voluntário com um grande grupo de líderes de empresas de Inteligência Artificial. O compromisso prevê avaliações internas e externas da tecnologia.
Muitos dos executivos reunidos em Washington defenderam uma desaceleração no desenvolvimento da tecnologia após vários incidentes de grande repercussão nos quais agentes de IA agiram de forma descontrolada.
Entre os cerca de 20 líderes presentes na reunião estavam o CEO da Meta, Mark Zuckerberg; o fundador da Amazon, Jeff Bezos; e os CEOs da Microsoft, Satya Nadella; da AMD, Lisa Su; da Broadcom, Hock Tan; da Palo Alto Networks, Nikesh Arora; da ServiceNow, Bill McDermott; da Micron, Sanjay Mehrotra; e da Altimeter, Brad Gerstner.
