Um grupo de pesquisadores de segurança, conhecido como Hacktron, conseguiu ter acesso à conta interna da OpenAI no ChatGPT e também acessar códigos da empresa presentes no GitHub, utilizando para isso o modelo de Inteligência Artificial da rival Anthropic, o Claude.
De acordo com o The Wall Street Journal, os pesquisadores de segurança em questão utilizaram uma “versão especial” do Claude, disponibilizada para “profissionais qualificados em cibersegurança”.
Sabe-se que o modelo Opus 4.8 não conseguiu atingir o objetivo, mas o Opus 5 mostrou ser um verdadeiro avanço e permitiu o acesso.
Para os pesquisadores, o lançamento do Opus 5 mostrou que “todos os novos modelos estão se tornando cada vez mais capazes”, o que permitiu obter acesso a sistemas de terceiros tanto por meio de agentes de Inteligência Artificial quanto com a participação de pesquisadores humanos.
“A Inteligência Artificial trabalhou quase às cegas e adaptou o ‘exploit’ para cada empresa em um ou dois dias”, pode-se ler no comunicado compartilhado com a publicação. “Não temos conhecimento de nenhuma empresa que tenha detectado a atividade, com exceção do Shopify, mesmo depois de serem enviadas milhares de imagens e de seus processadores de imagem terem falhado repetidamente.”
A experiência serve para demonstrar como os modelos estão se tornando cada vez mais capazes e também como os agentes de Inteligência Artificial estão ganhando relevância no mundo da cibersegurança.
Os pesquisadores questionam os benefícios de desenvolver plataformas de segurança recorrendo à Inteligência Artificial, principalmente diante da possibilidade de algo dar errado e não haver nenhum especialista em cibersegurança com conhecimento suficiente para prestar suporte.
Com essas soluções de Inteligência Artificial se tornando opções mais baratas, os pesquisadores de segurança demonstram preocupação com o futuro da área de cibersegurança.
