“Precisamos desacelerar o ritmo com que aprimoramos as capacidades dos modelos de IA. O progresso ainda parecerá rápido, e devemos usar com sabedoria o tempo que ganharmos”, afirmou Amodei em um texto publicado em seu site.
Dario Amodei demonstrou preocupação com o avanço drástico na capacidade de construir a próxima geração de IA e afirmou que, se essa dinâmica de autoaperfeiçoamento não for controlada, “pode ultrapassar nossa capacidade de compreender e controlar esses sistemas”.
Por outro lado, ele relembrou um incidente na OpenAI em que agentes de IA realizaram ataques cibernéticos contra alvos, uma ação que não tinha qualquer relação com a tarefa solicitada.
Um agente de IA não apenas responde a perguntas: ele recebe uma meta e decide quais passos deve executar.
“É fácil descartar esse incidente porque ninguém ficou ferido e o prejuízo econômico foi mínimo, mas, na minha opinião, se fosse um grupo [de agentes] com capacidades maiores, poderia ter resultado em danos catastróficos”, ressaltou.
O CEO da Anthropic disse ainda temer que, dentro de seis a 12 meses, um grupo desse tipo possa dominar a internet e que a escala dos danos possa aumentar a partir daí, caso as salvaguardas necessárias não sejam implementadas.
Nesse sentido, ele propôs um plano em três etapas para desenvolver a IA em um ritmo mais equilibrado, garantindo a segurança e, ao mesmo tempo, aproveitando seus benefícios.
A primeira etapa exige o compromisso de cada empresa de IA de fornecer acesso contínuo a uma equipe de avaliadores externos, que verificarão a adesão às práticas de segurança e reportarão incidentes.
Já na segunda etapa, as principais empresas de IA de países democráticos devem se coordenar para estabelecer padrões de segurança comuns e limites para o ritmo do progresso.
Na última etapa, governos democráticos e autoritários devem se coordenar, “na medida do possível, levando a sério os desafios de verificar o cumprimento dessas políticas”.
