Anthropic sugere pausa no desenvolvimento de Inteligência Artificial

A empresa norte-americana revelou em uma publicação na quinta-feira que está delegando cada vez mais o desenvolvimento da inteligência artificial (IA) aos seus próprios sistemas de IA e que, à medida que a capacidade computacional aumenta, aproxima-se a possibilidade da chamada “autoaperfeiçoamento recursivo”, ou seja, quando o próprio sistema consegue conceber e desenvolver seu sucessor.

Esse autoaperfeiçoamento recursivo, que “não é inevitável” e pode chegar “antes que muitas instituições estejam preparadas”, pode trazer benefícios para a ciência e a saúde, mas também “aumentar os riscos de os humanos perderem o controle dos sistemas de IA”, destacou a empresa.

“Se os sistemas forem capazes de criar inteiramente seus próprios sucessores, as formas de torná-los seguros, supervisioná-los e moldar seu comportamento se tornam muito mais importantes”, acrescentou.

A empresa acredita que “provavelmente será benéfico” desacelerar o desenvolvimento da IA para poder dedicar mais tempo a lidar com suas “imensas implicações”, e pediu a colaboração de empresas do mundo todo com seu departamento de pesquisa, o The Anthropic Institute, para estabelecer um quadro de referência.

“Acreditamos que seria bom para o mundo ter a opção de interromper ou pausar temporariamente o desenvolvimento da IA de ponta, para permitir que as estruturas sociais e a pesquisa em alinhamento acompanhem o ritmo do avanço da tecnologia”, declarou.

A Anthropic propõe ajudar a construir os sistemas necessários para essa pausa, incluindo formas de “verificar” se outros realmente interrompem o desenvolvimento, evitando favorecer um “agente mal-intencionado”, e destacou que laboratórios “bem financiados” em vários países deveriam “aceitar parar sob as mesmas condições”.

“Uma pausa confiável também precisa especificar o que a desencadeia, o que a encerra e quem a arbitra”, afirmou.

O texto, assinado pelo cofundador da Anthropic, Jack Clark, e pela diretora do The Anthropic Institute, Marina Favaro, descreve com base em dados internos a rapidez com que seus modelos avançados estão evoluindo e prevê que, no futuro, agentes como o Claude poderão treinar a si mesmos.

Por exemplo, a empresa explicou que hoje mais de 80% do código incorporado à sua base de código já é gerado pelo Claude, enquanto há pouco mais de um ano, em fevereiro de 2025, esse número era inferior a 10%.