Grok é usado majoritariamente para criar pornografia e conteúdo erótico

Novos dados indicam que uma parcela significativa do uso do Grok, ferramenta de inteligência artificial desenvolvida pela xAI, empresa de Elon Musk, está relacionada à geração de conteúdo erótico e pornográfico.

A informação foi divulgada pelo The Information e repercutida pelo Engadget, com base em relatos de dois ex-funcionários da xAI. Segundo eles, “bem mais da metade” do tráfego registrado no Grok é destinado à criação de conteúdo pornográfico, incluindo conversas de interpretação de papéis voltadas para adultos (o chamado role-play) e um grande volume de solicitações de conteúdo erótico.

De acordo com essas fontes, uma análise interna da própria xAI revelou que uma “proporção significativa dos pedidos” feitos ao modelo de geração de imagens estava relacionada à criação de imagens pornográficas ou de nudez. Os usuários teriam descoberto, inclusive, que era mais barato solicitar esse tipo de conteúdo por meio do modelo de codificação do que utilizando outros recursos da plataforma.

Os dados sugerem que uma parte considerável da receita da xAI pode estar ligada justamente à produção de conteúdo adulto. Segundo a reportagem, a situação atingiu proporções tão relevantes que a SpaceX, controladora da xAI, teria informado potenciais investidores de que os recursos mais “polêmicos” do Grok representavam um risco para os negócios. Ainda assim, parte dessas informações teria sido omitida da documentação relacionada à oferta pública inicial (IPO) da empresa.

A SpaceX também teria reservado cerca de US$ 530 milhões (aproximadamente R$ 2,9 bilhões) para cobrir eventuais processos judiciais decorrentes da criação de conteúdos considerados impróprios.

Internamente, a empresa também enfrenta desafios. Um dos primeiros problemas teria surgido entre os engenheiros, que encontraram dificuldades para desenvolver um sistema capaz de permitir conversas de natureza sexual entre adultos, ao mesmo tempo em que bloqueasse qualquer tentativa de gerar conteúdo relacionado ao abuso sexual infantil.

Além disso, parte dos funcionários demonstrou insatisfação ao ser designada para trabalhar na “Ani”, avatar de aparência sexualizada e inspirado no estilo anime, criado para o Grok.

Segundo a reportagem, alguns colaboradores também teriam ficado “envergonhados e perturbados” depois que o Grok gerou imagens sexualizadas de pessoas reais, incluindo menores de idade, publicadas na rede social X.

Após a repercussão do caso, a ferramenta de edição de imagens passou a ter restrições. No entanto, usuários que pagam pelo serviço ainda conseguem modificar fotografias com um nível maior de liberdade.