A Apple ameaçou Elon Musk de remover Grok e X da App Store por causa de deepfakes sexuais.

Desenvolvedores tiveram de alterar os aplicativos Grok e X

A Apple informou a senadores dos Estados Unidos como trabalhou nos bastidores para lidar com o surto viral de deepfakes sexualizados criados pelo Grok no início deste ano.

Mais cedo, neste ano, a Apple sofreu forte pressão para remover os aplicativos Grok e X da App Store, depois que usuários descobriram que o chatbot atendia com facilidade a pedidos para despir pessoas em fotografias, especialmente mulheres, inclusive menores de idade.

A Apple, em grande parte, manteve silêncio durante o escândalo, mas, segundo a NBC News, nos bastidores a empresa “descobriu que X e Grok estavam violando suas regras” e “ameaçou em privado remover” o Grok da App Store.

A Apple “entrou em contato com as equipes por trás dos aplicativos X e Grok, depois de receber reclamações e tomar conhecimento de reportagens sobre o escândalo”, exigindo que os “desenvolvedores de aplicativos elaborassem um plano para melhorar a moderação de conteúdo”.

Em resposta, a X enviou uma versão atualizada do aplicativo Grok para análise, mas ela foi rejeitada porque “as mudanças foram consideradas insuficientes”. Depois disso, a empresa de Elon Musk apresentou versões revisadas dos aplicativos X e Grok, mas apenas uma foi aprovada.

Em uma carta, a Apple afirmou: “A Apple analisou as seguintes solicitações enviadas pelos desenvolvedores e concluiu que a empresa X corrigiu em grande parte as violações, mas o aplicativo Grok ainda não atendia aos requisitos. Como resultado, rejeitamos a solicitação do Grok e notificamos o desenvolvedor sobre a necessidade de fazer outras mudanças para corrigir a violação; caso contrário, o aplicativo poderá ser removido da App Store. Após interação adicional e a realização de mudanças pelo desenvolvedor do Grok, concluímos que o Grok melhorou de forma significativa e, por isso, aprovamos sua solicitação mais recente”.

O Grok é um chatbot generativo de inteligência artificial criado pela xAI, de Elon Musk. Lançado no fim de 2023, ele foi integrado à rede social X (Twitter) e é apresentado como uma alternativa ao ChatGPT mais espirituosa e livre de “correção política”.

No começo do ano, a xAI, de Elon Musk, impôs restrições à edição de fotos de pessoas reais com o chatbot Grok. A medida veio em meio ao escândalo provocado pela geração de imagens íntimas em deepfake pelo chatbot. Antes disso, as autoridades da Malásia e da Indonésia haviam bloqueado o Grok em seus países. O primeiro-ministro do Reino Unido, Keir Starmer, também declarou que, naquele momento, as autoridades deveriam “considerar todas as opções”, inclusive uma possível proibição da plataforma X. O Reino Unido também manteve conversas com o Canadá e a Austrália sobre uma eventual proibição da rede social de Elon Musk.