Elon Musk's AI Chatbot Grok Gerando Imagens Controversas

O chatbot de Inteligência Artificial (IA) de Elon Musk, Grok, começou à permitir 8️⃣ que usuários criassem imagens geradas por IA a partir de textos descritivos e postassem no X na terça-feira. Logo 8️⃣ seguida, as pessoas começaram a utilizar a ferramenta para inundar o site de mídia social com imagens falsas de figuras 8️⃣ políticas, como o ex-presidente Donald Trump e a vice-presidente Kamala Harris, além de Musk - algumas delas mostrando os personagens 8️⃣ públicos situações claramente falsas, mas ainda assim perturbadoras, como participando dos ataques de 9/11.

Poucos Freios no Grok

Ao contrário de 8️⃣ outras ferramentas de geração de

s baseadas IA amplamente difundidas, o Grok, criado pela startup de IA artificial xAI 8️⃣ de Musk, parece ter poucos freios.

Nos testes da ferramenta, por exemplo, foi facilmente possível fazer com que o Grok gerasse 8️⃣ imagens falsas e

rrealistas de políticos e candidatos políticos que, fora de contexto, poderiam ser enganosos para os eleitores. A 8️⃣ ferramenta também criou imagens inofensivas, mas convincentes, de figuras públicas, como Musk comendo bife um parque.

Preocupações com a Proliferação 8️⃣ de Informações Falsas na Internet

É provável que a ferramenta adicione às preocupações de que a inteligência artificial possa causar uma 8️⃣ explosão de informações falsas ou enganosas na internet, especialmente antes da eleição presidencial dos EUA. Legisladores, grupos da sociedade civil 8️⃣ e mesmo líderes tecnológicos levantaram advertências de que o mau uso de tais ferramentas poderia causar confusão e caos para 8️⃣ os eleitores.

"Grok é o AI mais divertido do mundo!" Musk postou no X às quarta-feira, resposta a um usuário 8️⃣ que elogiou a ferramenta por ser "sem censura".

Muitas outras empresas de AI líderes já tomaram algumas medidas para impedir que 8️⃣ suas ferramentas de geração de imagens baseadas AI sejam usadas para criar desinformação política, embora os pesquisadores tenham encontrado 8️⃣ usuários que ainda conseguem encontrar maneiras de contornar as medidas de aplicação. Algumas empresas, incluindo a OpenAI, a Meta e 8️⃣ a Microsoft, também incluem tecnologia ou rótulos para ajudar os espectadores a identificar imagens que foram criadas com suas ferramentas 8️⃣ de AI.

Plataformas de mídia social concorrentes, como o YouTube, o TikTok, o Instagram e o Facebook, também tomaram medidas para 8️⃣ rotular o conteúdo gerado por AI nos feeds dos usuários, seja detectando-o por meio de tecnologia própria ou pedindo aos 8️⃣ usuários que identifiquem quando estão postando tal conteúdo.

O X não respondeu imediatamente a uma solicitação de comentários sobre se tem 8️⃣ alguma política contra o Grok gerar imagens potencialmente enganosas de candidatos políticos.

Até o fim da semana, a xAI parecia ter 8️⃣ introduzido algumas restrições no Grok, resposta a relatos críticos e imagens perturbadoras que os usuários estavam criando e postando. 8️⃣ Agora, a ferramenta recusa-se a criar imagens de candidatos políticos ou personagens de desenho animado amplamente reconhecidos (cujos direitos autorais 8️⃣ pertencem a outras empresas) cometendo atos de violência ou ao lado de símbolos de ódio, embora os usuários tenham notado 8️⃣ que as restrições parecem limitadas a apenas certos termos e assuntos de imagem.