Elon Musk's AI Chatbot Grok Gerando Imagens Controversas

O chatbot de Inteligência Artificial (IA) de Elon Musk, Grok, começou à permitir 🍌 que usuários criassem imagens geradas por IA a partir de textos descritivos e postassem no X na terça-feira. Logo 🍌 seguida, as pessoas começaram a utilizar a ferramenta para inundar o site de mídia social com imagens falsas de figuras 🍌 políticas, como o ex-presidente Donald Trump e a vice-presidente Kamala Harris, além de Musk - algumas delas mostrando os personagens 🍌 públicos situações claramente falsas, mas ainda assim perturbadoras, como participando dos ataques de 9/11.

Poucos Freios no Grok

Ao contrário de 🍌 outras ferramentas de geração de

s baseadas IA amplamente difundidas, o Grok, criado pela startup de IA artificial xAI 🍌 de Musk, parece ter poucos freios.

Nos testes da ferramenta, por exemplo, foi facilmente possível fazer com que o Grok gerasse 🍌 imagens falsas e

rrealistas de políticos e candidatos políticos que, fora de contexto, poderiam ser enganosos para os eleitores. A 🍌 ferramenta também criou imagens inofensivas, mas convincentes, de figuras públicas, como Musk comendo bife um parque.

Preocupações com a Proliferação 🍌 de Informações Falsas na Internet

É provável que a ferramenta adicione às preocupações de que a inteligência artificial possa causar uma 🍌 explosão de informações falsas ou enganosas na internet, especialmente antes da eleição presidencial dos EUA. Legisladores, grupos da sociedade civil 🍌 e mesmo líderes tecnológicos levantaram advertências de que o mau uso de tais ferramentas poderia causar confusão e caos para 🍌 os eleitores.

"Grok é o AI mais divertido do mundo!" Musk postou no X às quarta-feira, resposta a um usuário 🍌 que elogiou a ferramenta por ser "sem censura".

Muitas outras empresas de AI líderes já tomaram algumas medidas para impedir que 🍌 suas ferramentas de geração de imagens baseadas AI sejam usadas para criar desinformação política, embora os pesquisadores tenham encontrado 🍌 usuários que ainda conseguem encontrar maneiras de contornar as medidas de aplicação. Algumas empresas, incluindo a OpenAI, a Meta e 🍌 a Microsoft, também incluem tecnologia ou rótulos para ajudar os espectadores a identificar imagens que foram criadas com suas ferramentas 🍌 de AI.

Plataformas de mídia social concorrentes, como o YouTube, o TikTok, o Instagram e o Facebook, também tomaram medidas para 🍌 rotular o conteúdo gerado por AI nos feeds dos usuários, seja detectando-o por meio de tecnologia própria ou pedindo aos 🍌 usuários que identifiquem quando estão postando tal conteúdo.

O X não respondeu imediatamente a uma solicitação de comentários sobre se tem 🍌 alguma política contra o Grok gerar imagens potencialmente enganosas de candidatos políticos.

Até o fim da semana, a xAI parecia ter 🍌 introduzido algumas restrições no Grok, resposta a relatos críticos e imagens perturbadoras que os usuários estavam criando e postando. 🍌 Agora, a ferramenta recusa-se a criar imagens de candidatos políticos ou personagens de desenho animado amplamente reconhecidos (cujos direitos autorais 🍌 pertencem a outras empresas) cometendo atos de violência ou ao lado de símbolos de ódio, embora os usuários tenham notado 🍌 que as restrições parecem limitadas a apenas certos termos e assuntos de imagem.