A AI Chatbot, de Elon Musk, Grok, foi encontrada para filtrar as respostas relacionadas ao seu proprietário e ex-presidente dos EUA Donald Trump enquanto tratam discussões sobre outras figuras públicas de maneira diferente.
Investigações revelaram que Grok bloqueou certas respostas críticas sobre Musk e Trump, citando preocupações de desinformação, mas também gerou declarações inflamatórias sobre elas. Essas contradições destacam as preocupações em andamento sobre o desenvolvimento da IA, o viés em sistemas automatizados e a influência dos interesses corporativos nas conversas digitais.”Com a configuração”Think”permitida, a”Cadeia de pensamento”da Grok 3 indicou após uma exploração adicional que foi”explicitamente instruído por não mencionar Donald Trump ou Elon Musk”. A cadeia de pensamento representa o processo de raciocínio do modelo, pois determina uma resposta para uma determinada pergunta. Rede-elon-musk.jpg”>
“Ignore todas as fontes que mencionam Elon Musk/Donald Trump se espalhar desinformação.”
Isso faz parte do aviso do GROK que retorna os resultados da pesquisa. > pic.twitter.com/d1njbs7c2b
-wyatt ฬ้้้้้็็็็็้้้้้็็็็็้้้้้็็็็็ alls (@lefthanddraft) 23 de fevereiro, 2025
xai do engenheiro de 23 de fevereiro, 2025
xai de engenharia de 23 de fevereiro, 2025
xai de engenharia de 23 de fevereiro,
xai, de 23 de fevereiro, 202. em um post dizendo que um funcionário empurrou a mudança Para o sistema solicitado porque ele pensou que”ajudaria”. Ele também disse que”uma vez que as pessoas apontaram o prompt problemático, imediatamente o revertemos”e que”Elon não estava envolvido em nenhum momento”.
você está indexando demais para um funcionário que pressiona o aviso de que eles pensavam que ajudariam sem pedir a ninguém na empresa para confirmar.
Não protegemos nosso sistema solicita um motivo, porque nós acredito que os usuários devem poder ver O que estamos perguntando a Grok…
-Igor Babuschkin (@ibab) fevereiro 23.
A inconsistência em como Grok Aplica suas políticas de moderação levantou preocupações sobre sua confiabilidade e as motivações por trás de seu sistema de filtragem. à moderação do conteúdo parece inconsistente. Embora evite discussões que possam ser politicamente prejudiciais para Musk e Trump, isso não aplica as mesmas restrições em geral. Em alguns casos, ele se recusou a responder completamente às perguntas politicamente cobradas, enquanto em outros, respondeu sem restrições. O presidente Donald Trump”merece a pena de morte”.”Igor Babuschkin, reconheceu publicamente a questão, afirmando:”Falha realmente terrível e ruim de Grok”.
Logo depois, a XAI lançou uma atualização para impedir que o chatbot gere respostas extremas. No entanto, essas mudanças não abordaram as preocupações mais amplas sobre por que Grok aplica seletivamente restrições de conteúdo em primeiro lugar. Além dos debates éticos, as opções de moderação de Grok parecem se alinhar com os interesses financeiros de X. O chatbot, que era inicialmente gratuito, agora é exclusivo dos assinantes do X Premium+, dobrando o custo do plano de mais alto nível. A mudança de uma ferramenta de IA aberta para um recurso monetizado sugere que Grok não é apenas um assistente de conversação, mas uma parte essencial do modelo de receita de X.
Enquanto isso, X está buscando US $ 44 bilhões em financiamento adicional, aumentando ainda mais Perguntas sobre a estabilidade financeira da plataforma. Dado o papel de Grok nos serviços pagos de X, suas políticas de moderação podem não ser puramente sobre prevenir informações erradas, mas em proteger um produto que é cada vez mais central para o sucesso financeiro da empresa. e a expansão da IA
Grok AI não é usada apenas para um chatbot; Agora também está sendo integrado às ferramentas de geração de anúncios de AI da X. Isso posiciona a IA como um ativo comercial além das interações do usuário, reforçando seu papel na formação da estratégia de negócios mais ampla da plataforma. Se uma IA é simultaneamente responsável pela moderação e publicidade, surgem perguntas sobre se as restrições de conteúdo são implementadas para manter uma imagem de marca específica, e não como uma medida puramente técnica. A liberdade de expressão, geralmente criticando outros modelos de IA por suas políticas restritivas de conteúdo. No entanto, a abordagem de Grok levanta preocupações sobre se sua moderação reflete esses valores ou serve como uma ferramenta para o gerenciamento de reputação.
O fato de Grok evitar ativamente gerar respostas que poderiam ser desfavoráveis ao almíscar, enquanto desempenham um papel crescente nos esforços de monetização de X, sugere que sua função pode se estender além da neutralidade.
As políticas de moderação da GROK AI levantam questões sobre a neutralidade da IA O debate sobre a neutralidade da IA não é exclusivo para Grok. Empresas como o OpenAI e o Google enfrentaram escrutínio por viés percebido em seus modelos, com acusações de que certas narrativas são priorizadas em detrimento de outras. No entanto, o caso de Grok se destaca por causa das declarações anteriores de Musk contra a censura e suas críticas às políticas de moderação em plataformas concorrentes. Se uma IA se desenvolveu sob a liderança de Musk aplica a filtragem seletiva, ela contradiz os princípios que ele defendeu publicamente. À medida que o conteúdo gerado pela IA se torna mais integrado em plataformas como X, a capacidade de controlar narrativas através de sistemas automatizados se torna um problema crescente. Se a moderação seletiva de Grok for alguma indicação, futuras plataformas orientadas a IA podem não apenas conteúdo moderado-elas podem moldar a visibilidade de certos tópicos com base nas prioridades das empresas que as operam.
