Jornal Do Brasilia - Estudo revela falhas do chatbot Grok, de Musk, em respostas sobre guerra Irã-Israel

Com o desaparecimento gradual da verificação por jornalistas em plataformas como o Facebook, cada vez mais internautas recorrem a ferramentas de inteligência artificial (IA) como o Grok para encontrar informação confiável, mas as respostas obtidas às vezes desinformam.

Segundo um estudo publicado na terça-feira por um laboratório de pesquisas digitais do Atlantic Council, grupo de reflexão americano, as respostas do Grok "durante os primeiros dias do conflito entre Israel e Irã revelaram falhas significativas e demonstraram as limitações do chatbot para fornecer informação precisa, confiável e coerente em tempos de crise".

A análise de 130.000 mensagens em vários idiomas na plataforma X, que integra o chatbot Grok, determinou que este "tinha dificuldades para autentificar o conteúdo gerado pela IA".

Por exemplo, após os ataques em represália do Irã contra Israel, o chatbot deu respostas muito diferentes sobre imagens geradas por IA de um aeroporto destruído, que tiveram milhões de visualizações no X: oscilava, às vezes no mesmo minuto, entre negar a destruição do aeroporto e confirmar que tinha sido atingido pelos ataques.

Em algumas respostas, Grok afirmou que os danos se deviam a um míssil disparado do Iêmen, e em outras identificou falsamente o aeroporto como sendo de Beirute, Gaza ou Teerã.

Segundo os especialistas, Grok já tinha se equivocado na verificação de fatos sobre o recente conflito entre Índia e Paquistão, e durante as manifestações em Los Angeles contra as operações de captura de imigrantes ordenadas pelo presidente americano, Donald Trump.

No mês passado, o serviço de IA do empresário de origem sul-africana também causou polêmica ao se referir erroneamente a um "genocídio branco" na África do Sul, um erro que a xAI atribuiu posteriormente a uma "modificação não autorizada".

P.A. Mendes--JDB