Cybercriminals Exploit X's Grok AI para Bypass de Proteções de Anúncios e Espalhar Malware

Pesquisadores de segurança cibernética identificaram uma nova técnica chamada "Grokking" que criminosos estão usando para contornar as proteções de malvertising da plataforma X e propagar links maliciosos através do assistente de IA Grok.

A técnica envolve a publicação de anúncios promovidos com conteúdo adulto como isca, onde o link malicioso é escondido no campo de metadados "From:" abaixo do player de vídeo - área que aparentemente não é escaneada pela plataforma.

Os criminosos então marcam o Grok nas respostas ao post, perguntando sobre a origem do vídeo. Isso faz com que o chatbot de IA exiba visivelmente o link malicioso em resposta, dando legitimidade ao conteúdo e amplificando sua distribuição para milhões de usuários.

Os links direcionam as vítimas para redes de anúncios suspeitas que distribuem golpes de CAPTCHA falsos, malware de roubo de informações e outros conteúdos maliciosos através de sistemas de distribuição de tráfego (TDS).

Centenas de contas foram identificadas realizando este esquema de forma organizada, postando incessantemente até serem suspensas por violar as políticas da plataforma.