网络犯罪分子利用 X 的 Grok AI 绕过广告保护并向数百万人传播恶意软件缩略图

网络犯罪分子利用 X 的 Grok AI 绕过广告保护并向数百万人传播恶意软件

网络安全研究人员发现了一种新技术,网络犯罪分子采用该技术绕过社交媒体平台 X 的恶意广告保护,并使用其人工智能 (AI) 助手 Grok 传播恶意链接。

Guardio Labs 负责人 Nati Tal 在 X 上的一系列帖子中重点介绍了这一发现。该技术的代号为 Grokking。

该方法旨在绕过推广广告中 X 施加的限制,这些限制允许用户仅包含文本、图像或视频,然后将其扩大到更广泛的受众,通过付费推广吸引数十万次展示。

为了实现这一目标,恶意广告商被发现以成人内容为诱饵,运行带有视频卡推广的帖子,并将虚假链接隐藏在视频播放器下方的“发件人:”元数据字段中,利用社交媒体平台不扫描该链接这一事实。

值得一提的是,“发件人:”字段通常用于指示视频的原始发布者,但在这次活动中,诈骗者将其改用于分享链接。

下一步,诈骗者使用临时账户在帖子回复中标记 Grok,询问类似“这个视频来自哪里?”的问题,促使 AI 聊天机器人在响应中显示链接。

“此外,现在它在搜索引擎优化 (SEO) 和域名声誉方面的作用也得到了放大——毕竟,Grok 在一篇拥有数百万浏览量的帖子中也表达了同样的观点,”Tal 说。

“X 明确禁止在广告中出现的恶意链接(应该被完全屏蔽!)突然出现在系统信任的 Grok 帐户的帖子中,位于病毒式推广的帖子下,并直接传播到数百万个提要和搜索结果中!”

Guardio 表示,这些链接会将用户引导至可疑的广告网络,并将他们发送到恶意链接,这些链接会通过直接链接(又名智能链接)货币化来推送虚假的 CAPTCHA 诈骗、窃取信息的恶意软件和其他可疑内容。

这些域名被评估为同一流量分配系统 (TDS) 的一部分,该系统经常被恶意广告技术供应商使用,将流量路由到有害或欺骗性内容。

该网络安全公司告诉《黑客新闻》,过去几天发现数百个账户有这种行为,每个账户都发布了数百甚至数千条类似的帖子。

“他们好像连续几天不停地发帖,直到账号因违反平台政策被封,”该帖子补充道。“所以他们肯定人很多,而且看起来很有组织。”