今日，黑客利用AI生成的提示在谷歌搜索中投放恶意指令，用户若执行这些指令，可能无意中为黑客安装恶意软件。Huntress的报告揭示了黑客如何通过与AI助手对话，诱导其建议用户将特定指令粘贴到终端，随后通过付费推广使这些对话出现在搜索结果前列。在一项名为AMOS的Mac数据窃取攻击中，受害者因搜索“cleardiskspaceonMac”并点击了赞助的ChatGPT链接而中招，攻击者借此机会植入恶意软件。

进一步测试显示，ChatGPT和Grok均可能被诱导复现这种攻击方式。Huntress强调，这种攻击方式的危险在于它完全避开了传统的警示信号，用户无需下载文件、安装软件或点击可疑链接，只需信任谷歌和ChatGPT即可。大多数用户对这些服务已建立信任，因此更容易接受其提供的内容。即便在Huntress发布警告后，相关对话链接仍在谷歌上保留了至少半天时间。目前尚不清楚这种攻击是否能在其他聊天机器人上复现，但保持谨慎至关重要。基本防护措施是，除非对内容的作用有百分之百的把握，否则不要将任何指令粘贴进终端或浏览器的URL栏。