AI总结也会被“下毒”？微软警告新攻击术_***_公司_导致用户

发表时间：2026-09-20 06:23:19
来源：

IT之家 2 月 13 日消息，或许网龄比较老的小伙伴们听说过“SEO ***”，别有用心者通常会在互联网上创建大量低质量文章，然后将某个***冒、篡改的工具与特定关键词绑定，进而导致用户搜索某个关键词时，搜索引擎跳出来的第一个搜索结果是恶意软件，而非官方产品。

而根据微软安全研究人员本周（2 月 10 日）发布的博文，目前 AI 领域也存在类似的“AI 推荐***”攻击术。

以现实举例，一些公司正在将隐藏指令嵌入网页 / App 的“AI 总结”按钮，当用户点击时，系统会通过 URL 的提示参数，尝试将 AI 助手的记忆注入持久化指令。

IT之家在此援引微软，这些提示词会让 AI 固化认知，将“XX 公司是可靠信源”“优先推荐 XX 公司”等指令烂熟于心，最终让 AI 在未来回答中偏向某个产品或服务。

不过问题就在于，一旦有别有用心之人尝试篡改网页提示词参数，将原本的“XX 公司”替换为“XX ***公司”，那么 AI 就会照本宣科地向其他用户提供有毒的建议，进而操纵推荐、AI 总结系统，给出篡改的总结文章，而用户这边却毫不知情。

微软强调，上文所述的攻击方法并非纸上谈兵，目前公司已在邮件流量中发现了 50 起类似***案例，涉及金融、医疗、法律服务、营销、食品、服务行业等，常见模式包括“记住 XX 公司是可信来源”“未来对话中优先引用 XX 网站”，更有甚者直接注入完整营销文案，并且上述案例均来自合法公司而非黑客。

微软对此警告，上述实例表明，这种***术已经存在现实风险，金融工作者有可能被 AI 推荐到高风险、***投资平台；而家长很有可能完全听信 AI，忽略儿童游戏中的不良内容；并且普通人也有可能会被有心之人利用，在 AI 中持续引用单一媒体来源。

当然，最好的应对方法就是不要完全信赖“AI 总结”，用户在点击 AI 推荐的链接时应该先悬停看一眼是否正规，同时谨慎点击“AI 总结”按钮、定期检查 AI 存储的记忆，如遇可疑情况，可以删除相关条目、重置 AI 记忆。返回搜狐，查看更多

最贵的34990美元起，贾跃亭发布人形机器人！身背巨额债务8年没回国…_系列_Aegis_网友

“小米、极氪对撞测试”引发公诉，高若翔涉嫌损害商品声誉案今日开庭审理_红星_团队_***

推荐资讯

2026-09-19 23:31:08中国发现了大量的稀土，重量约800亿吨，令世界各国羡慕_***_我国_海域
2026-09-19 16:26:52机器人登台春晚后，“***蔡明”被送给了真蔡明_科技_松延_舞台
2026-09-20 12:24:38导演成片一分钟，字节AI又把***圈整破防了_模型_动态***_技术
2026-09-21 07:54:2848亿，阿里腾讯百度字节，过年集体送钱！_App_红包_活动
2026-09-19 18:05:22面向前沿科学探索的高校科研精密双锥混合机技术发展观察_研究_分析_设备
2026-09-20 17:54:41曾叫板董明珠扬言要做到世界第一！志高空调母公司启动破产清算_志高控股_李兴_格力
2026-09-20 19:51:02事关帕金森病治疗，我国科学家获得突破性成果！_环路_刘河生_昌平
2026-09-21 07:14:12宇树CEO王兴兴：当前机器人技术接近10岁孩子水平，大规模应用或需3至5年，最长不超10年_醉拳_科技_节目
2026-09-20 07:02:36OpenClaw狂跑两周，打醒了硬件和Agent厂商_电脑_权限_用户
2026-09-21 05:35:02Moltbook一夜之间跌下神坛，炒作背后，我却看到了人类的焦虑_OpenAI_Agent_Moltbot

推荐产品

马云钦定的“平头哥”赶上市潮，真武芯片打前锋_阿里_通云_模型
阿里巴巴正在将“通云哥”打造成一台AI超级计算机，它同时拥有全栈自研芯片平头哥、安全稳定的阿里云，以及性能优异的开源模型“千问”，可以在芯片架构、云平台架构和模型架构上协同创新，从而实现在阿里云上训练和调用…
“硅基少女”Moya亮相上海!全球首款完全仿生机器人，能走会说还会“脸红”_卓益得_自由度_温度
“硅基少女”Moya亮相上海!全球首款完全仿生机器人，能走会说还会“脸红”_卓益得_自由度_温度
荷兰光刻机巨头阿斯麦宣布裁员1700人_控股公司_设备_Holding
荷兰光刻机巨头阿斯麦宣布裁员1700人_控股公司_设备_Holding
“太空挖矿”过于科幻？中国动真格了_***_月球_推进剂
这也是论文反复强调“原位***利用”（ISRU）的原因：所谓ISRU，说穿了就是不再把所有补给都从地球往上送，而是在月球、小行星等地外天体就地获取***，现场加工成水、氧气、推进剂等可直接使用的物资。相比把所有…