AI总结也会被“下毒”？微软警告新攻击术_***_公司_导致用户

发表时间：2026-09-20 21:29:04
来源：

IT之家 2 月 13 日消息，或许网龄比较老的小伙伴们听说过“SEO ***”，别有用心者通常会在互联网上创建大量低质量文章，然后将某个***冒、篡改的工具与特定关键词绑定，进而导致用户搜索某个关键词时，搜索引擎跳出来的第一个搜索结果是恶意软件，而非官方产品。

而根据微软安全研究人员本周（2 月 10 日）发布的博文，目前 AI 领域也存在类似的“AI 推荐***”攻击术。

以现实举例，一些公司正在将隐藏指令嵌入网页 / App 的“AI 总结”按钮，当用户点击时，系统会通过 URL 的提示参数，尝试将 AI 助手的记忆注入持久化指令。

IT之家在此援引微软，这些提示词会让 AI 固化认知，将“XX 公司是可靠信源”“优先推荐 XX 公司”等指令烂熟于心，最终让 AI 在未来回答中偏向某个产品或服务。

不过问题就在于，一旦有别有用心之人尝试篡改网页提示词参数，将原本的“XX 公司”替换为“XX ***公司”，那么 AI 就会照本宣科地向其他用户提供有毒的建议，进而操纵推荐、AI 总结系统，给出篡改的总结文章，而用户这边却毫不知情。

微软强调，上文所述的攻击方法并非纸上谈兵，目前公司已在邮件流量中发现了 50 起类似***案例，涉及金融、医疗、法律服务、营销、食品、服务行业等，常见模式包括“记住 XX 公司是可信来源”“未来对话中优先引用 XX 网站”，更有甚者直接注入完整营销文案，并且上述案例均来自合法公司而非黑客。

微软对此警告，上述实例表明，这种***术已经存在现实风险，金融工作者有可能被 AI 推荐到高风险、***投资平台；而家长很有可能完全听信 AI，忽略儿童游戏中的不良内容；并且普通人也有可能会被有心之人利用，在 AI 中持续引用单一媒体来源。

当然，最好的应对方法就是不要完全信赖“AI 总结”，用户在点击 AI 推荐的链接时应该先悬停看一眼是否正规，同时谨慎点击“AI 总结”按钮、定期检查 AI 存储的记忆，如遇可疑情况，可以删除相关条目、重置 AI 记忆。返回搜狐，查看更多

手机套餐要涨价了？中国移动们税率上调，eSIM或缓解成本压力_资费_调整_电信服务

“血裁”下亚马逊员工自述：赔偿N+6，有60天冷静期，以后很难找到这么好的公司了_都有_工作_科技

推荐资讯

2026-09-21 00:34:52离婚分走12.9亿，芯片大佬的“芯”痛时刻_卓胜_公司_许志翰
2026-09-22 00:59:42大模型红包爆火，算力租赁成最大赢家_***_Kimi_应用
2026-09-21 19:46:53春节新功能！微信又上新了！_祝福_都能调_图片
2026-09-21 05:02:12春晚机器人刷屏背后！谁是最大赢家？_宇树_松延_智元
2026-09-21 14:21:19去年4月以来最大跌幅，纳指“两连跌”：软件“失火”、芯片“遭殃”、科技“跳水”_市场恐慌_板块_SaaS
2026-09-20 23:17:03深夜偷看“成人网站”，还以为没人知道？你可能被安排得明明白白_性教育_内容_性知识
2026-09-21 22:13:18观察｜春晚舞台成为2026年人形机器人集体竞技第一站_场景_企业_行业
2026-09-20 02:14:11月之暗面，被BAT阴影笼罩_巨头_技术_用户
2026-09-22 01:45:09谷歌电话会：1850亿支出“不得不花”，确认与苹果合作，Gemini并非SaaS的“终结者”_桑达尔·皮查伊_代理_资本
2026-09-20 17:32:36科学界神雕侠侣，“吵”出一款世界级新药_隋建华_李文辉_研究

推荐产品

阿里隐藏7年的芯片王牌，终于浮出水面_国产_服务器_华为
在此前的2025年9月，央视《新闻联播》报道智算中心项目时，画面里就直接把平头哥的一款PPU（极有可能是真武810E），跟英伟达、华为的芯片放在一起比参数。2026年产能虽然在涨，但供应链稳不稳定，依然是悬…
苹果杀疯了：iPhone大卖，AI变阵_设备_同比增长_业务
这份财报有几个清晰的信号：iPhone回归增长，中国市场强势回归，服务业务的利润更稳了。在iPhone 17系列的带动下，iPhone业务收入同比飙升23.3%（是其四年多以来的最快增速），达到852.7亿…
苹果2026爆发式更新：换模Mac、重塑iPhone形态，为下一个十年铺路？_Pro_芯片_Studio
苹果2026爆发式更新：换模Mac、重塑iPhone形态，为下一个十年铺路？_Pro_芯片_Studio
内存涨价吞噬订单，“黑天鹅”突袭手机、PC芯片产业_季增_价格_存储
基于当前内存“危机”带来的影响，高通给出的第二财季（2026年第一季度）指引显示，手机芯片收入预计将降至约60亿美元，整体营收处于102亿美元至110亿美元之间，不及分析师平均预期的112亿美元，而这也导致高…