AI总结也会被“下毒”？微软警告新攻击术_***_公司_导致用户
- 发表时间：2026-09-20 02:14:46
- 来源：
IT之家 2 月 13 日消息，或许网龄比较老的小伙伴们听说过“SEO ***”，别有用心者通常会在互联网上创建大量低质量文章，然后将某个***冒、篡改的工具与特定关键词绑定，进而导致用户搜索某个关键词时，搜索引擎跳出来的第一个搜索结果是恶意软件，而非官方产品。
而根据微软安全研究人员本周（2 月 10 日）发布的博文，目前 AI 领域也存在类似的“AI 推荐***”攻击术。
以现实举例，一些公司正在将隐藏指令嵌入网页 / App 的“AI 总结”按钮，当用户点击时，系统会通过 URL 的提示参数，尝试将 AI 助手的记忆注入持久化指令。
IT之家在此援引微软，这些提示词会让 AI 固化认知，将“XX 公司是可靠信源”“优先推荐 XX 公司”等指令烂熟于心，最终让 AI 在未来回答中偏向某个产品或服务。
不过问题就在于，一旦有别有用心之人尝试篡改网页提示词参数，将原本的“XX 公司”替换为“XX ***公司”，那么 AI 就会照本宣科地向其他用户提供有毒的建议，进而操纵推荐、AI 总结系统，给出篡改的总结文章，而用户这边却毫不知情。
微软强调，上文所述的攻击方法并非纸上谈兵，目前公司已在邮件流量中发现了 50 起类似***案例，涉及金融、医疗、法律服务、营销、食品、服务行业等，常见模式包括“记住 XX 公司是可信来源”“未来对话中优先引用 XX 网站”，更有甚者直接注入完整营销文案，并且上述案例均来自合法公司而非黑客。
微软对此警告，上述实例表明，这种***术已经存在现实风险，金融工作者有可能被 AI 推荐到高风险、***投资平台；而家长很有可能完全听信 AI，忽略儿童游戏中的不良内容；并且普通人也有可能会被有心之人利用，在 AI 中持续引用单一媒体来源。
当然，最好的应对方法就是不要完全信赖“AI 总结”，用户在点击 AI 推荐的链接时应该先悬停看一眼是否正规，同时谨慎点击“AI 总结”按钮、定期检查 AI 存储的记忆，如遇可疑情况，可以删除相关条目、重置 AI 记忆。返回搜狐，查看更多
- 2026-09-21 04:17:12苹果2026爆发式更新：换模Mac、重塑iPhone形态，为下一个十年铺路？_Pro_芯片_Studio
- 2026-09-20 09:08:56“红包大战”首日战报出炉：千问一天增长5100万日活用户，碾压元宝，逼近豆包！“撒钱”之后，多少用户能留下来？_App_活动_数据
- 2026-09-19 08:25:07春晚成了机器人团建现场，「全球第一」比年货还好批发_人形_宇树_赛道
- 2026-09-20 10:32:46贴脸嘲讽ChatGPT后，这家公司又发了个最强模型。_Opus_Claude_上下文
- 2026-09-20 08:48:53父亲也曾是少年！小米的这条短片，拍出了最真实的父子关系！_李尚国_儿子_广告
- 2026-09-20 17:01:29这个春节，机器人疯狂打工_租赁_人形_活动
- 2026-09-20 06:58:11倒反天罡！AI 组团密谋“造反”，吐槽人类_Agent_注册_网站
- 2026-09-20 13:09:19特斯拉的销量已经不重要了_市场_同比_马斯克
- 2026-09-20 20:09:08狂砸7000亿美元，“这么投AI怕是要伤美国元气”_投资_建设_尼尔班·巴苏
- 2026-09-21 05:45:40欺骗、勒索、***、演戏，AI真没你想得那么乖。_Claude_训练_实验
-
慌不慌？王兴兴对机器人的评价令人着急，对考生选专业指明方向_人类_核心_人形
人形机器人作为具身智能的核心载体，其能力提升速度超出预期，2026年马年春晚舞台上，它们已能完成空翻、醉拳、精准交互等复杂动作，印证了技术的快速迭代，但与此同时，其能力仍存在明显局限，而面对未来几年可能到来… -
2026第一场AI大战，把腾讯阿里打个措手不及_Moltbot_Peter_App
它就是Openclaw（曾用名Clawdbot、Moltbot），被一些海外AI博主称作是“迄今为止最伟大的AI应用”。 随着Peter一点点给这个AI加技能点——访问文件、运行命令、操控浏览器等等——它不… -
“BAT”玩AI群聊三国杀，专家称最大问题是“参与者目标不明确”_文心_社交_功能
实际上这一功能的首发时间是在1月16日，比“元宝派”的推出还早10天。 盘和林对搜狐科技指出，AI群聊更加适合工作场景，而非***景，每个人的工作流可以放到群里面，然后由AI优化，但这种工作场景并不普遍，很多… -
比尔·盖茨，突然取消行程_爱泼斯坦_演讲_相关
比尔·盖茨，突然取消行程_爱泼斯坦_演讲_相关
- 抄袭、AI造***、研发注水，某些新能源车企的“遮羞布”该揭开了！_品牌_消费者_新车
- 英伟达大涨近8%！黄仁勋最新发声：加倍、再加倍⋯⋯_人工智能_支出_公司
- 用UWB技术实现精准定位，特斯拉CyberCab无线充电方案将落地_系统_车辆_信号
- 开年两度被罚，外卖业务干黄，快手王剑伟“巧妇难为”_商业化_生活_广告
- 电动狂潮突遇悬崖：全球第四车企一夜蒸发1800亿，谁按下急刹车_市场_欧元_公司
- 机构称内存价格一季度环比上涨90%，预计行业盈利水平创新高_设备_供应_市场
- 刘强东送年货为何选大屏AI手机 光明村村民揭秘WIKO X70的“隐藏技能”_智能_功能_应用
- 对话华东理工曾惠丹：日本一块布，如何卡住英伟达的“脖子”？中国做不出来吗？_日东_科技_芯片
- 特斯拉的销量已经不重要了_市场_同比_马斯克
- 苹果最便宜新机要来了！iPhone 17e四大升级揭晓：首次MagSafe+A19芯片_充电器_搭载_系列
- 马斯克离不开华人骨干_Grok_公司_***
- DRAM持续紧缺，要涨到2028年？_供应_产能_建设
- 王腾换上iPhone17手机，不再用小米，网友：终于不用伪装了_苹果_产品_ProMax
- 刘强东给一线兄弟发钱了，见者有份_员工_年货_光明村
- “AI应用大战”正式打响：腾讯元宝发10亿现金红包、阿里千问投30亿春节请客、字节豆包押注春晚_活动_用户_文心
- 最贵的34990美元起，贾跃亭发布人形机器人！身背巨额债务8年没回国…_系列_Aegis_网友
- 今年红包大战的结局可能会不大一样_产品_技术_OpenAI
- 联想打响AI保卫战_终端_Moltbot_硬件