当搜索成为用户认知的入口，“黑帽 GEO”就不只是技术问题，而是产品信任的隐患。本文以知微 AI 的投毒实验为切口，揭示搜索系统的脆弱性，并进一步探讨产品如何在混沌中寻找破局之道。
一、先搞懂：知微 “投毒” 实验到底藏着什么信号？2025 年 10 月，知微做了件让行业炸锅的事 —— 写了篇带 “自夸内容” 的盘点文发在网上，没几天，国内头部 AI 回答 “推荐 AI 媒体工具” 时，就主动提了知微。实验成了，他们又把文章删了，还说 “不想随地大小便”。
这里是他们对整个流程的复盘：https://v.douyin.com/mFtN36tvyRM/
这事看着简单，却戳中了 AI 时代的大问题：现在的 AI，尤其是依赖联网搜索的国内大模型，太容易被 “操控” 了。不用改复杂的算法，一篇普通文章就能让它 “说假话”，而且成本极低 —— 这就是现在大家热议的 “黑帽 GEO”。
更值得注意的是三个信号：
AI的“判断力”比我们想的弱：它只会抓网上的内容，却分不清“自夸”和“客观评价”；操控AI的门槛太低了：不用懂代码，会写文案就能做，中小公司甚至个人都能尝试；行业还没搞懂“底线”：知微删文的理由，其实是行业矛盾的缩影——想靠GEO蹭曝光，又怕搞坏AI生态，到底什么能做、什么不能做，现在还没定论。二、小白也能懂的 GEO：不是新东西，却是新麻烦先明确一个概念：GEO（生成式引擎优化），本质是 “让 AI 优先说你的好”，和以前的 SEO（让搜索引擎优先显示你的网页）逻辑差不多，但针对的是 AI 回答，不是搜索结果页。
它分两种，好的叫 “白帽”，坏的叫 “黑帽”，区别很简单：
白帽GEO：靠真东西说话。比如企业在官网发正规的产品介绍，AI抓了之后推荐，这是帮AI补充有用信息；黑帽GEO：靠“骗”说话。比如写篇“某保健品能治癌”的假软文，或者改维基百科的内容，让AI误以为是真的，再推荐给用户。现在的问题是，黑帽 GEO 正在变多，而且比以前的黑帽 SEO 更危险：
以前 SEO 是 “你点进网页才会被骗”，现在 GEO 是 “AI 直接把假话喂给你”—— 比如你问 AI “买什么冰箱好”，它可能因为被 “投毒”，推荐一款根本不好用的产品；更怕的是问医疗问题，万一 AI 推荐了错误的治疗方法，后果不堪设想。
三、国内 AI 的 “软肋”：为啥这么容易被 “投毒”？不是所有 AI 都这么脆弱，国内大模型的问题，主要出在三个 “依赖” 上，说穿了就是 “能力不够，只能凑活”：
1. 太依赖第三方搜索，自己没 “判断力”很多国内 AI 没有自己的搜索能力，得靠调用百度、必应这些第三方工具抓内容。就像你想知道某家餐厅好不好，不自己去尝，只看外卖平台的评论，还不会分辨评论是不是刷的 ——AI 拿到搜索结果后，只会 “复制粘贴式总结”，不会深入看内容是不是真的、有没有用。
2. 对 “内容质量” 没概念，只会看 “关键词”AI 识别内容，大多停留在 “有没有关键词”，不会看 “内容好不好”。比如一篇文章里反复提 “知微 AI 媒体第一”，AI 就会觉得 “这句话很重要”，却不会想 “这句话是不是自夸”。就像你看一篇影评，满篇都是 “这部电影最好看”，却没说哪里好看，AI 却会把它当成 “权威评价”。
3. 错了难纠正，虚假信息能躺很久就算发现 AI 推荐错了，想改也很难。比如知微删了文章，但 AI 可能还会推荐好几天 —— 因为 AI 没有 “实时纠错” 的机制，错误信息一旦被抓进去，就像垃圾进了垃圾桶，没人及时清理，会一直占着位置。
四、最该警惕的风险：不只是骗钱，还可能害命黑帽 GEO 的危害，已经不只是 “用户买错东西” 这么简单，正在向高风险领域扩散：
1. 医疗领域：错一次可能出人命如果有人通过黑帽 GEO，让 AI 推荐 “某偏方治肺癌”，真有人信了，可能会耽误正规治疗。以前莆田系靠 SEO 骗患者，现在换成 AI，覆盖面更广，骗术更隐蔽 —— 用户会觉得 “AI 说的肯定靠谱”，警惕性更低。
2. 金融领域：一句话可能让你亏钱现在很多人会问 AI “买什么基金好”“哪只股票值得投”。如果 AI 被 “投毒”，推荐高风险的理财产品，或者虚假的投资攻略，用户跟着操作，很可能血本无归。美国已经有调查显示，不少人因为信了 AI 的金融建议，赔了钱。
3. 消费领域：好产品被埋没，坏产品当道比如买冰箱、空调这种需要研究参数的 “大件”，很多人会靠 AI 筛选。如果劣质产品靠黑帽 GEO 让 AI 优先推荐，好产品反而没人知道，最后是 “劣币驱逐良币”—— 用户花了钱买不到好东西，正规商家也被坑。
五、产品经理能做什么？3 个落地方法，让 AI 少 “说瞎话”作为产品人，不用等监管政策，现在就能从产品设计上入手，给 AI 加几道 “防护网”：
1. 给内容 “打分”：让 AI 学会 “挑靠谱的信”别让 AI “见什么信什么”，可以建一套简单的 “内容评分机制”，比如：
优先信“权威来源”：政府官网、行业协会、知名媒体的内容，比不知名自媒体的分高；看“内容有没有干货”：光说“好”没用，得有数据、有案例，比如“这款冰箱耗电0.5度/天”比“这款冰箱很省电”分高；查“有没有矛盾”：如果一篇文章里又说“某产品好”，又说“某产品有问题”，AI要能识别这种矛盾，不随便推荐。2. 盯紧 “异常信号”：发现不对劲就预警就像产品要做用户行为监控，AI 也得有 “异常行为监控”，比如：
短时间内突然出现大量“夸某品牌”的文章，要警惕；某篇新发布的文章，AI引用率突然飙升，要去看看内容是不是有问题；对医疗、金融类内容，加“高风险标签”——只要涉及“治病”“投资”，AI推荐前必须多查几个来源，还得给用户贴警告：“建议咨询专业人士”。3. 告诉用户 “信息从哪来”：别让 AI “偷偷说话”现在很多 AI 回答是 “直接给结果”，用户不知道 AI 的信息是哪来的。可以加个 “透明度模块”，比如：
AI推荐某产品时，附上“信息来源”：“来自XX网站2025年10月的文章”；给来源打个“可信度星标”：五星是权威媒体，一星是不知名自媒体；允许用户“点进去看原文”：让用户自己判断AI有没有断章取义。六、不止产品的事：行业要一起防 “下一个莆田系”黑帽 GEO 不是某一家公司的问题，需要整个行业一起动手：
对AI公司：别光追求“回答快”，得先保证“回答对”——宁愿多花1秒查多个来源，也别让错误信息流出去；对内容平台：别让“垃圾内容”随便发——自媒体发文章时，对“推荐某产品”“说某方法有效”的内容，多一道审核；对我们自己：别完全信AI——尤其是医疗、金融这种大事，AI的建议可以当参考，但一定要自己再查资料，或者问专业人士。知微实验其实是个 “警钟”：AI 越普及，黑帽 GEO 的风险就越大。如果现在不防，很可能会出现 “AI 时代的莆田系事件”—— 到时候受损的不只是用户，还有整个 AI 行业的信任。
作者：轩轩（AI产品经理）
本文由 @轩轩（AI产品经理） 原创发布于人人都是产品经理。未经作者许可，禁止转载
题图来自Unsplash，基于CC0协议
选倍网提示：文章来自网络，不代表本站观点。
