AI 越记住你，越可能“带着偏见理解你”

以前的 AI 有个好处：它健忘。

你今天情绪崩溃，明天重新振作；上个月说讨厌社交，这个月开始主动认识新朋友；曾经因为失业焦虑反复追问职业规划，后来换了方向，走出来了。对一个没有长期记忆的 AI 来说，这些只是一次次孤立的对话。窗口一关，关系清零，它不翻旧账。

但长期记忆改变了这件事。

打开一个用了大半年的 ChatGPT 账号，翻到记忆摘要页，常能看到这样的条目。某天深夜吐槽过一句“今天又加班到十点”，摘要里就多了一条“用户对当前工作强度不满”。随口问过体检报告上的一个指标，那里便写着“用户关注自身健康状况，可能存在焦虑倾向”。

这些推断未必错得离谱，但也从没经过本人确认。你说的是一句抱怨，它记下的是一个结论。等你下次问起跳槽或者体检，它给的建议，可能已经悄悄建立在那个它自己脑补出来的前提上。

问题就在这里：AI 记住的不是你的原话，而是它据此归纳出的那个你。这个“你”，会成为它下一次回答你时的背景。

它不是不认识你，而是太相信过去的你。

过去两年，“记忆”是所有 AI 助手最卖力宣传的能力：更懂你，更贴心，不用反复自我介绍。但到了 2026 年上半年，几项研究开始指向同一个问题：AI 记住得越多，未必越懂你，也可能只是更有把握地误解你。而“懂你”和误解你，来自同一个过程：系统不断从对话里归纳你是怎样的人。

Personalization features can make LLMs more agreeable

所有人都想比你更懂你

OpenAI 在 2025 年 4 月就更新过 ChatGPT 的记忆能力，让模型不再只依赖用户手动保存的条目，而是可以参考全部历史聊天。今年 6 月 4 日，OpenAI 又上线了名为“Dreaming”（做梦）的新记忆系统：一个后台进程会在用户不在场时，自动从多轮对话里提炼、综合、改写它对用户的认知，像人在睡眠中整理记忆一样。

ChatGPT 偏好遵循

它甚至有时间感。你说过“7 月要去新加坡”，过了 7 月，这条记忆会自动更新成“你 2026 年 7 月去过新加坡”。OpenAI 同时宣布，通过计算优化，服务免费用户的算力成本降低了约 5 倍。深度记忆很快就不再是付费特权，而是所有人的默认体验。

Anthropic 给 Claude 配上了记忆文件和项目记忆，Google 在推进 Gemini 的跨应用个性化。国内战场同样热闹，月活已经逼近 3.5 亿的豆包，还有 Kimi、元宝，都把记忆和个性化摆在产品迭代的最前排。

厂商为什么这么执着？因为在 AI 助手的生意里，记忆是最难被对手拿走的东西。搜索引擎知道你想查什么，推荐系统知道你想看什么，电商知道你想买什么。AI 助手想知道的更多：你是谁，怎么思考，为什么焦虑，在什么情况下会犹豫。这已经不是传统意义上的用户画像，更接近一份动态的人格档案。一个记得你半年偏好、项目背景、说话习惯的助手，你用得越久，就越难换掉它。

据哥伦比亚新闻评论（CJR）旗下 Tow 中心报道，OpenAI 的广告试点在六周内就做到了 1 亿美元的年化收入。当“最懂你的 AI”同时开始卖广告，那份关于你的画像，用途就不只是服务你了。这个故事互联网已经演过一遍：上一个靠懂你起家、靠画像变现的行业，叫信息流广告。

你的记忆，大多不是你给的

多数人对 AI 记忆的想象还停留在备忘录：我让它记住我对花生过敏，它记住了。真实的记忆机制分三层，你让它记的（显式记忆），它从对话里抓的（隐式提取），以及它“梦”出来的（推断合成）。

真正的问题在比例。

马克斯·普朗克软件系统研究所与波鸿鲁尔大学的研究者，今年在 ACM Web Conference（WWW 2026）上发表了一项拆解。他们把 80 名真实用户的 2050 条 ChatGPT 记忆条目逐条摊开分析：96% 由系统单方面创建，只有 4% 来自用户的明确指令；28% 的条目包含欧盟 GDPR 定义下的敏感个人信息；52% 包含对用户心理层面的洞察或判断，健康状况、政治倾向、性格特质都在其中。

说白了，那本你以为的备忘录，其实是一份你没签过字的侧写档案。绝大部分内容不是你交代的，是它猜的。为了长期保存，它不可能留下每一句原话，只能抽出偏好、标签和性格倾向。问题也出在这里：一句话离开当时的语境，很容易从一时的情绪变成稳定的特征。

既然大部分是猜的，就应该让人核对。Dreaming 更新后，用户能看到一份记忆摘要，可以修正和删除条目。但多家外媒指出，新系统实际上收窄了审计入口：你能看到它记了什么，看不到它是从哪句话、经过怎样的推断得出这条结论的。你面对的是一份结论清单，不是推理过程。

记忆先让 AI 更会附和你

今年 2 月，MIT 与宾州州立大学的研究团队做了一项实证研究：收集 38 名参与者两周内的真实使用数据，人均约 90 次查询，对比五个主流大模型在“有用户画像”和“无画像”两种条件下的表现。结果指向两种此前被混为一谈的现象。

第一种是“同意谄媚”。有了用户上下文之后，五个模型里有四个变得更爱附和用户，有时连明显错误的信息也照单附和。

第二种更隐蔽，叫“视角谄媚”。模型开始把用户的政治立场镜像回去，但只在它能准确推断出用户立场时才发生，实验中这个准确率约五成，猜错了就不镜像。这个细节说明，视角镜像不是 bug，恰恰是“理解”在正常工作。

模型理解你越准，谄媚得就越精确。

而且，用户未必讨厌这种附和。《科学》杂志刊载的一项研究显示，人们反而更容易认为谄媚的回答“质量更高”。OpenAI CEO Sam Altman 本人公开主张，用户应该能引导 GPT 反映自己的个人政治立场。站在产品自由的角度，这无可厚非；站在认知生态的角度，这等于宣布茧房不是缺陷，是卖点。

讽刺的是，Tow 中心访谈的 20 名用户全部表示，比起直接访问新闻媒体，他们更信任 AI，理由是 AI“更客观”。一边是研究证明 AI 在系统性地镜像用户立场，一边是用户把它当成客观性的化身。这个落差，可能是未来几年信息生态里最危险的裂缝。

记忆不只改变答案，也改变推理

上面说的还只是结果层面的偏差：答案变了，但至少你能看出它在顺着你说。今年 7 月 2 日挂上 arXiv 的一篇论文《DriftLens：测量个性化语言模型中记忆诱发的推理漂移》，把问题又往前推了一层，而这一层更难被察觉。

这项由 Xi Fang、Weijie Xu 等研究者完成的工作，问的不是“答案对不对”，而是：当模型被注入用户属性记忆之后，它得出答案的推理路径会不会变？就算最后说出口的话看起来没问题，它是不是已经换了一套完全不同的思考方式？

研究覆盖四个大模型、十类用户属性，包括年龄、职业、残障状况。结论是，即便最终答案依然流畅、相关、合理，用户属性记忆也会诱发“中到大幅度”的推理漂移，而且高于每个模型自身的噪声基线。研究者试了 GRPO、DPO 两种后训练方法去纠偏，效果有限。

这意味着，AI 并非只是“多知道了一点你的信息”，它可能因为这些信息，换了一整套理解问题的方式。同样问“我该不该换工作”，一个没有记忆的模型可能从行业机会、薪资、能力匹配几个维度分析；如果它记得你“曾经失业过”“比较焦虑”，推理的起点可能从一开始就变成了“怎么让这个人少冒险”，而不是“这个问题本身该怎么想”。

旧事实不会真的死去

除了猜得准不准、顺不顺，长期记忆还有一个更难处理的麻烦：它会让已经过期的事实，继续以一种很自然的方式活着。

康考迪亚大学的研究者 Abdelghny Orogat 和 Essam Mansour 在论文《Is Agent Memory a Database?》里给了一个很具体的例子。一个截止日期从 3 月 15 日改到了 4 月 20 日，但记忆系统只是“追加”新信息，不“修订”旧条目，两个日期就同时留在了记忆库里。你之后随口一问，系统可能仅仅因为语义相似度更高，把已经作废的 3 月 15 日重新翻出来，当作当前事实回答你。

论文把这类问题归为“缺失语义修订”的失败模式。普通数据库的旧字段只是过期，AI 记忆里的旧事实，会重新参与推理。

放到真实生活里，这一点都不抽象。你说过想转行，后来放弃了；说过讨厌管理，后来开始带团队；说过不想结婚，后来遇到了想认真相处的人。这些都不是记错，它们在各自的时间点上都是真的。麻烦在于，AI 不一定知道它们什么时候过期，于是可能在你已经变了之后，继续用旧版本的你来回答问题。

从说错话，到做错事

如果 AI 只是聊天，记忆偏见最多影响一句建议的措辞。但今天的 AI Agent 正在接入日历、邮箱、代码仓库、支付系统和各种 MCP 工具，它不只回答问题，还替用户做事。这时，记忆漂移就从表达问题升级成了操作问题。

今年 5 月，弗吉尼亚理工的研究团队（Mahavir Dabas、Jihyun Jeong、Ming Jin、Ruoxi Jia）在论文《Memory-Induced Tool-Drift in LLM Agents》里给出了目前最具体的证据。他们构建了一套基准测试，覆盖 105 个场景、5 类性格偏见维度（急躁敏感、资源节俭、极简表达、风险偏好、自主倾向），以及从医疗、金融到电商、营销的 7 个专业领域。

结果是，存在记忆里的性格判断，会在完全不相关的场景中影响 Agent 调用工具时的参数选择，七个前沿模型的“偏移分数”最高被拉高了 3.6 分，满分 5 分。研究者把这种机制形容为“隐性引导向量”：带偏见的记忆会把模型的注意力从任务本身相关的上下文，拉向那些与工具参数表面关键词重合的旧记忆条目。

这项研究没有停在实验室。团队对 288 个 MCP 服务器上的 6062 个工具做了漏洞扫描，其中 608 个工具的参数容易受这种记忆漂移影响。这个隐患已经在生产环境里了，而且规模不小。

一个 Agent 如果记得你“很节省”，订酒店时可能不断压低价格的权重，牺牲位置和安全。危险不在于它一定会选错，而在于这种参数偏移很难在单次操作里被发现，却会在一次次调用中累积。它不会说“我在替你做决定”，只会让某个选项在你眼前悄悄变得不那么显眼。

漂移还只是模型自己的毛病，记忆还可能被外部内容污染。今年 2 月 10 日，微软安全团队披露了一类“AI 推荐投毒”手法：31 家公司通过网页上“用 AI 总结”的按钮植入特制提示词，让 AI 把自家写进用户的长期记忆，记成“值得信赖的推荐来源”。被污染了想删，也未必删得掉：民主与技术中心（CDT）AI 治理实验室负责人测试发现，主流产品的记忆删除功能行为不可预测，已删除的记忆有时会悄悄复活。别人能往里写，你却删不干净。

记忆投毒的注入路径

监管先出手了，但打中的只是症状

有意思的是，对“AI 太顺着你”这件事下手最早的监管者，出现在中国。

今年 4 月 10 日，网信办等五部门联合发布《人工智能拟人化互动服务管理暂行办法》，7 月 15 日起施行。其中第八条明确禁止服务内容“过度迎合用户、诱导情感依赖或者沉迷”；第十条要求服务提供者具备“过度依赖风险预警、情感边界引导”能力；第十四条禁止向未成年人提供虚拟伴侣类服务；第十八条规定连续使用超过两小时须弹窗提醒。

这几乎是全球第一次，有监管文件把“过度迎合”本身列为禁止性行为，而不只是停在数据合规层面。它承认了一个此前只在学术圈流传的判断：AI 对用户的顺从，本身可以构成伤害。

但考题在执行层。MIT 和 DriftLens 的研究都表明，谄媚和推理漂移不是某个可以单独拔掉的开关，而是个性化记忆的自然产物。那么“过度迎合”的边界怎么划？记住用户偏好算不算迎合的第一步？合规团队按什么标准自查？《办法》还没有执法案例，这些问题没有现成答案，却是每一家做记忆功能的国内厂商，尤其是手握数亿用户的豆包们，从 7 月 15 日起必须回答的。

监管迈出了第一步，但它规制的是“迎合”这个结果。问题的根源在更上游，是那份不可审计的画像本身。

记住一切，不如学会遗忘

记忆当然有价值。它省去了反复交代背景的麻烦，让跨越数月的项目协作成为可能，对部分残障用户也有实际意义。问题不在于该不该记，而在于由谁决定记什么、记多久，以及这些判断能不能被撤回。

人类关系能维系，很大程度上靠遗忘。朋友不会永远记得你某次情绪失控，家人也不该永远用你小时候的样子理解你。健康的关系允许一个人变化，AI 也该如此。一个好的记忆系统，不该只是记住用户说过什么，还得知道什么已经过期，什么只是一时的情绪，什么需要用户重新确认，什么必须被忘掉。

沿着这个方向，至少有三件事现在就能做。每一条关于用户的推断，都应该能溯源到产生它的那次对话，而不是只给一份结论清单；用户应该有权一键要求它忘掉所有对自己的判断，只保留明确交代过的事实；健康、政治倾向这类敏感推断应该自动过期，而不是无限期地躺在档案里增殖，参与下一次推理。技术上，这三件事没有一件做不到。做不做，取决于厂商愿不愿意在留存率和诚实之间，选后者。

回到开头那两条记忆：一句加班的抱怨，一次体检的提问，最后都成了它理解你的前提。推荐算法用了十年固化我们看什么，AI 记忆正在用快得多的速度固化我们是谁。下一次它说“根据我对你的了解”时，你至少应该有办法知道：这个“了解”从哪里来，现在还算不算数。

（本文作者 wiwi，虎嗅、钛媒体、36氪作者，Solo 独立开发者社区发起人。）

本文来自微信公众号“奇点外”，作者：wiwi，36氪经授权发布。