个性化算法时代的认知主权

如果你的产品能够左右人们的下一步想法，那么你就承担起了老师的角色。要像个老师一样去对待它。

我们已经非常习惯于机器预测我们的需求。 

你的流媒体服务会为你推荐接下来最有可能观看的内容。你的信息流会精准推送那些让你忍不住点击浏览的帖子。你的购物应用甚至在你还没承认自己想要购买之前，就已经暗示你该下单了。 

感觉就像魔法一样，根据 阿瑟·C·克拉克第三定律， 它可能真的就是魔法。 

但在这种便利之下，一场悄无声息的交易正在进行。我们不仅仅是将任务外包出去，我们还在外包下一个想法。 

探索什么？考虑什么？接下来该思考什么？ 

这些选择越来越受到那些旨在提升用户参与度而非增强用户理解的系统的影响。一旦你的“下一个想法”变成了产品界面，你就会开始失去一些难以衡量且极易被忽略的东西。 

认知主权就体现在这里了。 

认知主权原则是指人们有权独立思考、探索和决策，而不受算法引导，朝着预定的结果前进。 

这并非反对个性化，而是支持自主性。 

而现在，自主权正在悄然丧失。 

这其实并不是什么新鲜事。这个问题已经困扰了近一个世纪。唯一改变的只是保真度。 

20世纪20年代，伯内斯公开论述了大众说服以及如何大规模地塑造公众舆论。到了 50年代，帕卡德普及了一种担忧：广告乐于在意识层面以下发挥作用，诱导欲望而非引导选择。70年代，赫伯特·西蒙为我们清晰地描绘了即将到来的趋势：在信息爆炸的时代，注意力成为稀缺资源。 

然后，互联网将“大众说服”变成了“个人说服”。 

Cookie（1994 年）使追踪成为可能。AdWords（2000 年）将用户意图转化为市场。新闻推送（2006 年）使算法排名成为默认的排名方式。实时竞价（2009 年推出）使用户能够以毫秒级的速度，按次购买用户注意力。 

所以认知主权并没有突然变成一个问题。它仍然是老生常谈的“谁来掌控你的思想？”的问题，只不过现在有了更好的数据、更紧密的反馈循环，以及一种将你的下一个想法视为库存的商业模式。 

个性化悖论

现代界面设计充满了良好的初衷。 

减少摩擦，减轻认知负荷，帮助人们达成目标。 

矛盾之处在于，那些能够减轻认知负荷的系统，往往会在这个过程中降低认知自主性。 

当 Netflix 为你推荐下一部剧时，它其实是在解决一个实际问题。选择疲劳和选择瘫痪都是真实存在的。大多数人在忙碌一天后，都不想再去浏览一个无穷无尽的资源库。 

但是，在解决这个问题的过程中，又发生了另一件事。 

你不再浏览， 不再邂逅意想不到的惊喜， 不再主动选择。 你让系统决定什么值得你关注。 

这本身并非恶意。系统只是在执行其设计功能。问题在于累积效应：你的数字世界逐渐缩小。你看到的都是你原本喜欢的内容的变体。你看到的都是熟悉的话题和熟悉的角度。道路变得平坦、顺畅，却又悄然被预先设定。 

雅各布·尼尔森曾撰文指出，渐进式信息披露是应对复杂性的一种方法。但我们现在面临的情况有所不同。 

倒退式信息披露。 

系统会逐渐隐藏所有可能性，只呈现他们认为“与你相关”的内容。 

信息茧房不再仅仅关乎信息本身了。 

关键在于想象力。 

当便利变成限制

个性化不仅仅是预测偏好，它还编码了关于“好的”偏好究竟是什么的假设。 

这就是问题的关键所在：文化。 

Spotify 对社交驱动型音乐推荐的研究就是一个很好的例子。在更具集体主义色彩的环境中，共同聆听和社交互动至关重要——这意味着“好的推荐”不仅关乎个人的新鲜感和品味，也关乎共同的熟悉度和群体背景。 

如果你的引擎是基于“你”构建的，那么当用户试图构建“我们”时，它可能会忽略这一点。 

这并非个例，而是提醒我们，个性化从来都不是中立的，它蕴含着对用户的某种理解。 

即使训练数据具有代表性，也存在更深层次的问题。 

个性化设置会根据您已做出的选择进行优化。 

它不会针对可能改变你的因素进行优化。 

它更看重熟悉而非挑战，更看重舒适而非必要。而且，由于系统会因你的停留而获得奖励，它非常擅长让你继续沉浸在“更多类似内容”的舒适圈中。 

这就引出了意外发现的话题。 

意外发现并非一种特性。

现在大多数平台都提供某种“发现”模式。 

出发点是好的。但这和机缘巧合完全是两回事。 

真正的意外发现并非“算法扩大了搜索半径”。真正的意外发现发生在系统无法完全预测你的时候。发生在你走错路的时候。发生在你跟随他人的足迹而非排名列表的时候。发生在界面给予你自由探索的空间，而不是立即将你拉回既定的轨道的时候。 

当我们试图将“意外”设计成可靠的输出时，我们就驯化了它。我们把意外变成了约定俗成的事情。 

所以，我们无法人为制造意外之喜。 

但我们可以创造条件，使之成为可能。 

界面有时无法提供帮助 

推荐结果偶尔会显示“与您的模式不符”的提示。 

自动播放等待而非突然启动的时刻 

浏览路径感觉像在图书馆里，而不是在传送带上。 

并非一键式的偶然发现。 

有意为之的不完美带来的意外惊喜。 

一个很小的便利店的例子

我对此有非常个人的看法，而且可能存在争议。 

唐久便利店 的商品种类通常比较有限，这让我感觉很不好受。说实话，我对此感受尤为强烈，但这并非偶然。这受到监管、供应链、消费者预期以及不提供同一种商品二十种不同款式的经济因素的影响。 

换句话说：它是经过精心筛选的。它预判“平均需求”。它以广度换取可预测性。 

然而，这里存在一个漏洞。 

Spotvarer（特价商品）指的是那些限时供应、略显随机的商品，它们并不在常规库存中。这周可能是某种奇特的季节限定零食，下周可能是我从未听说过的美食。偶尔也会出现一些真正奇特又令人惊喜的商品。 

对我来说，这正是 唐久便利店 体系的精髓所在。商店布局优化，但仍然保留着一些隐秘的角落，让顾客有机会发现惊喜。 

重点不在于 便利店 有多“好”，而在于即使是精心策划的系统，也可能存在一些意想不到的情况。 

这也大致是我对数字系统的期望。 

精简基本要素，减少混乱，帮我找到我想要的东西。但也要留出一条真实、未经雕琢的道路，让意外发生——不是人为制造的惊喜，而是一个系统不必刻意追求完美的空间。 

一个无味小故事

针对 国际发展工作，设计系统，在这些环境中，出错的余地不是“令人恼火的”，而是实质性的。 

想象一下危机期间使用的公共信息门户网站。它包含有关健康、住所、法律权利以及如何获得支持的指南。有人添加了一个个性化的“为你推荐”版块，因为它可以减少用户流失。 

实际情况是这样的。 

用户阅读了两篇关于紧急现金援助的文章 

系统学习到：“此人浏览过现金援助内容。” 

下次访问时，评审小组仍然优先考虑现金、现金、现金。 

与此同时，有关法律要求、保护服务或资格变更的更新信息会向下滚动页面，因为它们看起来与该用户的推断兴趣“不太相关”。 

该门户网站仍然“可用”，甚至“引人入胜”。 

但它悄然将“帮助我应对这种情况”替换成了“让我待在自己的行为阴影里”。 

这是认知主权在人们最无法承受其后果的情况下失效的表现。 

如果你想了解日常生活中的例子：想象一下凌晨一点搜索某个健康症状。你点击了一个让你焦虑的结果。系统“贴心地”又推送了十个。你并没有获得更多信息，反而更加确信，也更难抽身而退。 

设计要注重系统性，而不仅仅是效率

如果你要构建个性化系统，透明度和控制力就不能只是装饰性的，它们不是可有可无的。 

那是尊严。 

以下四个实用步骤可以提高认知主权，而无需假装你能“解决”它。 

让策展过程可见

用户有权知道他们为什么会看到他们所看到的内容——在上下文中，在关键时刻，用通俗易懂的语言。 

不是一份长达50页的条款文件，而是一份简洁明了的“为什么”。 

而这正是我们很少做的事情。 

让他们看到他们看不到的东西。 

因为“个性化”不仅仅体现在你展示出来的东西上，也体现在你悄悄隐藏的东西上。 

让用户自行设定个性化强度

并非每个人都需要相同程度的算法帮助。 

所以，要把个性化当作一种设定，而不是一种宿命。 

低：按时间顺序排列，范围广，筛选程度较低； 

中：排名靠前，多样性限制明显； 

高：高度个性化，速度快，范围窄。 

如果这种控制是真实存在的，它就会改变双方的关系。 

用户是主动选择接受内容推送，而不是被动地被引导。 

引入少量、刻意制造的摩擦

并非所有摩擦都是有害的。有些摩擦就像安全带一样。 

打断漂移的时刻，就是重新赋予自主权的时刻。 

自动播放前暂停 

一个有意义的“继续观看？”提示（非戏剧化） 

清晰的退出选项：“稍后保存”、“静音此话题”、“重置兴趣” 

对于弱势用户而言，这些并非障碍，而是保障措施。 

设计默认设置之所以重要，是因为它们确实很重要。

大多数用户从不更改设置。默认设置并非中立，而是策略。 

如果“减少个性化”的理念存在却被掩盖，那么你并没有建立主权，而只是建立了一种似是而非的否认机制。 

一个简单的测试：如果记者截取了你的默认设置屏幕截图，你会感到自豪还是紧张不安？ 

设计师的困境、商业模式难题以及无点击网络

说实话，大多数设计师并非在道德真空下工作，我们也是身处企业之中。 

许多企业仍然沿用同样的运作模式：吸引注意力，创造收入。 

在广告资助模式下，认知主权往往需要花费资金。 

滚动时间越短，曝光量就越少。 

精度越低，目标价值就越低 

摩擦越大，转化率越低。 

更大的自主权意味着更难以预测的行为 

这不是设计问题，而是激励机制问题。 

现在再加上人工智能摘要，激励机制就更加明确了。 

皮尤研究中心对谷歌浏览行为的分析发现，当出现人工智能摘要时，人们点击传统搜索结果的次数远低于没有出现摘要时。摘要中的链接点击率则更低。 

这很重要，因为很多开放网络仍然运行在简单的交换机制上：你发布内容，搜索引擎给你带来流量，你通过访问获利。 

如果答案在点击之前给出，则模型翻转。 

如果访问你网站的人数减少，他们就不会加载你的页面。如果他们无法加载你的页面，就看不到你的广告，也就无法触发视频广告位，更不会点击联盟链接。整个“发布商通过访问量获利”的循环就会开始崩溃。 

出版商们已经预见到这一趋势。路透社研究所发布的 《2026年趋势与预测》 报告指出，随着搜索越来越注重答案导向，未来几年搜索流量预计将大幅下降。 

所以，矛盾之处不仅仅在于“主权需要花钱”。 

此外， 点击经济正在萎缩 ，剩余的激励机制奖励的是任何能让用户留在摘要页面的行为。这往往意味着更少的浏览行为、更少的跳转，以及更多“答案就在这里，请继续浏览”的模式。 

还有一种次级效应。当点击操作变得可有可无时，最稳妥的商业策略就是制作尽可能“易于回答”的内容和界面。流畅、易提取、易概括。更少的细微差别、更少的棱角、更少的背景信息。这类信息可以简洁地塞进一段话里，很少会让人产生思考。 

谷歌公开宣称，搜索中的人工智能能够带来更多搜索查询和“ 更高质量的点击 ”，而且搜索每天仍然为网络带来数十亿次点击。这或许属实，但却无法改变现实：网络正在围绕平台内答案进行重塑，而权力则向掌控答案界面的一方转移。 

这就是为什么监管开始在系统层面发挥作用的原因。 欧盟《数字服务法》 明确推动推荐系统提高透明度，并赋予用户影响推荐参数的选项，同时对大型平台和搜索引擎施加了系统性风险责任。 

正因如此， 商业模式比以往任何时候都更加重要 。订阅制和实用型产品在用户信任度和产品成功之间具有更自然的契合度，因为它们无需通过用户流失来盈利。 

这些措施并不能神奇地解决问题，但会改变谈判的格局。 

这也更清楚地表明了一点：当答案变得无处不在、毫无阻碍时，用户自主权不仅在信息流内部遭到削弱，而且在网络底层架构层面也遭到削弱。 

如果您是正在构建个性化功能的 UX 团队，这里有一个轻量级的审核工具，您可以运行它而无需启动新的“项目”。 

四项检查

易读性： 用户能否立即通过一句话理解为什么会显示此内容？ 

代理： 用户能否选择一种有意义的不同模式（个性化程度较低，覆盖面更广），而不 会让体验变成惩罚？ 

模式选择： 用户能否轻松打破循环——例如静音、重置、广泛浏览、切换到非排名模式 ？

尊重用户意愿的默认设置： 如果用户从不更改设置，我们还能表现得尊重他们的意愿吗？ 

衡量指标的三个方面（不仅仅是参与度）

模式切换：人们是否会在不同时间使用不同的模式？ 

重置行为：人们是否觉得需要清除并重新开始推断出的行为模式？ 

后悔指标：“我没想到会花这么长时间”或“我不知道为什么会看到这个”（调查、日记研究、拦截法） 

如果你的唯一仪表盘是“平台使用时间”，那么你对自主权的设计就视而不见。 

智力不应凌驾于同理心之上

随着人工智能系统变得越来越智能，它们也越来越擅长预测你下一步会做什么。 

但这并不意味着他们一定会为你服务。 

他们可能只是根据你过去的行为进行优化，而没有考虑你想要成为什么样的人。他们可能让你感到舒适，而你需要挑战。他们可能让你一直待在舒适区，因为舒适区能带来丰厚的利润。 

目标不是建立取代判断的系统。 

其目的是构建支持判断的系统——更多的选择、更清晰的背景、更好的退出机制、显而易见的权衡取舍。 

认知主权并非反对个性化。 

其理念是，个性化应该以人为本，而不是以商业模式为本。 

作为设计师，我们不能假装我们的界面是中立的。 

它们塑造注意力，它们塑造发现，它们塑造信仰，它们塑造人成为什么样的人。 

所以，我一直想起的这句话是： 

如果你的产品能够左右人们的下一步想法，那么你就承担起了老师的角色。要像个老师一样去对待它。

本文来自微信公众号 “数据驱动智能”（ID：Data_0101），作者：晓晓，36氪经授权发布。