耗资千万的AI，为何成了无人敢用的摆设？

在不少大型企业的内部系统里，有一种昂贵的寂静，那些耗费巨资部署的人工智能平台，访问量在度过最初的新鲜期后便直线下滑，逐渐沉降为报表上一个尴尬的活跃数字。

员工不敢用，因为不确定系统给出的判断会不会变成未来追责时的把柄；不愿用，因为看不清输出结果背后的逻辑链条；不想用，因为无论用得好坏，现有的激励和权责体系都没有给出明确反馈。

IBM因此给出论断，说没有信任，大多数企业的AI战略注定失败。

这个论断指的不止技术合规层面，它实际上说出了企业的AI部署所遭遇的“制度公共品”的全面短缺，而绝大多数决策者仍沿用采购标准化软件的方式，去应对一场需要重建内部契约的变革。

在我看来，当下企业AI竞争的分水岭，已经从算力储备的比拼，滑向了对“组织摩擦成本”的管理能力。下文将从交易成本内卷、内部柠檬市场、委托代理缺口以及治理与创新的正向螺旋四个维度，逐步剖析信任为什么会成为那个最致命、却最被低估的战略变量。

信任缺失如何让AI沦为昂贵的摆设

企业AI为何大面积搁浅？罗纳德·科斯在1937年提出的那个经典问题依然极为锋利，他说企业为什么存在？因为内部指令和权威关系能够节约市场交易中重复发生的搜寻、谈判和缔约成本。

然而当AI系统以“电子代理人”的身份进入组织内部时，一个始料未及的反转出现了，它不但没有自动降低内部协调成本，反而在人与系统之间催生出大量全新的交易成本，而且这些成本高度隐蔽，不会被直接计入任何一张财务报表。

成本的第一种形态是心理审计。

一位采购经理拿到AI推荐的供应商名单，第一反应并不是评估方案优劣，而是开始盘算这个模型在训练时用了哪些历史数据，有没有把过去某些灰色操作学进参数里；如果采纳了某个推荐，日后供应商暴雷，审计追溯时，签字责任人是我还是算法开发团队。

类似的情景也发生在人力资源部门，招聘算法给出一份排序后的候选人名单，HR主管却要额外花两个小时，从简历堆里手动复核前几名是否真的符合直觉，才能在系统里点下“同意”。

这些反复验证、自行举证、预留解释口径的心智消耗，本身就是一种防御性操作成本。

每发生一次，AI原本许诺的效率增益就被蚕食掉一块。

第二种成本更为隐匿，却影响更深，那就是推诿博弈。

由于缺乏透明的解释机制和事先划定的责任边界，跨部门协作中一旦涉及AI输出，就极容易滑向集体沉默。市场部认为模型给出的定价策略过于激进，想要上调，但担心万一销量下滑会被问责“无视数据科学建议”；数据团队则表示模型只是辅助决策，最终拍板权在业务端。

两端都不拍板，AI输出的定价方案就在审批流程里来回流转，直到时效性彻底丧失。

组织为此付出的，不是某个人的错误成本，是整个决策系统的时滞和僵化。

当我们把这些现象拼合起来，就会发现，许多企业AI试点阶段回报率极高，规模化推广时却出现断崖式下跌。

这背后的原因并不复杂，因为试点项目通常由高度信任的创新小组承接，在资源充沛、风险豁免的封闭环境中运行，那些防御性成本被人为隔离。

一旦推向全公司，普通员工必须用自己的岗位安全去承接一个他们看不懂、也未被明确告知权责界线的系统时，防御本能就压倒了一切。

此时，如果组织没能提供一套前置的“制度性信任公共品”，例如透明的解释机制、清晰的责任归属、畅通的申诉路径，那么集体不作为、象征性使用就会成为每一个理性个体的占优策略。

大量投入换来的AI系统，就沦为一台无人敢真正发动的精密引擎。

也就是说，企业内部摩擦成本的膨胀，已经将技术上的可能性挤压成了组织上的不可行。

而摩擦成本持续攀升所引发的，不只是一堆被闲置的工具。

它酝酿出了更隐蔽的后果，即当普通员工根本无法判别AI输出的真实品质时，一场系统性的逆向选择便悄然在企业内部上演。

为什么高价值AI应用被集体冷落

1970年，乔治·阿克洛夫用“柠檬市场”模型揭示了信息不对称如何让次品挤出良品。

把同样的逻辑放进企业AI应用场景，也差不多，技术部门掌握着模型性能的全部细节，而业务端的使用者却只能观察到黑箱般的输入与输出。

这种严重的信息不对等，使使用者天然倾向于把所有AI建议都当作潜藏风险的“柠檬”来对待，因为分辨优劣的代价实在太高。

然后，这种心态便催生出极具破坏性的使用模式。

员工会将AI死死框定在最边缘、最无关痛痒的任务上，比如让生成式AI起草节日祝福邮件、整理访谈初稿、归纳非敏感文档的要点。

这些场景即便出错，也不会触发合规风险、客户索赔或监管问责。

而真正能够撬动利润池的高价值场景，比如信用风险评估、动态定价策略、供应链脆弱性扫描，却被集体冷落。问题的严重性在于，这种回避是使用者的理性自保，但从组织整体看，它构成了典型的逆向选择，高质量AI系统得不到在高价值场景下证明自己的机会，因为所有人都按照最坏假设来使用它们；而某些平庸甚至存在隐性缺陷的系统，反而能在低敏区的安乐窝里安稳运行，因为它们从未被推到真正的检验前线。

整个AI投资组合便被锁死在边际效益极低的区间。

这也解释了为什么不少企业宣称“AI已全面落地”，却迟迟看不到利润表上的结构性改善。大量资源被倾注于那些不可能产生重大价值增量的小修小补，而核心运营流程的效率逻辑几乎纹丝未动。

治理与透明度机制的真正力量，恰恰就在于能够打破这个恶性循环。

当使用者可以通过可解释性报告、审计日志、公平性检验等渠道，持续观察到模型的决策依据和风险边界时，他们实际上获得了一套对AI输出质量进行可信判别的信号系统。

高质量系统得以从“默认可疑”的状态中被释放出来，逐步进入核心决策链条。

治理，在这里发挥的不是约束作用，它是“质量信号释放”功能，把柠檬市场从内部瓦解掉。

可是，即使质量信号的问题解决了，员工的内心戏还远未落幕。

还有一个更尖锐的问号悬挂在每一次人机互动之上，如果最终真的出了事，究竟谁来承担后果？

这个归属的真空，应该是最顽固的缺口。

AI时代，无人认领的责任

从公司金融和激励理论的角度看，引入AI系统相当于在组织内部塞进了一个行为无法被完全契约化的特殊代理人。

传统的委托代理框架里，委托人可以通过薪酬设计、监督和考核，让代理人的利益与己方趋同。

可AI系统没有意图，也不追求私利，却实实在在地生成具有经济后果的输出。

于是，责任归属出现了一个结构性的真空地带。

比如说，信贷审批员依照AI给出的拒贷建议驳回了一位小企业主的申请，事后监管部门认定该决策构成歧视性拒贷。

追究责任时，审批员会说，“我只是依据系统提示操作，公司内部流程要求必须记录AI意见。”数据科学团队辩称，“模型预设的公平性指标已经达标，个别案例中的偏差是统计分布问题。”合规部门则表示，“我们审核了模型上线时的整体合规状态，无法对每一次具体输出进行实时监控。”

三层都在自己的逻辑里站得住脚，组织却找不到一个能够清晰承担责任的实体。

这里面的事实是，没有人对AI决策的尾部风险进行过有效定价。

而这里所说的定价，不只是风险概率的测算，更是指“一旦损失发生，由谁、按什么顺序、以何种方式承担财务和声誉后果”这一根本产权问题。

IBM强调治理必须从一开始就嵌入系统架构，而不是事后附加，其深刻洞见就在于，这实际上是在设计一种事前责任分配机制。

通过将否决权的触发条件、升级处理路径、不同决策节点的责任签署规则提前明确，组织得以构建一项非常宝贵的“问责期权”，也即当AI输出引发不良后果时，企业能够迅速启动预设的调查、纠正与补偿流程，把混乱压降到可控范围，将相互指责转化为有序归因。

有了这项期权，AI项目就相当于为自己的尾部风险购买了一份廉价的制度保险。

缺少它的项目，在进行净现值测算时，必须对其未来现金流施加更高的风险调整折现率，因为它背负的不只是市场波动，还有一种随时可能引爆却无法量化的组织责任危机。

那么，治理糟糕的企业，其AI项目在估值阶段就已经输了，资本市场早已通过对不确定性的厌恶，对它标出了更高的隐性折价。

这是不是颇为反常识？那些能够将责任归属梳理清楚的组织，并不是为自己套上更重的镣铐，而是在为创新铺就更长的跑道。

当人们不必再为“犯错后谁来承受”这个问题消耗心力时，治理就完成了它最关键的跳跃，如从防御性控制，转化为进攻性能力的底座。

治理机制与AI创新的正向螺旋

长久以来，管理层普遍深陷一个认知惯性，监督等同于束缚，控制等同于减速。

但从大规模组织行为学的实证研究来看，情况恰恰相反。

清晰的边界，往往是心理安全感最重要的基础设施。

当一线业务人员确切知道哪些场景下AI给出的建议仅供参照，在什么条件下可以行使否决权，异常情况该向哪里反馈，并且不会因此被追究合规之外的个人责任时，他们才会真正卸下防御，把自己多年积累的那些微妙直觉和隐性知识，与算法输出进行深度的对抗与融合。

这种“对抗式融合”，恰是企业最渴望从AI投资中获取的创造性价值。

模糊地带带来的只会是集体的行为退缩，一旦员工需要暗自猜测“用了会不会有麻烦”，他们的大脑带宽就被耗散在了风险揣测和自保策略上，用于解决实质业务问题的认知资源急剧收窄。

对比之下，那些率先在内部建立起清晰的AI使用边界、申诉通路和反馈闭环的企业，正在收获一种隐性的加速效应，一线经理在供应链模拟中敢尝试更激进的参数组合，市场分析师愿意让AI去探测那些传统分析框架忽略的相关性信号，风险管理人员敢于将模型预警与主观判断对撞，再反向校准模型。

这种高频、低风险的试验循环，才是创新从纸面落到财报的根本驱动力。

未来五到十年，决定企业AI竞争力的可能不再是模型的参数量或者多模态能力，而是一个可以被度量和运营的指标，比如组织的“信任弹性系数”。

它衡量的是，在多大强度的业务不确定性面前，员工、客户、监管机构和资本市场仍然对AI系统的运行保持有根据的信心。

这个系数的提高，不能依靠一轮轮的内部宣贯或技术升级，它需要被当作一种全新的生产要素去刻意积累和审计。

我甚至判断，不远的将来会出现一个C-suite层级的新角色，或许是首席AI信任官，专门负责监测可解释性指标的达标率、采纳深度曲线的走向、关键决策节点的责任闭合率，并将这些数据纳入与财务报告同等频率的董事会审视周期。

这意味着，信任管理将从道德倡导和合规检查的窄巷子里走出来，进入企业价值创造的核心地带。

现在，那些仍在凭速度直觉铺开AI系统的企业，或许在短期内能交出一份漂亮的部署覆盖率报表。但真正当赛道从“有没有AI”转入“AI用得深不深”时，它们的组织韧性就会遭遇严峻考验。

而已经着手建造制度公共品、理顺责任归属、用透明信号撕开柠檬市场的企业，此时正在悄悄拉大一个难以追赶的身位差。

技术的代差容易用资金跨越，信任的鸿沟却只能一寸一寸地用制度去填平。

所以，企业AI战略的胜负并不写在模型精度的竞赛榜上，也不刻在算力基建的规模上，它写在每一个普通员工在下一次面对AI推送的决策建议时，是否愿意郑重地按下“采纳”的那个瞬间里。

让那个瞬间可以被期待、可以被兑现，正是所有关于信任的制度建设，最终要去往的地方。

本文来自微信公众号“东针商略”，作者：东针商略，36氪经授权发布。