优秀员工悄悄绕过AI,背后藏着什么真相?

哈佛商业评论·2026年11月20日 10:40
AI强大又好用,员工却不用。并非因为他们不信任AI,他们只是不信任公司。

2022年末,一家跨国银行批准了一套AI系统,用来实现常规信贷决策的自动化。表面看起来,这正是专家们一直敦促企业采取的所谓前瞻性举措。在试点阶段,该系统处理申请的速度快于人工,错误减少,并有望大幅降低成本。公司的风险管理部予以认可,合规部批准通过,CEO更是公开鼓吹该系统,将其作为银行挺进未来的有力证明。

六个月过去,这套AI系统持续对用户的信贷申请进行评分并生成建议,但大多数申请文件依然需要经过人工审核。例外情况也日益增多,原先作为临时性安全保障的措施,比如双重审核阈值和人工确认标记等等,逐渐固化为永久性流程步骤。尽管该AI系统已融入银行的工作流程,但实际上大多数最终决策从未由它做出。

理由耳熟能详:组织尚未完全准备就绪,模型有待继续优化,员工需要更多培训,变革总是困难重重。然而,技术上已经切实可行,经济效益也清晰可见,AI系统也已获得组织正式且热烈的许可。唯独,它从未真正获得过“授权”,即组织全力支持其在明确边界之内做决策的权力。

类似版本的故事在许多行业上演。一家跨国制造企业推出了基于AI的需求预测系统,但公司的规划部仍沿用古早的工作流程,仅将AI的预测结果视为参考意见;一家医疗服务网络引入了AI辅助分诊系统,既缩短了患者等待时间,也提高了分诊的一致性,临床医生也认可这套AI模型的准确性,却依然坚持人工复核AI给出的大部分建议。结果,这套分诊系统更多被用来存档,而非辅助决策。

问题不在于试点项目失败,而在于组织内部的问责制与合法性未能同步进化,以支撑AI系统的应用。我所谓的“合法性架构”,是指组织内部的一种共识,即谁有权做决策,并且其决策能获得信任。许多组织都在不断提升智能化水平,却没有围绕这一变化,重塑组织架构。

此景早已有之

上述情景看起来是新情况,因为技术是新的,但从组织架构看,它一点也不新鲜。之前的自动化决策浪潮,比如ERP(企业资源计划)系统和信用评分,就暴露过同样的组织惯性:企业虽然引入了能够做出更优决策的系统,却保留了既有的人工决策权力架构,而这种组织架构往往导致系统做出的决策被拒绝采纳。

20世纪90年代,ERP系统(比如甲骨文公司和SAP公司的产品)问世后,承诺能实现企业整体的集中化透明管理和运营优化。雀巢美国公司(Nestlé USA)实施ERP系统的经历颇具启示意义。此前,公司各个部门独立运作,分别负责各自的生产、成本及供应商合同事宜。当ERP系统要求各部门放弃这种自主权,转而遵循统一的业务流程时,那些仍需对本地业务结果负责的员工,自然有充分理由坚持自行决策。尽管系统生成了统一的综合预测数据,但当时的问责机制却奖励对系统建议进行本地化调整,即“覆盖”(override)系统决策的行为。正如巴布森学院(Babson College)的汤姆·达文波特(Tom Davenport)所指出的,公司当时将ERP系统仅仅视为一项技术部署,而非视其为一项全面的管理流程重塑。

几乎同时,自动化信用评分也出现同样情形。虽然模型在量化风险方面比人类更迅速、更可靠,但大行其道的惯例是“人工干预”。针对汽车贷款的研究表明,与人工核保相比,算法核保不仅带来了更高的贷款利润,还降低了违约率,且两者在绩效表现上最显著的差距,恰恰在于信贷员出于利己考量,极力维护自己裁量权的那些环节。另有研究发现,信贷员会通过操纵输入数据和评分结果,将原本处于审批边缘的申请推过门槛,从而获取基于业务量的绩效奖励。看起来,审批权下放给了模型,但最终责任依然归属相关业务员。

航空业在收益管理系统方面的实践,提供了有益的对比案例。这些系统之所以确立了持久的权威地位,是因为航空公司通过调整权责分配,给予系统有力支持。航空公司明确了适合人工干预的情形,规范了问题升级流程,调整了绩效评估方式,并确立了“服从系统”在专业上的正当性。系统的权威性得以确立,并非源于算法本身的完美表现,而是因为航空公司改变了组织对自动化系统的治理机制。

上述正反案例体现的内在逻辑是一致的:当决策逻辑的演变速度,超过了问责与合法性等等相关治理机制的调整速度时,系统的权威便无从确立。治理模式的变革往往伴随着权力的转移。达文波特和埃里克·布莱恩约弗森(Erik Brynjolfsson)等人此前已指出这种现象。本文将揭示背后的根源所在:只要员工个人仍然需要为系统运行的结果承担责任,决策权就不会实现真正的转移。

企业必须解决这种权责之间的脱节。否则,员工会继续绕过AI系统——这并非出于抵触心理,只是出于自我保护。

再多培训或者沟通,都无法弥合这一鸿沟。企业或许能成功实现变革,但仍然永久性地将技术归于咨询角色。企业或许给足了员工心理安全感,却仍可能在出现决策失误时,惩罚遵循系统指令的员工。只要问责制仍针对个人,人们就会采取保全自身的行为。

关于为何人们未能赋予AI决策权,还有其他一些解释,但往往指向错误的应对之策。比如,有人认为是组织惯性导致了阻力,但在AI应用中,我们看到的往往是表面上的顺从:仪表盘在运行,工作流程已纳入系统,员工也都在用。然而,AI系统并未真正获得决策权。

关于“自动化松懈”(automation complacency)的研究则认为,人类往往过于轻易地服从机器。但这一现象并不适用于此;在AI系统面前,人们并不盲从,因为公司的问责制,使得这么做在职业层面存在风险。

关于“生产率悖论”的研究,虽指出信息技术投资未能转化为绩效提升,却大多没有解释导致这一结果的组织机制。

伊森·伯恩斯坦(Ethan Bernstein)关于透明度的研究表明,处于被监视状态下的员工会掩盖自己的实际操作以规避审查,但他们同时也利用合规方面的显性机制,比如存档的例外操作、逐级上报程序,以及多重审核环节,作为维护自身掌控力的手段。

真相是什么?

在大多数情况下,企业虽然采用了某种AI系统,并在企业内部的演示中大加宣扬,但事实上,一旦AI与人类意见相左,最终总是人类悄悄胜出。出于审慎考量,专家总是会重塑AI系统的边界:增设更多审查环节,略微降低触发阈值,增加了需存档的“覆盖”操作(即绕过常规流程的操作),并针对敏感案例启用新的标记机制。这些设置与调整,单看每一项都站得住脚,但综合起来,后果却是灾难性的。

UPS(美国联合包裹服务公司)部署名为ORION的路线规划系统的过程,生动地体现了这种张力。2013年,该系统刚开始推广时,许多司机视系统生成的路线为参考建议,更倾向于依赖自己的本地经验和客户关系。随着时间推移,UPS调整了绩效考核标准:司机不再与自己过往的业绩表现进行比较,而是依据ORION设定的路线进行考核,系统会追踪他们对路线的执行情况。因此,“服从算法”成了司机岗位职责的合法行为。

最近,我在另一家跨国物流公司看到了同样的情形动态。这家公司专门为企业客户处理高价值货物的运输。在试点项目中,一套AI路线规划系统,大幅减少了货物延误,而且提高了资产利用率,公司随即批准采用这套系统。调度员私下都承认,相比他们自己构想的路线,这套系统经常能提供更优的方案。然而,系统全面上线后,调度员在日常工作中仍然不断调整路线,针对的是那些关系长久的客户、公司内部具有政治重要性的货物,以及他们更为信任的司机。起初,这些调整被视为“微调”,但随着时间推移,AI系统不再作为决策引擎发挥作用,它输出的方案,仅仅作为讨论后续方案的起点。

当公司高层力推全面采用这套AI路线规划系统时,调度员们既没有争辩说系统有误,也没有拒绝使用。相反,他们增加了一些措施:为敏感货物设置标记、增设逐级上报环节,并且降低了触发审核的阈值。一位调度员以令人难以反驳的坦诚态度,向我解释了其中的逻辑。他说:“如果系统做的决定出了岔子,报告上签的可是我的名字;若是我自己做的决定出了错,至少我能给出解释。”这位调度员既没有被AI系统所困扰,也不觉得缺乏安全感;他只是准确地解读了其中的责任归属。

关于职业身份威胁的研究表明,当从业者的专业技能面临自动化替代时,他们会对自己的社会地位、职业价值及未来发展前景产生真切的焦虑。这种焦虑会影响他们的行为,这些行为既不是非理性的,也绝非无关紧要。然而,这些并不能解释我所观察到的一种现象:即便在恐惧与身份威胁已被化解、变革管理卓有成效、心理安全感充裕,甚至员工坦然承认系统表现优于自身的情况下,这种现象依然存在。其症结在于一种结构性的风险敞口:那些被要求遵循AI系统指令的人,要承担系统出错的代价。

对于AI智能体系统而言,这一问题尤为严峻。推荐系统,至少维持了“人类掌控”这一假象:系统提出建议,人类做出决定,且问责对象是明确可见的(即便责任本应由他人承担)。而智能体AI系统打破了这一假象。它们不只是提供建议,还直接采取行动。它们在既定参数范围内执行下订单、审批、路线、签约及升级问题等操作,这些操作在参数授权之内,却往往缺乏持续的人工监控。当智能体AI在既定参数范围内行事,却导致不良后果时,问责便成了一个极具挑战性的难题:是参数设定有误?是授权范围过宽?还是智能体遭遇了设计者未曾预料的情况?这些问题必将在董事会会议、法庭审理,以及监管申报文件中被反复追问。当AI系统仅提供推荐时,问责缺失尚可通过变通手段弥补;然而,当AI智能体系统直接采取行动时,则可能引发大规模的法律责任归属模糊的问题。

转移责任归属

真正被采用的自动化系统是毫不含糊的:决策流程被简化,例外情况锐减而不是增加,权责被重新分配,人们明确清楚谁(或什么机制)负责决策、谁负责解释说明、谁承担风险。这种清晰度会引发不适,因为它迫使每个人的角色发生转变;但长远来看,它会带来稳定性,因为权责得以匹配。

亚马逊的“放手”(Hands off the Wheel)计划是权力转移的一个典型案例。该计划始于2012年的“尤达项目”(Project Yoda),目标是将需求预测、定价及采购预测功能整合到工作流工具中。亚马逊将“输入权”与“输出权”进行了分离:业务团队虽然可以设定数据与参数,但常规性的人工干预不被鼓励,且有时需要在执行前获得审批。供应商经理的职责重心也随之转变,从具体的采购与定价决策转向对输入数据、异常情况及最终结果的审核。

这一移交过程之所以顺利完成,是因为责任随职权一并发生了转移。当结果未达预期时,关注的焦点不再是“谁做出了错误决策”,而是“哪个输入项、规则或系统设计出了问题”,以及“由谁负责进行修正”。与此同时,员工的工作内容也被重新设计,侧重于那些难以实现自动化的产品与项目管理。

技术部署与组织架构必须同步演进;组织调整,应该在规模化部署自动化系统之前完成设计,而非等到遭遇抵制之后再修修补补。针对自动化系统的治理,管理层必须回答四个关键问题。这些问题可能引发些许不适,但对于揭示问责机制中的缺失至关重要。这四个问题是:

(1)如果这个AI系统运作成功,谁将失去自主决策权?

(2)谁将获得权力,在哪些决策上获得权力?

(3)当员工遵循AI系统决策和行动,谁来解释最终结果?

(4)在AI系统融入业务的过程中,谁来承担其中可能出现的风险?

如果组织在上线AI系统之前并未明确回答这四个问题,那么后续具体使用系统的员工,为了维护自身既有权力,将会用行动给出他们自己的答案。

AI系统真正被应用,需要员工不认为“服从系统决策”是一种职业上的自我牺牲。领导者必须重新设计岗位职责,确保在常规决策实现自动化后,人类的判断力转移到了更高级的工作,如宏观监测、设定边界及系统优化。组织应确立明确的“护栏”机制,并为员工提供相应的工具,以便他们能解释那些并非由自己做出的决策。此外,AI系统的推行还需要领导者的公开表态;领导者愿意将早期的错误视为组织学习的契机,而非将失败归咎于员工。

企业拉开差距的关键能力

随着“做出判断”这一环节变得可编码、可规模化,企业需要围绕AI系统重塑组织架构。遗憾的是,许多企业只是采购了智能系统,然后指望其他一切顺理成章、水到渠成。它们将每一次AI部署视为孤立项目,成败完全取决于模型性能、供应商选择以及推广执行的严谨度。在这些企业中,每引入一个新的AI系统,都会引发同样的循环:先是充满热情,随后因顾虑而受限,接着是局部应用,最后悄然转入仅供参考的辅助模式,就此归于平稳和平淡。久而久之,员工意识到根本性的变革并不会发生,管理者也学会了在惊动组织架构变革之前,收起自己对AI应用的豪言壮语。

相比之下,那些真正智慧的领导者意识到,AI应用的博弈核心,并非技术,而是权力。他们能看到决策权的实际归属,然后围绕机器的默认设置重塑工作流程,而非仅仅在既有流程之上叠加新系统,而且不会将学习成本转嫁给员工,以此管理AI转型。

步骤是此间关键所在。组织首先必须将算法设定为默认运行机制、确保人工干预的操作公开透明、围绕“提前审核”而非“事后质疑”重新设计员工角色,并将问责转移给系统负责人之后,决策权才会发生转移。技术与组织架构必须同步演进。

经历过技术与组织同步演进的公司,在应对下一次变革时往往更具优势。在咨询与实地调研工作中,我观察到企业如何妥善管理后续变革:他们会沿用一套共同的术语体系和问题清单,并借鉴上一次变革中关于流程重塑的经验。他们清楚记得:谁失去了自主权,谁(或什么部门)获得了决策权,谁负责解释结果,以及谁承担了早期试错成本。这并不是说他们的下一次转型会毫无阵痛,也不意味着其中的政治博弈会自动减少;但可以肯定的是,相比没有此番经历的企业,经历过的企业将站在一个更高的起点上挺进未来。

正因如此,企业应将“决策权转移”视为一项组织级能力,而非仅仅是部署某个AI系统时的一次性挑战。在部署某个AI模式之前,企业需要明确决策权将流向何处、人类判断在后续流程中将发挥何种作用,以及在员工逐步信任这套系统的过程中,组织如何消化其间的学习成本。

如果你对这一理念有共鸣,那么很可能你们公司已经越过了“审批关”这一阶段。你已处于后续阶段,审视着一个已悄然转变为上文描述的“顾问式”角色的AI系统。针对下一次部署的建议,上述步骤仍然不可或缺:将审批视为员工角色的重新设计,在扩大规模前回答四个关键问题,在全面推行前明确承诺谁来承担试错成本。但对于已经部署的AI系统,下一步需要采取不同的策略:诊断业务决策权在当下的实际归属。

大多数组织倾向于对一件事避而不谈:如果AI按预期发挥作用,企业对某些形式的人工判断的需求将会减少。关于“增强”(而非替代)人力的说法,无法遮掩这一现实。如果一个核保模型能够自动审批70%的常规案例,那么核保人员的角色就不可能继续由逐案审批工作来定义。高管们对此保持沉默,实际上就等于默认了这种悄然发生的人类判断力的撤退。

企业必须明确,围绕AI系统进行的组织重构并不是要消除人类的判断力,而是要转移人类的判断力,转移到更重要的地方:评估投资组合风险质量、监控模型漂移以及处理系统不适合的情况。这种判断力迁移必须纳入绩效评估。如果员工的奖励仍取决于由系统主导的结果,他们就会出于自我保护,进行防御性干预。

权责必须保持对等。如果允许某个模型在既定参数范围内做出决策,那么严格遵循这些参数的操作,必须在专业上站得住脚。领导者不能将系统早期的失误归咎于个人。

航空业提供了一个有益案例。航空业奉行“公正文化”的原则,既鼓励人们主动揭示安全问题,又明确区分了可接受的失误与不可接受的行为。欧盟法律要求航空公司明确说明如何确保清晰划分二者的界限,并规定相关报告信息不得用于追究过失或法律责任(蓄意不当行为或重大过失的情况除外)。因此,差错得以显现,使企业能够对其进行分析与纠正,从而防止此类问题再次发生。

丰田的“安灯”(Andon)系统也提供了类似启示。当工人发现缺陷时,可以发出警报、请班组长到生产线现场;如果问题无法得到控制,甚至可以叫停生产。值得注意的是,丰田员工发现问题后,触发的是援助、指导,以及针对问题根源的解决流程,而不会导致自动问责或追责。有些公司试图效仿“安灯”系统,却不见效,原因就在于它们仅仅照搬了这一工具,却从未建立起与之配套的责任共担机制。在AI领域是同样道理:在系统全面推广之前,领导者必须明确界定哪些早期错误将被视为系统学习的契机,哪些需要上报处理,而哪些仍属于个人职责。

大部分公司通过使用仪表看板来追踪AI系统的采用情况,却很少追踪“无声抵制”的行为特征,例如异常情况在增加还是减少、覆盖阈值是否发生了变化,以及升级流程中是否增加了额外步骤。在推广ORION系统的过程中,UPS公司采取的一项关键治理举措,并非仅仅追踪司机是否使用了该系统,而是追踪他们是否按照系统指引行动,这改变了管理的侧重点。

来自外部的压力,也会要求公司妥善做好这件事。美国劳工联合会-产业工会联合会(AFL-CIO)2025年10月发起了“AI领域,工人优先”(Workers First Initiative on AI)的倡议,呼吁对自动化决策进行人工复核,确保AI系统的使用方式更具透明度,并赋予工人申诉权,如果他们受到了AI驱动的就业决策影响。对于那些尚未让权责对等的公司,员工与立法者或者他们会一起,要求公司做出调整。

随着AI系统规模化部署,公司应该明确阐述员工角色的未来走向,而不应等到员工推断AI系统的成功意味着自身地位衰落时,才采取行动。宜家及其最大的特许经营商英格卡集团(Ingka Group)是个好例子。当英格卡集团的AI聊天机器人Billie开始处理简单的咨询请求时,公司同步对呼叫中心员工进行了技能重塑,培训他们从事远程室内设计、数字零售销售、客户关系维护以及复杂客户问题解决等工作。在扩大AI应用规模的同时,英格卡集团让员工清晰地看到了新的工作机会,从而帮助他们将这一转型视为职业成长,而非被动应对人工客服的衰减。

Salesforce公司提供了类似好案例,他们提供了一个“4R”框架(redesign, reskill,redeploy,and rebalance),即重新设计、重塑技能、重新部署和重新平衡。随着Salesforce旗下的企业级自主AI智能体平台Agentforce接手了更多常规支持工作,公司协助员工转型至新岗位。这一举措成效显著:公司数据显示,2026 财年第一季度,公司51%的新聘岗位由内部员工填补。关键在于,公司明确了这些岗位转型,围绕转型建立了内部人才流动机制,并让重新设计后的工作内容更易于员工理解。

当这些要素全部集结,人类的专业权威并未消失,而是得到了强化与聚焦。核保人员不再把时间花在审核那些AI模型已完成评分的常规案例上,转而处理模型置信度范围之外的案例、显示出数据漂移迹象的投资组合模式,以及有助于优化未来参数的边缘案例。调度员也不再仅仅盯着路线生成过程并进行微调,而是转而监控异常处理队列、维护模型无法涵盖的客户关系,并处理系统设计未涵盖的特殊情况。他们都清楚自己的职责所在;一旦决策出现失误,他们都能给出合理解释,而无须再以“我之所以绕过AI,是因为……”这类话语作为开场白。

如何衡量成功

迟早有一天,你将批准启用一套验证有效的AI系统。你可能倾向于用员工使用率、看板指标,以及部署过程的顺畅度,来衡量这套AI系统成功与否,但这些信号往往具有误导性。

不妨换个问题:如果明天关掉这个系统,公司业务中那些至关重要的决策真的会发生改变吗?还是说,大家照常工作,只不过屏幕上不再打开那个系统的操作界面了?

如果员工照常工作,那意味着公司业务的决策权并发生转移;如果决策权并未发生转移,那么无论模型多么先进、部署过程多么严谨,都意味着,你的AI系统没有真正用起来。

达斯·纳拉扬达斯(Das Narayandas)| 文

达斯·纳拉扬达斯是哈佛商学院埃德塞尔·布莱恩特·福特(Edsel Bryant Ford)工商管理讲席教授。

本文来自微信公众号“哈佛商业评论”(ID:hbrchinese),作者:HBR-China,编辑:程明霞,36氪经授权发布。

+1
0

好文章,需要你的鼓励

参与评论
评论千万条,友善第一条
后参与讨论
提交评论0/1000

36氪AI测评

选靠谱AI,看真实评测
查看
36氪AI测评官方交流社区
加入

36氪项目推荐

咨询项目审核和入驻
联系
36氪项目推荐订阅号
关注

下一篇

外资做资产的“医生和基金管家”,人民币长钱做资产的持有人。

56分钟前

36氪APP让一部分人先看到未来
36氪
鲸准
氪空间

推送和解读前沿、有料的科技创投资讯

一级市场金融信息和系统服务提供商

聚焦全球优秀创业者,项目融资率接近97%,领跑行业