普通人跑不起K3，Kimi 开源，Anthropic微妙表态：从未主张禁止开放权重模型

极客邦科技InfoQ·2026年07月28日 15:43

K3开源引争议，开放权重之争愈演愈烈

Anthropic

C+轮海外2019-02

人工智能安全和研究公司

36氪报道前沿技术

我要联系

北京时间 7 月 27 日晚，月之暗面 Kimi 正式开放了 K3 的模型权重、技术报告和关键 Infra 技术。

几乎同时，Anthropic 联合创始人兼首席执行官 Dario Amodei 发布文章，对近期围绕开放权重模型的讨论进行了回应。Amodei 明确表示，“Anthropic 公司从未主张禁止开放权重模型。”

“不具备危险能力的开放权重模型是一种公共产品：除运行模型所需的算力成本外，它们不需要支付其他费用，同时能够为企业、开发者和研究人员创造价值。” Amodei 说道。

这份声明的背景是，Kimi K3 发布以来，海外出现了针对特定来源开放权重模型实施使用限制的讨论。与此同时，多家科技企业公开表达了对开放权重生态的支持，也有观点认为，部分闭源模型公司，如 Anthropic，可能出于商业竞争考虑推动相关限制政策的实施。

Kimi K3 开源和 Amodei 声明，这两条线放在一起可以看出，随着能力越来越强，模型的开、闭源之争也日益激烈，而开源趋势很难抵挡。

舆论压力下的一次回应，核心主张没变

在回应中，Amodei 依然从安全方面强调了自己的担忧。

他最主要的担忧是其他国家可能会开发出比美国更强大的 AI 模型，并利用这些模型获得永久性的军事优势，或者对本国人们实施极其严密的压制。他表示，这一担忧在美国政府内部得到了广泛认同。在这种情况下，模型是否以开放权重形式发布并不重要，它们是否被美国企业使用当然也不重要。

其次，他担心强大的 AI 模型可能会被滥用于发动网络攻击或生物攻击，也可能存在严重的对齐问题。“开放权重模型确实可能比闭源模型带来更高风险，因为很难为其设置有效的安全护栏，也很难监控其使用情况；而且模型权重一旦发布，就无法收回。”Amodei 补充道，“但是，禁止美国企业使用这些模型并不能解决这一风险，因为恶意行为者本来就不太可能是合法经营的美国企业。这样的禁令或许可以保护美国 AI 公司免受竞争，但这从来不是我的目标。”

之后，Amodei 给了三个他之前反复提到过的主张措施：

第一，不向中国出售高性能芯片或芯片制造设备，同时打击通过其他规避手段获取这些芯片的行为。Amodei 的原话是，“中国国内的先进芯片产能有限，因此在 Scaling Laws 的作用下，如果无法获得美国芯片，中国就无法训练出比美国更强大的模型。”

第二，打击工业规模的蒸馏活动。“它可以让中国利用有限的芯片资源训练出远超正常水平的模型，从而部分绕过禁令。”Amodei 强调，“我们应当通过政策干预来遏制这种行为。全面禁止开放权重模型既不是正确的解决办法，也不是我们曾经主张过的措施。”

第三，所有能力足够强的模型，无论开放还是闭源，都应接受强制性安全测试。他强调，要使安全测试真正有效，就必须在全球范围内执行。

他的针对性指向其实没变，不过是多次减少了对开源模型的“攻击”。而这次 Amodei 公开正式回应的另一个原因是前几天黄仁勋转发的《Open Weights and American AI Leadership（开放权重与美国 AI 领导力）》公开信带来的海外舆论压力。

7 月 24 日，黄仁勋在 X 发布首条帖子并转发了该公开信，呼吁美国政府不要限制可下载的 AI 模型。信中表示，开放权重能够降低供应商锁定风险，提升企业对模型、数据和基础设施的控制权。公开信最初由 25 家公司签署，随后迅速扩至 50 家，新增签署方包括 OpenAI、Google、AMD、Cisco、Cloudflare、GitHub、Block 和 Ollama 等，截至发稿，现在已经有 77 家企业签署。

签署方在一天内翻倍，反映出开放权重正在快速成为美国 AI 政策讨论的核心议题。

值得注意的是，Anthropic 与 Amazon 仍未出现在签署名单中。Amazon 是 Anthropic 最大的投资方之一，Anthropic 也使用 Amazon Trainium 芯片训练和部署模型。两家公司尚未解释缺席原因。

Amodei 表示自己对公开信的很多内容表示认同：“开放权重扩大了人们参与 AI 经济的机会，至少在部分应用场景中增强了竞争，也赋予客户更大的控制权。对于蒸馏的担忧，应当通过有针对性的法律和商业框架来解决，也就是我上面提到的措施。”

但他也称自己并不认同公开信中的另外一些说法，例如开放权重模型必然更有利于开发安全防护措施，或者广泛开放模型能力必然会给防御者带来比攻击者更大的帮助。“在我看来，相反的结果至少同样有可能发生。”

这依然是很耳熟的话术。Amodei 这次回应更多还是安抚美国内的舆论情绪。

值得注意的是，公开信提到的这种“开放”主要集中在模型层。组织公开信的英伟达仍掌握专有的 CUDA 软件生态，微软也在 Azure 上销售闭源模型，多数签署方所倡导的“开放”并未触及自身最核心的竞争壁垒。

对于企业而言，开放权重首先意味着可以下载、检查和重新训练模型，也可以将数据保留在自有基础设施中。但模型能否真正运行，仍取决于芯片供应、算力成本和部署能力；模型开放也无法解决智能体授权、版本追踪和审计等问题。

即使企业能够读取模型权重，也无法仅凭模型本身证明某个智能体是否获得授权，或确认不同地区运行的模型是否与安全团队批准的版本一致。因此，开放权重解决的是供应商依赖问题的一部分，而不是完整的 AI 治理问题。

T 级别模型开源，200 万元只是“入场券”

之前，海外就一直担心国内有对标 Fable 5 的开源模型出现，K3 的发布加剧了这种担忧。而随着 K3 技术报告的发布，我们也可以看到 T 级模型开源可能带来的影响。

“现在，每个人都可以下载并部署 Kimi K3 模型——无论是用于内部研发，还是嵌入到面向终端用户的产品中，均可自由使用。”月之暗面官宣文中的这句话激发了网友们的热情。不过，也有网友发现，到了 K3 这种级别模型的开源，个人部署基本不太可能了。

截至目前，Kimi K3 能够完成公开验证的最低部署配置，是一台搭载 8 张 AMD MI355X 加速卡的服务器，整机成本预计约 170 万至 240 万元。但这一配置解决的只是“把模型加载起来”，距离具备可接受速度、并发能力和长上下文支持的生产级服务仍有明显差距。

知乎答主“平凡”推测，按照 Kimi 官方技术文章提出的 64 张以上加速卡部署建议，真正面向商业服务的硬件投入可能达到千万元级别。这意味着，2.8T 参数规模的 K3 基本已经脱离个人本地部署范畴，对绝大多数普通企业而言，自建推理集群的经济性也十分有限，直接调用 API 可能仍是更现实的选择。

具体来看，Kimi K3 模型文件约为 1.5609TB，总参数量达到 2.8T，每次生成仅激活约 104B 参数，模型权重采用 MXFP4 格式。尽管其采用混合专家架构，单次推理不需要调用全部参数，但完整模型权重、KV 缓存和运行状态仍需要占据极大的显存空间。

根据 AMD 披露的测试结果，单张 MI355X 配备 288GB HBM 显存，8 张卡合计拥有 2.304TB 显存，能够容纳 K3 的模型权重及必要运行数据。AMD 已经验证了 8×MI355X、张量并行度 TP8 的部署方案，vLLM 也将 8 张 MI355X 或 8 张 B300 列为目前相对容易部署 K3 的配置。值得注意的是，AMD 目前公布的首日测试最大上下文仅为 16K，尚未披露生成速度、首 Token 延迟、吞吐量和并发能力等关键指标。

“像之前买一台 512GB 的 Mac Studio，就可以部署一个几百 B 的大模型，那个时代已经一去不返了。那个级别的模型，在现在已经不够看了。”该答主总结道。另外，对于 K3 这样的 2.8T 模型，即使权重已经采用低精度格式，普通工作站的内存容量、带宽和计算能力也无法满足部署需求。

答主大概列出了四种方案，从低到高基本上是刚刚能跑，以及勉强能够实现正常使用。

其中，8 张 MI355X 是目前公开配置中成本最低、验证程度最高的方案。由于 MI355X 整机没有统一公开报价，市场只能通过服务器和单卡报价进行估算。Supermicro 支持 MI350 系列的 8 卡服务器起价约 24.5 万美元，结合 MI355X 单卡约 2.5 万美元的市场估值，一套完整 8 卡服务器成本预计在 25 万至 35 万美元之间，折合人民币约 170 万至 240 万元。

其他方案的成本更高。16 张 H200 合计显存约 2.256TB，理论上能够容纳模型，但通常需要跨两台服务器部署，硬件成本预计约 435 万 -570 万元；16 张 B200 合计显存约 2.88TB，由于单台 8 卡 B200 服务器显存仍不足，需要两台服务器，成本约 540 万 -680 万元；24 张 H100 合计显存约 1.92TB，虽然勉强能够放下模型，但运行余量较小，跨服务器通信也会成为明显瓶颈，若采用云服务，全年租赁成本可能超过 870 万元。

即使是成本最低的 8×MI355X 方案，也很难保证 K3 具备理想的实际使用体验。K3 接近 3T 参数规模，每生成一个 Token 都需要在大量模型权重和专家模块之间调度数据，单机 8 卡虽然能够完成加载，但吞吐速度、并发能力和长上下文性能可能受到明显限制。对于用户而言，“能够加载模型”和“能够提供生产级服务”是两个完全不同的概念。

K3 的架构进一步放大了集群通信的重要性。该模型拥有 896 个专家，每个 Token 会从中选择 16 个专家参与计算。当不同专家被分配到不同 GPU 时，系统需要频繁在加速卡之间传输激活数据。随着并发量和上下文长度增加，GPU 之间的互联带宽将直接影响 Token 生成速度。

因此，Kimi 官方技术文章并不建议大型服务仅依靠一台 8 卡服务器，而是建议使用 64 张以上、位于同一个高速互联域内的加速卡。按照 64 张 MI355X 计算，部署 K3 需要 8 台八卡服务器，仅硬件投入预计约 1360 万至 1900 万元。若使用云资源，按照 Oracle 相对较低的实例价格估算，全年成本约 409 万元；按照 Vultr 现有价格计算，全年成本可能达到 986 万元。

此外，64 张 MI355X 集群的整体电力需求可能接近 100kW。如果全年持续运行，仅电费就可能接近百万元，这还没有计入机房、散热、网络、存储、运维人员和冗余设备等成本。

“200 万元只是 K3 的‘入场券’，千万级才更接近商业化服务的起点。”该答主总结道。

T 级开放权重模型的出现，也正在改变“开源模型能够普惠本地部署”的传统认知。

开放权重意味着开发者可以下载、研究和修改模型，却不意味着个人和中小企业具备运行这些模型的硬件条件。对于普通个人用户而言，未来更多只能分析模型架构、研究技术报告，或使用经过大幅蒸馏和量化的小型版本，而无法直接运行完整模型。

即使对一般企业而言，本地部署 K3 这样的模型也很难体现成本优势。除非企业拥有长期、稳定且规模极大的推理需求，并具备成熟的集群调度和模型工程能力，否则千万级硬件投入、持续电力成本和运维负担，可能不如直接采购 API 服务来的划算。

答主“平凡”总结称，K3 这类模型更适合大型云服务商、头部互联网企业、科研机构，甚至希望建设自主 AI 基础设施的国家级项目。例如，一些缺乏自主基础模型能力的国家或大型组织，可以集中采购数千乃至上万张加速卡，以 K3 等开放权重模型为基座进行微调、后训练和本地化部署，从而建立自己的模型服务体系。

而这背后带来的不止是个别企业利润，而是会鼓励更多公司和开发者使用 K3，进而围绕该模型构建起一个完整的工具和基础设施生态系统。随着时间的推移，这有助于模型成为“事实上的标准”，这也是一些海外专家和企业担心的点之一。

最后，需要提醒的是，月之暗面公布的 Kimi K3 许可证显示，个人开发者和普通企业可以免费使用、部署、微调及商业化 Kimi K3，也可以基于模型开发衍生产品，但需保留版权和许可证声明。

另外，许可证同时对大型商业使用设置限制。如果企业通过 API 等方式对外提供 Kimi K3 推理或微调服务，且企业及关联方任意连续 12 个月总收入超过 2000 万美元，需提前与月之暗面另行签署协议。此外，如果使用 Kimi K3 的商业产品月活超过 1 亿，或月收入超过 2000 万美元，必须在产品界面显著标注“Kimi K3”。企业内部使用以及通过官方产品或认证合作伙伴调用，不受上述限制。