离线+记忆，大模型进化的分水岭

晓曦·2025年07月27日 10:14

下一代通用人工智能的基石：大模型记忆机制。

今年的WAIC，依旧火爆。

闷热的上海、拥挤的展台、扎堆的AI大模型——这些都是历年WAIC的常态，但今年有些变化。

今年的WAIC上有一个显著的风向标：无论是参展企业还是逛展用户，人们对大模型这一概念已经祛魅，取而代之的是每个人都在问：“有没有落地案例？”

经过了三年的市场教育，用户早已对一遍遍的“模型刷榜”感到疲倦。尤其是2025年开年至今，DeepSeek横空出世，一大批AI“明星项目”应声折戟，创业明星们急了，投资人也急了。

有没有不急的呢？还真有。

据36氪了解，有一家上海AI大模型创企，已经“悄悄”把它的模型技术卖到了世界各地，足迹遍布非洲、中东、欧美、东南亚、俄罗斯……

它主打“离线智能”，将离线大模型的部署边界下探到“千元机”级别，让非旗舰款、甚至是入门款的AIPC、手机、无人机、机器人都能够实现离线状态的实时AI运算——在网络环境极其不稳定的欧、非、俄、中东等地，这几乎是“刚需”中的“刚需”。

这家公司在宣发上极其低调，很少对外PR，也不做大规模宣传。他们团队内部曾有一句戏言，“我们不装‘高大上’，我们去‘打穿华强北’。”

普通人听着像自谦，但业内人听着倒吸一口凉气——深圳华强北什么地方？全国，乃至全球科技电子炮火最密集的战场，“一天开模、三天量产”的奇迹之地，“走出国门、迈向世界”的主阵地，也是竞争最惨烈的“近身肉搏”“刺刀见血”修罗场，也诞生了无数电子科技产业的“水下独角兽”。

这家创企叫RockAI（上海岩芯数智），在WAIC 2025期间，我们终于找到机会和它深入聊了一聊。

01. 神秘的“水下独角兽”

RockAI成立于2023年6月，是A股上市公司岩山科技的控股子公司，其核心产品是国内首个非Attention机制的Yan架构通用大模型系列，能够让堪称“算力巨兽”的AI大模型离线部署在低功耗设备上，无需联网，实时运算。

RockAI所实现的离线智能，并不是简单地对“大模型”进行蒸馏、剪裁得到“小模型”，而是从底层架构开始颠覆，走了一条不同于OpenAI、不同于Meta、不同于DeepSeek，也不同于任何大模型公司的道路。

在本届WAIC期间，RockAI还推出了最新一代Yan 2.0 Preview大模型，将多模态能力进一步拓展到视频领域，并引入了基于神经网络的记忆单元，让模型拥有自主学习能力。

低功耗、高性能、离线智能、非Transformer，这几个是RockAI身上最显眼的标签，也是客户最终选择RockAI的原因。

02. 离线智能

在今年3月的MWC（巴塞罗那世界移动通信大会）上，部署RockAI大模型的AIPC产品在该品牌方的展区展出，现场的反馈堪称“炸裂”——欧美、非洲、俄罗斯等地的经销商几乎当场拍板销售意向，隔壁展区的友商探头探脑地过来围观，神秘兮兮地问：“这个价格居然能做到离线？”

实际上，海外用户对于AIPC的离线需求，非常强烈。

举个例子，RockAI产品中最受海外用户欢迎的功能之一，是智能会议助手，它能在线上会议期间帮用户进行实时文字转录、翻译、会议记录、会后总结等。

听起来像国内“社畜”的日常，但是，大量海外企业有着极其严格的数据安全制度，商业会议的数据不允许发到云端处理。

这时候，离线的智能会议助手称得上是“救星”了。

此外，网络设施的稳定性也是海外用户的日常痛点。享受惯了国内5G高速网络的设备刚去海外往往会“水土不服”，网络昂贵而不稳定、时常掉线不说，转圈转了10分钟，最后返回网络错误信息才是真正的崩溃时刻。

即便在国内，也有大量品牌商、ODM厂商对于大模型本地化、产品差异化升级有着强烈需求。

&amp;nbsp;

例如，曾经人脸识别、语音识别、OCR拍照识别等AI能力都是旗舰产品的独有功能，但随着算法、芯片、麦克风、摄像头模组等一系列产业链创新，如今这些功能如今成了“千元机”的标配，不少AI功能甚至下放到了离线的台灯、冰箱、洗衣机、电饭锅上，进一步拓展设备智能的边界。

这是所有前沿技术的必经之路，大模型也不例外。

当前，搭载RockAI模型的设备出货量已经初具规模，其客户不仅有上文提到的消费电子品牌方、ODM厂商、手机、机器人、车载芯片等，还有大量对功耗、性能要求更为极端的家电、XR眼镜等厂商前来寻求合作——这些嗅觉最为敏锐的厂商，许多来自华强北。

社交媒体上各类“AI入侵华强北”

03. 大模型的记忆力

在今天，当“百模大战”几乎全面熄火，大量明星创业项目急着转型、上市、同样喊出“颠覆Transformer架构”的口号时，RockAI的大模型却已卖到了世界各地，其积累的庞大而丰富的技术资源、工程化经验，足以甩开对手几个身位，成为大模型这一赛道中最低调、却又最不容忽视的“水下独角兽”。

而RockAI的真正野心，远不止一台电脑、一部手机、一个家电设备的智能化。

它想要的，是那个所有AI从业者梦寐以求的东西——通用人工智能（AGI），而记忆则是本次Yan 2.0 Preview的核心，他们展示的机器狗，活灵活现的体现了什么是大模型的“记忆”能力。

在传统大模型中，知识往往依赖外挂式的调用（如RAG），而搭载Yan 2.0 Preview的机器狗通过将记忆深度融合进模型参数，实现了真正意义上的“长期记忆”与个性化理解。这种记忆不是临时存储，而是一种随着用户交互逐步演化的智能积累，让设备具备“了解你”的能力，成为用户思维的延伸，而不仅是工具。

&amp;nbsp;

更关键的是，端侧部署让这一切发生在本地终端，保障隐私的同时也提升了响应速度和数据安全。未来的设备将不再是被动执行指令的机器，而是拥有感知、记忆与学习能力的“数字大脑”。

人类的智能之所以得以发展，根本在于对经验的积累与记忆的演化——没有记忆，就没有学习、理解与个性形成。同样地，大模型若想从“强大工具”迈向“智能体”，就必须具备类人的记忆能力。只有当模型能够记住用户的偏好、语境与过往交互，它才有可能提供持续进化的服务，实现真正个性化的陪伴与决策支持，赋予机器以类似人的思维延续性与成长潜力。

RockAI认为，当每台设备都具备记忆和自主学习能力，它们不再是孤立的节点，而是能彼此协同、共享经验的智能体。这样的分布式智能网络将催生出“群体智能”，让系统整体远超个体之和，形成类社会化学习机制，他们认为这是迈向通用人工智能的关键一步。