全流程国产GPU，上下文提速100倍，中国科学院发布「线性复杂度」类脑大模型

新智元·2025年09月08日 19:51

中科院类脑脉冲模型SpikingBrain超长序列处理速度提升26.5x

【导读】SpikingBrain借鉴大脑信息处理机制，具有线性/近线性复杂度，在超长序列上具有显著速度优势，在GPU上1M长度下TTFT 速度相比主流大模型提升26.5x， 4M长度下保守估计速度提升超过100x；在手机CPU端64k-128k-256k长度下较Llama3.2的同规模模型Decoding速度提升4.04x-7.52x-15.39x，展示了通过借鉴大脑结构和功能构建新一代AI基础模型和架构的研究路径具有强大潜力。

当前主流大模型基于Transformer架构、在Scaling law驱动下通过增加网络规模、算力资源和数据量提升智能水平并取得了巨大成功。

然而，Transformer架构相对于序列长度具有二次方复杂度，使其训练和推理开销巨大，超长序列处理能力受限。

近日，中国科学院自动化研究所李国齐、徐波团队借鉴大脑神经元内部复杂工作机制，发布了国产自主可控类脑脉冲大模型SpikingBrain (瞬悉)-1.0，能够以极低的数据量实现高效训练，模型具有线性/近线性复杂度，显著提升长序列的训练和推理效率，训练和推理全流程在国产GPU算力平台上完成。

网络端的试用端口网址：https://controller-fold-injuries-thick.trycloudflare.com

中文技术报告网址：https://github.com/BICLab/SpikingBrain-7B/blob/main/SpikingBrain_Report_Chi.pdf

英文技术报告网址： https://arxiv.org/abs/2509.05276

模型代码网址：https://github.com/BICLab/SpikingBrain-7B

研究背景

现有主流大模型基于Transformer架构，其基本计算单元为点神经元模型：简单乘加单元后接非线性函数，这条简单神经元加网络规模拓展的技术路径可以被称为「基于外生复杂性」的通用智能实现方法。

如前所述，这一路径面临着功耗高、可解释性差等问题。

人脑是目前唯一已知的通用智能系统，包含约1000亿神经元和约1000万亿突触数量、具有丰富的神经元种类、不同神经元又具有丰富的内部结构，但功耗仅20W左右。

鉴此，李国齐研究团队相信还有另一条路径-「基于内生复杂性」的通用智能实现方法：即找到一条融合神经元丰富动力学特性、构建具有生物合理性和计算高效性的神经网络新路径，其将充分利用生物神经网络在神经元和神经环路上的结构和功能特性。

在该思路下，探索脑科学与人工智能基础模型架构之间的桥梁、构建新一代非Transformer的类脑基础模型架构，或将引领下一代人工智能的发展方向、为实现国产自主可控类脑大模型生态提供基础积累。

核心技术

SpikingBrain-1.0基于脉冲神经元构建了线性（混合）模型架构，具有线性（SpikingBrain-7B）及近线性复杂度（SpikingBrain-76B，激活参数量12B）的类脑基础模型（图1）。

图1. SpikingBrain框架概览

为解决脉冲编码时的性能退化问题，构建了自适应阈值神经元模型，模拟生物神经元脉冲发放的核心过程，随后通过虚拟时间步策略实现「电位-脉冲」的转换，将整数脉冲计数重新展开为稀疏脉冲序列。

借助动态阈值脉冲化信息编码方案，可以将模型中计算量占比90%以上的稠密连续值矩阵乘法，替换为支持事件驱动的脉冲化算子，以实现高性能与低能耗二者兼顾：脉冲神经元仅在膜电势累积达到阈值时发放脉冲事件，脉冲到达时触发下游神经元活动，无脉冲时则可处于低能耗静息状态。

进一步，网络层面的MoE架构结合神经元层面的稀疏事件驱动计算，可提供微观-宏观层面的稀疏化方案，体现按需计算的高效算力分配。

该团队在理论上建立了脉冲神经元内生动力学与线性注意力模型之间的联系，揭示了现有线性注意力机制是树突计算的特殊简化形式，从而清晰地展示了一条不断提升模型复杂度和性能的新型可行路径。

基于这一理解以及团队前期工作，团队构建了与现有大模型兼容的通用模型转换技术和高效训练范式，可以将标准的自注意力机制转换为低秩的线性注意力模型，并适配了所提出的脉冲化编码框架。

此外，为实现国产算力集群对类脑脉冲大模型的全流程训练和推理支持，团队开发了面向国产GPU集群的高效训练和推理框架、Triton/CUDA 算子库、模型并行策略以及集群通信原语。

SpikingBrain-7B 和SpikingBrain-76B分别为层间混合纯线性模型和层内混合的混合线性 MoE 模型（图2）。

其中SpikingBrain-7B由线性注意力和滑窗注意力1:1层间堆叠而成。而SpikingBrain-76B则包含 128 个 sink token、16个路由专家以及1个共享专家；对于线性层，在第 [1, 2, 3, 5, 7, 9, 11] 层布置了7个稠密FFN，其余层均实现为MoE层；

对于注意力模块在第[7, 14, 21, 28]层采用线性注意力+Softmax注意力(LA+FA)组合，在其他层均采用线性注意力+ 滑窗注意力（LA+SWA）组合。

在推理阶段，SpikingBrain利用脉冲编码将激活值转换为整数计数用于GPU执行，或转换为脉冲序列用于事件驱动的神经形态硬件。

图2. SpikingBrain网络架构

性能亮点

SpikingBrain1.0的长序列训练效率显著提升。SpikingBrain-1.0-7B模型能以极低的数据量（约为主流大模型的2%）,实现与众多开源Transformer模型相媲美的通用语言建模性能（表1）。

SpikingBrain-1.0-76B混合线形模型通过扩展更多的参数量和更精细的注意力设计，基本保持了基座模型的性能，能使用更少的激活参数接近甚至优于Llama2-70B、Mixtral-8*7B、Gemma2-27B等先进的Transformer模型（表2）。

SpikingBrain-1.0-7B模型在Huggingface框架下适配了多卡序列并行推理（使用ZeCO加上P2P通信），并支持4M长度的Prefill。

结果显示，相比于使用标准注意力和A2A通信的Qwen baseline，SpikingBrain-1.0-7B在512K和1M长度下TTFT（提交提示到生成第一个Token所需的时间）加速分别达到13.88倍和26.5倍，且随序列长度和卡数扩展具有几乎恒定的时间开销，在4M长度下Qwen已经无法评测，根据拟合scaling曲线，保守估计速度提升超过100倍（表4）。