Beam architecture: three dense layers followed by 49 mixture-of-experts layers, with hybrid attention and weighted residual connections.
Beam architecture: three dense layers followed by 49 mixture-of-experts layers, with hybrid attention and weighted residual connections. 查看原始材料 ↗
Attention block with grouped-query attention, RoPE or scalable-softmax query scaling, and a learned sigmoid gate.
Attention block with grouped-query attention, RoPE or scalable-softmax query scaling, and a learned sigmoid gate. 查看原始材料 ↗

先看证据

总参数501B；每token激活23B关键事实
每个MoE层256专家，每token选8个关键事实
43个滑窗层、9个全局层52层
上下文窗口1M token；滑窗为512 token关键事实
BF16权重约1TB；NVFP4约280GB关键事实
BF16百万上下文KV缓存估算约36.08GiB关键事实

把机制串起来

输入先把素材压到可处理的规模

MoE（混合专家）把网络分成许多专家，每个 token 只调用其中一小部分，因此计算量可低于同等总参数的稠密模型；但所有专家权重仍要存放，不能把 23B 激活参数当成显存需求。长上下文的注意力会维护随 token 数增长的 KV cache，局部注意力只看邻近 token、全局注意力才看完整序列，混用两者是在节省缓存与保留远距离信息之间折中。

机制再把计算集中到关键步骤

模型共 52 层，前 3 层使用稠密 SwiGLU，之后 49 层使用 MoE；每个 MoE 层有 256 个专家，每个 token 路由到 8 个。稀疏路由降低每 token 的专家计算，但分布式推理仍要处理专家权重的存储与调度，路由负载不均也可能影响吞吐。注意力层中有 43 层采用 512 token 滑动窗口，9 层看完整上下文；这让局部层的 KV cache 不必随全序列等比例增长，但全局层仍然承担长序列缓存和注意力成本。全局层使用随可见 token 数缓慢增长的 q

结果最后落到可验证的工作结果

['适合代码、长文档推理及需要工具调用的智能体任务', '先核算权重与KV缓存；23B激活不代表单机可装', 'Blackwell可考虑NVFP4；较早代GPU可看FP8支持', '若依赖图像或其他多模态输入，Beam文本接口不适用']

开放权重之后，所有权才开始变具体

Reflection于2026年10月16日在Hugging Face发布Beam，这是该实验室首个开放权重模型。它面向代码、推理和智能体任务，提供Apache 2.0许可，团队可以在自有硬件、基础设施或云上运行并定制。发布指南还给出推理、监督微调和强化学习的配方，以及Transformers、vLLM和SGLang等部署入口。

这次发布值得读，不只是因为模型有501B参数，而是因为“拥有模型”被拆成了几项不同的承诺：拿到权重、能部署、能继续训练，并不等于拥有训练数据或完整训练过程。Beam让前几项有了实际入口，也把硬件和服务成本留给使用者承担。对技术负责人来说，关键问题不是它够不够开放，而是团队能否把这种开放转化为可持续的运行与定制能力。

23B激活参数，不等于23B规模的部署

Beam是稀疏混合专家模型：它有501B总参数，但每个token只激活约23B。模型包含52层，其中前3层是稠密层，其余49层各有256个专家；每个token路由到8个专家参与计算。这样的设计减少了单个token实际使用的计算量，却没有让其余专家权重凭空消失。

部署时必须把两笔账分开。计算账看每个token调用多少专家，存储账看运行时需要容纳多少权重；指南给出的BF16检查点约1 TB，NVFP4版本约280 GB。后者并非通用的轻量选项：指南称NVFP4面向NVIDIA Blackwell，较早一代GPU可考虑FP8。也就是说，“23B激活”可以帮助理解计算稀疏性，却不能单独用来估算显存、硬件门槛或总成本。

百万上下文是架构选择，也是缓存账单

Beam把局部注意力和全局注意力混在同一个网络里。43层只看前面512个token的滑动窗口，9层处理完整上下文；发布指南称，这种安排能减少KV cache随序列长度增长的开销。模型支持最长1M token上下文，但这个数字描述的是可接收的长度，不意味着长上下文没有额外代价。

指南给出的估算能说明差别：BF16、单序列条件下，1M上下文的KV cache约为36.08 GiB；如果52层全部改为全局注意力，估算约为208 GiB。Beam因此不是简单地把窗口拉长，而是用层间分工换取长距离信息与资源控制。对实际应用而言，长上下文是否划算，还取决于请求是否真的需要这么多历史，以及服务端能否承担缓存占用；仅凭最大窗口长度无法判断。

可定制的入口，不是零门槛的能力

Beam的发布不止提供权重。指南列出BF16、FP8和NVFP4检查点，并给出Transformers、vLLM、SGLang的运行示例，也提供SFT、LoRA和RL配方；Reflection还称支持使用Miles进行全参数RL。这让团队可以从直接推理走向微调或强化学习，而不必从零搭建所有流程。

不过，配方和代码入口解决的是“从哪里开始”，并不自动解决算力、工程和数据问题。Reflection称其预训练使用23.8万亿token，并在强化学习阶段使用10,500张NVIDIA GB300 GPU训练4周，生成超过1亿次rollout；这些规模是公司自述，也提示复现其训练能力与下载权重是两件截然不同的事。对多数团队，更现实的定制路径可能是先验证推理与小规模后训练是否满足业务需求，再决定是否承担更重的训练投入。

基准与开放范围，都需要留出核对空间

公开成绩不能压成一个不带条件的结论。Reflection介绍页列出的SWE-bench Verified成绩是80.9，Hugging Face指南的精度表则给出BF16 81.6%、FP8 80.2%、NVFP4 80.7%；现有材料没有解释两处差异。Reflection自己的Terminal Bench v2.1表中，Beam为80.1，低于同表列出的GLM 5.3、Kimi K3、Qwen 3.8 Max和DeepSeek V4.1 Flash，因此不能只挑一个分数概括其代码与智能体能力。

开放范围也有类似的边界。Apache 2.0许可明确覆盖模型权重的使用条件，但Reflection称预训练数据包含专有授权数据，公开页面没有提供完整数据集；目前可查的发布指南也不足以确认完整安全评估结果已经公开。Beam因此最适合被理解为一个可部署、可继续适配的开放权重模型，而不是数据、训练和安全证据都完全透明的开放系统。评估是否采用时，应把自己的任务测试、目标硬件成本和所需的数据治理证据列为上线条件。