后训练扩展的工程范围
Kimi 将 K3.1 Pro 描述为 K3 的后训练版本,增加联合强化学习计算,覆盖数百下游领域。报告列出长上下文推理、训练效率、沙箱、rollout 调度与统一环境质量检查等支撑层,但没有公开足以重建这些组件的调度算法或资源配置。因此不能从“优化全栈”补写不存在的系统架构。
报告中的长程案例是人体行走模拟器:在奖励调整未改善手臂动作后,模型改为运行开环动力学探针,定位肩部肌肉力臂计算错误,再训练控制器。这是作者提供的具体内部案例,展示调查方向可能从奖励转向环境实现;它不等于所有长程任务都有同样可靠的恢复能力。
数据过滤怎样接受受控比较
相较一般产品公告,网络安全段提供了较明确的干预:团队从 mid-training 数据和 RL 环境中移除网络安全相关内容,同时保留通用编码任务。内部 xdev-bench-hard 提供易受攻击源码、简短提示和二进制,以独立沙箱中的验证信号判断成功;报告使用 pass@3,没有硬超时或输出 token 上限。
同一训练管线不做这两类过滤的 checkpoint 为 90.5%,最终版本为 81.0%。这支持过滤对所测能力的影响,但不是纯模型权重之外一切都已公开可复核的实验。团队也承认更强通用编码与长程调试会迁移到安全任务,因此定向移除并未完全消除相关能力。
基准脚注比统一排名更重要
官方评测横跨不同任务,图下注明推理强度、回退和防护设置,读分数时应保留这些条件。
默认报告设置为 max effort、temperature 1.0、top-p 0.95,但各任务有例外。Terminal-Bench 用 Claude-Code harness,部分竞争分数取博客或榜单最大值;BenchCAD 的开放模型测的是从完整数据集中抽取的千例子集;内部 Kimi Code Bench 也不能与公开基准视为同一总体。
我的理解是,这份报告适合读作后训练能力与评测条件说明,而非部署性能教程。Highspeed 的两到三倍速度是单独产品主张,没有在这里建立质量、负载和资源完全匹配的比较。页面承诺某日期发布权重也不同于已核验下载可用。使用这些结果时,应保留任务、harness、采样与成功判据,尤其不能把压力测试幻觉率推广到日常整体错误率。
来源:原始工程文章
