Notes on Technical Reports

本文记录一些尚未单独整理成系列的技术报告阅读笔记，主要关注模型架构、训练方法和工程实践，后续会持续补充。

KAT

KAT-Coder-V1 (Zhan et al., 2025) 和 KAT-Coder-V2 (Li et al., 2026) 是快手提出的用于 coding 的大模型系列，前者发布于25年10月，后者发布于26年3月。

KAT-Coder-V1 基于 Qwen3 (Yang et al., 2025) 进行 mid-train, SFT, RL 来提高其 coding 能力

SFT 时，作者提到了两个改进：

error-masked SFT, 对于 toll call error 的 token, 将其 mask 掉，避免影响模型表现
Tree-Structured Trajectory Training, 将 multi-branch trajectories 组织成 subtrees, 保证训练稳定性

agentic RL 训练时，作者提出了 Trie Packing, 来解决 multi-trajectory 的内存占用问题

对于算法，作者提出了基于难度和 entropy 的 advantage scaling 技巧，最终的 advantage 计算方式为

A_{ij}' = \alpha_i^{group}\beta_{ij}^{sample}

其中

\alpha_i^{group} = 1 + \lambda(D_i-\bar{D}), \beta_{ij}^{sample} = 1+ \mu(H_{ij}-\hat{H}_i)

分别代表一个 group 里的 task 难度系数和一个 group 里某个 token 的 entropy 系数

KAT-Coder-V2 基于 KAT-Coder-V1 continue post-training 得到，训练过程包括 SFT, RL 和 MOPD 三个阶段。

作者首先介绍了 KwaiEnv, 一个用于 agentic coding 的 infra.

post-training 阶段，作者先基于初始模型通过 SFT 和 RL 训练的到 5 个专家，最后通过 MOPD 进行合版。

数据处理：

SWE-agent: 爬取，验证和执行，收集得到 30k training samples, 作者还构建了 code comprehension 任务来提高模型相应能力
WebCoding-agent: 构建了 user perception, design rationale, technical implementation 的分阶段 pipeline
Terminal-agent: 通过专家标注，multi-agent synthesis, SWE-format 数据转换和开源数据集成得到
WebSearch-agent: 与 Kimi-k3 (Team et al., 2026) 类似使用构建知识图谱然后进行检索
General-agent: 包含 instruction following, general QA, code-math reasoning 相关 domain

RL 训练时，作者使用了大概 100k samples.

作者使用了 turn-level GSPO (Zheng et al., 2025) 来进行训练，其 importance ratio 定义为

r_{turn}^{(n)}(\theta) = \prod_{i\in\mathcal{T}_n}\frac{\pi_{\theta}(y_i\mid x, y_{<i})}{\pi_{\theta_{old}}(y_i\mid x, y_{<i})}

其中 $\mathcal{T}_n$ 是一个 turn.

Li, F., Zhang, H., Huang, H., Wang, J., Hao, J., Yuan, K., Li, M., Zhang, M., Xu, P., Zhuang, W., Shao, Y., Feng, Z., Tang, C., Wang, C., Tong, C., Yang, F., Xiong, G., Gao, H., Gao, H., … Chen, B. (2026). KAT-Coder-V2 Technical Report. https://arxiv.org/abs/2603.27703
Team, K., Bai, T., Bai, Y., Bao, Y., C., M., Cai, J., Cai, X., Cao, P., Cao, Y., Chai, Z., Charles, Y., Che, H. S., Chen, G., Chen, G., Chen, G., Chen, H., Chen, J., Chen, J., Chen, J., … Zu, X. (2026). Kimi K3: Open Frontier Intelligence. https://arxiv.org/abs/2607.24653
Yang, A., Li, A., Yang, B., Zhang, B., Hui, B., Zheng, B., Yu, B., Gao, C., Huang, C., Lv, C., Zheng, C., Liu, D., Zhou, F., Huang, F., Hu, F., Ge, H., Wei, H., Lin, H., Tang, J., … Qiu, Z. (2025). Qwen3 Technical Report. https://arxiv.org/abs/2505.09388
Zhan, Z., Deng, K., Wang, J., Zhang, X., Tang, H., Zhang, M., Lai, Z., Huang, H., Xiang, W., Wu, K., Zhuang, W., Wang, S., Yan, S., Lei, K., Feng, Z., Wang, H., Lin, Z., Li, M., Xie, M., … Chen, B. (2025). KAT-Coder Technical Report. https://arxiv.org/abs/2510.18779
Zheng, C., Liu, S., Li, M., Chen, X.-H., Yu, B., Gao, C., Dang, K., Liu, Y., Men, R., Yang, A., Zhou, J., & Lin, J. (2025). Group Sequence Policy Optimization. https://arxiv.org/abs/2507.18071

IQuest-Q1 是 IQuest 在 26 年 9 月发布的一个 320B-A15B 的 MoE 模型，用于 agentic coding, reasoning 以及 multi-step tool-use.

架构：

Marin 是 stanford 提出的一个完全开源的 MoE 模型，参数为 535.3B/22.76B

架构：

Elango, V., Bhatia, N., Waleffe, R., Shafipour, R., Asida, T., Khattar, A., Assaf, N., Golub, M., Guman, J., Mitra, T., Zhao, R., Borkar, R., Zilberstein, R., Patwary, M., Shoeybi, M., & Rouhani, B. (2026). LatentMoE: Toward Optimal Accuracy per FLOP and Parameter in Mixture of Experts. https://arxiv.org/abs/2601.18089