LLM

Notes on SmolLM3

Hugging Face 在 2025 年 7 月 8 号发布了 SmolLM3, 一个 3B 的，128K 上下文，支持 6 种语言，支持 dual mode reasoning 的小语言模型。

MLLM

Notes on GLM-4.1V-Thinking

智谱 AI 在 25 年 7 月份发布了 GLM-4.1V-Thinking, 一个 9B 的多模态大语言模型，其在多个 benchmark 上达到了相同大小 MLLM 的 SOTA

LLM

Notes on Qwen2.5-1M

Qwen2.5-1M 技术报告总结

LLM

Notes on Qwen2.5

Qwen2.5 技术报告总结

LLM

Dual Chunk Attention

无需训练的上下文扩展策略