MLLM Reasoning

MiMo-VL技术报告总结

MiMo-VL基于MiMo-7B，是一个多模态推理大语言模型

LLM

Tokenizer总结

Tokenizer总结与BPE的高效实现

LLM

关于attention bias的一些思考

为什么transformer没有QKV bias

LLM

Position encoding总结

从Absolute position encoding到RoPE

LLM

Qwen3 技术报告总结

Qwen3 包括6个dense模型，2个MoE模型，主要亮点是快慢思考模式切换，多语种，支持thinking budge调整