大模型

前面几篇文章已经从 tokenizer、dataset、训练循环、模型结构、Attention、RoPE、Mo … 阅读更多

前面几篇已经看过 MiniMind 的 Attention、RoPE 和推理生成。 这篇继续沿着同一条线看一个 … 阅读更多

训练时，模型可以并行预测一个序列中的很多位置。 推理时，情况不同。 LLM 生成文本通常是自回归的： Mini … 阅读更多

很多人在学习 Transformer 时会把注意力都放在 Attention 上。 但在现代 LLM 中，Fe … 阅读更多

Attention 本身只看 token 内容，不天然知道 token 的位置。 如果两个 token 的内容 … 阅读更多

Attention 是 LLM 里最核心、也最容易让初学者卡住的模块。 MiniMind 的 Attentio … 阅读更多

上一篇看了 MiniMind 的整体结构： 这篇进入每一层 MiniMindBlock。 在 Min … 阅读更多

前面已经看过 tokenizer、dataset 和训练循环。现在进入模型结构。 MiniMind 的模型代码 … 阅读更多

理解 LLM 训练，最好的入口不是一上来就看复杂的分布式训练框架，而是先看一个足够小、足够完整的训练脚本。 M … 阅读更多