CS336 Lecture 3，讲了现代 LLM 架构和 Transformer 原始架构不同的部分，讲了很多架构上的趋同选择以及原因。

比如 SwiGLU、Pre-Norm、RoPE等，对现代 LLM 架构感兴趣的可以看看。

https://t.co/0busZ6W63Q