15:03 · May 7, 2025 · Wed https://x.com/9hills/status/1920042487357325467?t=XWPqjnZV-NHjYV1p1qvDtQ&s=35 X (formerly Twitter) 九原客 (@9hills) on X CS336 Lecture 3,讲了现代 LLM 架构和 Transformer 原始架构不同的部分,讲了很多架构上的趋同选择以及原因。比如 SwiGLU、Pre-Norm、RoPE等,对现代 LLM 架构感兴趣的可以看看。https://t.co/0busZ6W63Q