Transformer 详解:一句中文怎么流过一层编码器
借「今天我要上学了。」这句中文,把分词、嵌入、位置编码、Q/K/V、缩放因子为什么是 √d_k、多头拼接与 W^O 的等价写法走一遍,并纠正几个常见算式错误。
阅读全文分类
3 篇文章
借「今天我要上学了。」这句中文,把分词、嵌入、位置编码、Q/K/V、缩放因子为什么是 √d_k、多头拼接与 W^O 的等价写法走一遍,并纠正几个常见算式错误。
阅读全文跟着 PyTorch 官方 quickstart 从头跑一遍,把导包、数据、模型、训练、保存加载、推理这六步整理成可复用的骨架,附 5 轮训练结果和几个容易踩的点。
阅读全文计划与目标 学习目标 来源: 大模型方向刚进组,大佬们有没有大模型的学习路线? 笙囧同学的回答 知乎 https://www.zhihu.com/question/1909694922581321658/answer/
阅读全文