TL;DR paper中的位置编码定义可以直观理解为 "钟表盘上每个针头的位置坐标" 跟直接拿index作为位置编码的方案相比，这种定义有两个优点可以使用不含bias的线性变...
发简信
IP属地：广东
-
《十二时辰》教你直观理解 Position-Encoding -
AI/NLP码农，喜欢折腾Python、全栈
TL;DR paper中的位置编码定义可以直观理解为 "钟表盘上每个针头的位置坐标" 跟直接拿index作为位置编码的方案相比，这种定义有两个优点可以使用不含bias的线性变...
