位置编码 RoPE ALiBi Transformer 深度学习从位置走到信息:AI位置编码笔记之前用绝对位置编码,生成到1000+token时效果明显变差。 醉月思📁 学习笔记📅 2024-08-12