避开复数推导，我们还可以怎么理解RoPE？

主要观点总结

本文介绍了文章的主要内容和目的，即从全新的、可视化的角度探究RoPE的原理和各种性质，包括原始Transformer函数式位置编码的缺陷、RoPE的旋转角度、衰减性和外推性等。

关键观点总结

关键观点1: 原始Transformer位置编码的缺陷和局限性

文章介绍了原始Transformer位置编码的问题，包括位置编码的唯一性、相对性和远程衰减性等性质的解析，以及为什么这种位置编码在很长一段时间内没有得到人们的青睐。

关键观点2: RoPE的旋转角度解释

文章通过可视化的方式解释了RoPE如何通过对位置编码进行旋转来融入位置信息，包括在二维空间和高维空间中的旋转方式。

关键观点3: RoPE的衰减性解释

文章通过傅立叶变换的角度解释了RoPE的衰减性，即当位置编码间的距离增大时，内积变小，这种性质有助于模型更好地捕捉位置信息。

关键观点4: RoPE的外推性和基数选择

文章通过可视化的方式解释了RoPE的外推性和基数选择对模型训练的影响，包括如何利用不同大小的基数和不同类型的数据进行模型训练。