中金：一种结合自注意力机制的GRU模型

主要观点总结

本文介绍了中金研究关于机器学习模型中时间序列模型的研究，探讨了GRU和Transformer等模型在匹配不同数据时的表现，以及优化时间序列模型的可能方向。通过一系列实验，文章提出了结合自注意力机制和残差结构的GRU模型AttentionGRU(Res)，该模型在收益和稳定性方面表现更优秀。

关键观点总结

关键观点1: 时间序列模型的特性及其优势

时间序列模型专门用于分析和预测按时间顺序排列的观测值序列，LSTM、GRU和Transformer等代表了深度学习在时序建模领域的核心架构演进。GRU作为早期优化变体，通过更新门与重置门实现端到端收益率预测等任务，其优势之一是实现较高运算效率的同时保留长期记忆能力。

关键观点2: 不同模型在时序因子上的表现对比

通过对中金量化策略开发的日度价量和日内高频共159个截面因子和158个时序因子在基础时序模型上的表现测试发现，虽然截面因子在各项指标上表现较好，但时序因子在样本外表现上优于截面因子。将上述因子输入经典时序模型RNN、LSTM和GRU中时，时序因子的样本外表现更优秀。

关键观点3: 时间序列模型的优化方式及其效果

针对时间序列模型进行优化，包括改进门结构与信息流方向的模型如BiGRU和GLU，以及整体结构组合型优化的模型如AttentionGRU(Res)。实验结果显示，BiGRU和GLU对GRU的表现提升有限，而AttentionGRU(Res)模型结合了Transformer的自注意力结构、残差前馈网络结构（Res）和GRU的优点，在收益和稳定性方面表现更优秀，全市场样本年化超额收益超过30%，中证1000股票范围内选股能力的泛化性也较强。

免责声明