如何给模型加入先验知识

主要观点总结

本文介绍了在深度神经网络中加入先验信息的五种方法，包括基于pretrain模型、基于输入、基于模型重现、基于CAM图激活限制和基于辅助学习等方式。这些方法可以帮助模型更好地学习到关键特征，提高模型的精度。文章还讨论了不同方法的优缺点，并提供了相应的框架选择和探索建议。

关键观点总结

关键观点1: 深度神经网络加入先验信息的必要性

深度神经网络虽然能够自动学习到一些可区分度好的特征，但往往会拟合到一些非重要特征上，导致模型局部坍塌。为了解决这个问题，给模型加入人为设计的先验信息可以让模型学习到一些关键的特征。

关键观点2: 五种加入先验信息的方法

1. 基于pretrain模型加入先验信息；2. 基于输入加入先验信息；3. 基于模型重现加入先验信息；4. 基于CAM图激活限制加入先验信息；5. 基于辅助学习加入先验知识。

关键观点3: 不同方法的优缺点及适用场景

各种方法都有其独特的优点和缺点，适用场景也不同。需要根据具体的task来选择合适的加入先验信息的方法。

关键观点4: 探索建议

如何加入先验信息还需要自己探索。需要根据具体的task和数据集来选择合适的方法，并进行实验验证和调优。