聊一聊做角色扮演大模型的经验

主要观点总结

本文分享了作者关于做角色扮演大模型的的一些心得和思考，包括产品设计的重要性、角色扮演大模型的特性和训练经验等。同时，也介绍了在模型训练过程中数据生产、模型微调等方面的经验和注意事项。

关键观点总结

关键观点1: 产品设计的重要性

作者强调了产品设计的重要性，因为产品的形态不仅决定了目标用户群体的范围，而且会从根本上影响模型的输出设计和交互模式。另外，作者也从技术人员的视角分享了对这个行业的看法。

关键观点2: 角色扮演大模型的特性

作者介绍了角色扮演大模型的特性，包括给 AI 穿上一层「皮」，让它不再是一个助手，而是变成一个有血有肉的角色。与传统的通用大模型相比，角色扮演大模型更注重角色一致性，甚至要有「自我意识」。作者还提到了更优秀的角色扮演模型应当让用户有强烈的沉浸感，引导用户去演绎，去推动剧情。

关键观点3: 数据生产和模型微调的经验分享

作者分享了数据生产和模型微调的经验，包括如何设计人设卡、利用小说语料和生成对话等数据来源，以及数据中的bias问题和如何微调模型等。作者还介绍了参数调整的重要性和一些实践中的注意事项。