Claude「新宪法」发布：2.3 万字，详细行为指南

主要观点总结

本文介绍了Anthropic发布的Claude模型的新“宪法”，该宪法详细描述了Claude的行为准则和核心属性。这份文件不仅是模型训练的权威来源，也是解释Claude决策和行为的指南。宪法的目标不仅是告诉Claude做什么，而是解释为什么这样做，以便模型能够在新的未知场景中做出适当的判断。此外，宪法还包含一些硬约束，规定了Claude永远不能做的事情。宪法的作者包括哲学博士Amanda Askell和其他在Anthropic工作的关键人物。该宪法以CC0许可证发布，供任何人自由使用。

关键观点总结

关键观点1: Claude模型的新“宪法”发布

这份文件详细描述了Claude的行为准则和核心属性，是模型行为的最终权威来源。

关键观点2: 宪法的目标不仅是告诉Claude做什么，而是解释为什么这样做。

Anthropic强调，通过解释行为背后的原因，模型可以更好地在新场景中做出判断。

关键观点3: 宪法包含一些硬约束。

这些约束规定了Claude永远不能做的事情，包括不能帮助制造特定武器、攻击关键基础设施等。

关键观点4: 宪法的作者和团队。

主要作者是哲学博士Amanda Askell，其他关键人物如Joe Carlsmith和Chris Olah也参与了宪法的编写。此外，多个Claude模型也提供了反馈。

关键观点5: 宪法的开放性和使用许可。

该宪法以CC0许可证发布，供任何人自由使用，无需授权。