五年，终于等来Transformers v5

主要观点总结

本文介绍了Transformers v5的发布，作为全球最流行的AI基础设施库，正式跨越了从v4到v5长达五年的技术周期。更新内容主要包括模块化建模、自动模型转换、与高性能推理引擎的互操作性等。同时，也强调了简洁性、新模型的引入、代码精简以及训练、推理、生产环境和量化的重要性。此次更新还强调了与各种推理引擎和建模库的互操作性。

关键观点总结

关键观点1: Transformers v5的主要更新内容

包括模块化建模、自动模型转换、与高性能推理引擎的互操作性等，以及确立PyTorch为唯一核心后端。

关键观点2: 简洁性

团队的首要关注点，希望通过简洁的设计带来更广泛的标准化、更强的通用性以及更全面的生态支持。

关键观点3: 新模型的引入

Hugging Face的目标是收录所有最新的模型架构，并成为模型定义的唯一可信来源。

关键观点4: 训练的重要性

团队将继续专注于训练方面，特别是对于预训练的支持和与各种微调工具的兼容性。

关键观点5:

v5在推理方面也进行了优化，包括专用内核、更干净的默认设置、新的API以及对推理引擎的支持。

关键观点6:

团队与最流行的推理引擎紧密合作，确保Transformers与这些引擎之间的良好互操作性，并提供与ONNXRuntime、llama.cpp和MLX的兼容。

关键观点7:

紧跟技术前沿，v5将量化作为Transformer的核心能力之一，确保其与主要功能完全兼容，并为训练与推理提供一个可靠的量化框架。