AI Concepts

主要观点总结

本文介绍了Spring AI所具备的能力，包括模型、提示、提示模板、向量化、令牌、结构化输出、将数据和API带给AI模型以及评估AI响应等关键点。

关键观点总结

关键观点1: 模型

AI模型是设计用于处理和生成信息的算法，通常模仿人类的认知功能。Spring AI支持处理输入和输出为语言、图像和音频的模型。

关键观点2: 提示

提示词是构成基于语言输入的基础，用于引导AI模型产生特定输出。制作有效的提示词既是一门艺术也是一门科学。

关键观点3: 提示模板

提示模板涉及建立请求的上下文，并用用户输入的值替换请求的某些部分。Spring AI使用StringTemplate来创建和管理提示模板。

关键观点4: 向量化

向量化是文本、图像或视频的数值表示形式，用于捕捉输入之间的关系。在AI系统中，向量化有助于实现诸如检索增强生成等实际应用。

关键观点5: 令牌

令牌是AI模型工作原理的基础构件。在输入时，模型将单词转换为令牌。此外，令牌与金钱相关，在托管AI模型的背景下，费用由使用的令牌数量决定。

关键观点6: 结构化输出

AI模型的输出传统上是以字符串的形式呈现，即使要求回复是JSON格式也只是简单的字符串。结构化输出转换需要精心制作的提示词和多次与模型的交互。

关键观点7: 将数据和API带给AI模型

有三种技术可以定制AI模型以整合数据：微调、提示词填充和工具调用。Spring AI库帮助实现基于“填充提示词”技术的解决方案，也称为检索增强生成（RAG）。

关键观点8: 评估AI响应

有效评估AI系统对用户请求的输出响应对于确保应用程序的准确性和实用性至关重要。新兴技术如使用预训练模型本身进行这种评估的方法正在发展。Spring AI项目提供了一个评估器API来评估模型响应。

免责声明