今天看啥  ›  专栏  ›  Coggle数据科学

抱抱脸🤗 新功能:提示词模板和Agent

Coggle数据科学  · 公众号  · 科技自媒体  · 2024-07-17 14:13
    

主要观点总结

本文介绍了聊天模板在大型语言模型(LLMs)中的应用,以及如何使用 Hugging Face Transformers 库中的聊天模板。文章还介绍了如何使用Code Agent和React Agents等Agent类型,以及如何构建和初始化一个Agent。此外,文章还介绍了Tools(工具)的概念,包括默认工具和自定义工具的创建方式。

关键观点总结

关键观点1: 聊天模板的使用

聊天模板是LLMs中用于处理对话的一种特性,它们将对话(表示为消息列表)转换为单个可标记的字符串格式,以符合模型的期望。使用Hugging Face Transformers库中的聊天模板很简单,只需构建一个包含role和content键的消息列表,然后将其传递给apply_chat_template方法。

关键观点2: Agent的类型和使用

Agent是一种使用LLM作为引擎的系统,可以访问称为工具的函数。这些工具是执行任务的函数,包含所有必要的描述,使agent能够正确地使用它们。Code Agent和React Agents是两种常用的Agent类型。Code Agent适用于需要处理多种输入输出类型的任务,而React Agents在需要连续推理和逻辑思考的任务中更具优势。

关键观点3: 工具的创建和自定义

工具是Agent使用的原子函数。可以通过继承Tool超类来创建自定义工具。自定义工具需要名称、描述、输入描述、输出类型和一个执行操作的forward方法。


免责声明

免责声明:本文内容摘要由平台算法生成,仅为信息导航参考,不代表原文立场或观点。 原文内容版权归原作者所有,如您为原作者并希望删除该摘要或链接,请通过 【版权申诉通道】联系我们处理。

原文地址:访问原文地址
总结与预览地址:访问总结与预览
推荐产品:   推荐产品
文章地址: 访问文章快照