快速理解热门LLM大语言模型

主要观点总结

本文介绍了关于人工智能领域的一些基本概念和技术，包括LLM、Transformer、Prompt、Function calling、MCP、Agent、A2A等。文章通过简化的方式解释了这些概念的技术原理和操作流程，并探讨了AI技术的未来发展及其对编程行业的影响。

关键观点总结

关键观点1: LLM（大语言模型）的本质是文字接龙，把问题当成输入，大模型当成函数，把回答当成输出。

AI技术爆发于2023年，经过几次迭代，ChatGPT才崭露头角。了解Transformer架构、参数爆发增长和人工干预等因素对于理解LLM的发展过程很重要。

关键观点2: Transformer是一种基于自注意力机制的技术，能够动态关联上下文。它通过计算权重和加权相加得到token预测值，选择最接近的token来预测结果。

以一个简单的例子说明了Transformer的工作原理，包括分词、QKV向量的计算、推理过程等。

关键观点3: Prompt（提示词）在AI对话中的重要作用，以及其与系统设定的关系。理解API对于使用大语言模型的重要性，包括温度、工具支持、角色和信息、多轮对话等方面的内容。

在实际应用中，用户输入的内容是系统设定的一部分，即user部分的内容，而system角色的设定内容才是严格意义上的Prompt。

关键观点4: Function Calling（函数调用）在AI技术中的应用，以及实现方式和原理。AI需要能够处理复杂的任务，因此大模型的输出需要是稳定的、可编程的。

工具调用是实现这一目标的手段之一，通过调用外部工具来实现更复杂的功能。

关键观点5: Agent（智能体）是AI技术的一个扩展，包含大模型、任务规划、上下文记忆、工具调用等。创建智能体的方式包括配置prompt和引入工具等。

智能体可以应用于创建AI客服系统等领域。

关键观点6: MCP（模型上下文协议）和A2A（Agent通信协议）的作用和意义。MCP是工具接入的标准化协议，可以实现工具与Agent的解耦；A2A是Agent之间通信的标准化协议，使得智能体之间的交互变得更加可插拔。

这些协议有助于实现AI技术的模块化和标准化，从而方便不同的智能体之间进行交互和合作。

关键观点7: AI技术的未来发展及其对编程行业的影响。随着AI技术的不断进步，纯粹的业务代码工程师可能会消失，而会增加更多的AI编程工程师。AI编程工程师的职责是解决AI模糊性的问题，而工具的引入是增加确定性的手段。

未来，AI技术可能会彻底改变人类的生活和工作方式，但也需要人类与AI的协作和配合，共同解决更复杂的问题。