说到大模型运行的现实态，我置信很多人都可以想到《钢铁侠》外面的贾维斯，可以依据环境、天气、对手火力等状况，给钢铁侠提供决策指点或许自主决策。
大模型Agent就是人们宿愿借助大模型成功的相似于贾维斯一样智能助手才干，它具有环境感知才干、自主了解、决策制订以及执行执行的才干。
在成功Agent架构环节中，有很多思想方式和传统软件工程思想是相似的。
软件工程是对物理环球的逻辑映射，所以面向对象思想大行其道（畛域驱动的内核也是面向对象）。
Agent架构，则是面向指标的架构，经过感知、思索、执行的严密联合，成功复杂义务。
智能体（Agent）是一个可以自主思索，了解用户需求，还能启动义务拆解，经过调用外部工具裁减自身才干的大模型运行。
关键蕴含以下几局部：推理布局、失掉存储记忆、调用外部工具、执行推理举措。
感知组件：是Agent与外部环球互动的桥梁，担任搜集和解析环境数据，就像智能驾驶车辆的雷达、摄像头、传感器等感知元器件。
记忆组件：记忆分为常年记忆和短期记忆，准许Agent对记忆的存储和检索。短期记忆如客服的多轮对话，常年记忆的如存储用户特色，业务数据等，通常借助向量数据库成功极速存取。
工具经常使用：Agent经过调用外部工具增强自身才干。普通是各种工具或许API、插件等。
执行组件：是Agent执行义务的详细行为，成功对环境的照应。比如一个智能家居控制系统，可以依据环境湿度、光度调理家中照明。
在详细落地上看，智能体（Agent）是一套上班流，比如可以用coze或许dify以上班流的方式搭建一个智能体，每个编排节点都是调用的外部的API（相似于function call）。
比如UC伯克利打造的端侧Agent，slogan就是“为函数调用而生！”
也可以和RAG联合，Agent经过RAG失掉专业常识，如专业数据、学术报告、行业报告等，增强智能体常识的广度和深度。
比如一份财报剖析Agent，可以智能成功数据搜集、剖析、报告生成，技术上包括架构设计、Prompt设计、数据失掉、RAG检索、LLM处置、报告生成等。
成功Agent，可以借助如LangChain或许LlamaIndex干流大模型基础组件，外面曾经对大模型、文档加载器、向量数据库、嵌入模型等做了形象封装，可以极大简化开发环节。
但联合到详细业务之下裁减性较差，难以和企业中现有的IT系统启动低老本集成，也可以选用自建Agent架构的方法。
在Agent架构落地上，其实和传统的软件架构十分像。
最便捷的思绪，你可以将大模型视为一个高内聚的存储与检索基础服务。
比如，当用户经过Prompt动员一个需求时，一个路由组件对Prompt启动推了解析，以及用意分拆，并将不同的用意义务路由散发到不同的专有小模型上（或许是经过特定数据微调过的模型）。
假设须要启动更复杂的义务拆解，可以将路由模块中的义务推理模块独自拆进去，而后将各种专有模型的答案汇总，生成一个较为片面的答案。
假构想要优化恳求照应的速度和处置模型幻觉和推理慢的疑问，可以在架构中引入缓存或许向量数据库。
由于有了缓存，后续相似Prompt的检索答案生成速度就很快了。
下面几种架构面对的都是较为便捷的场景需求，但它们也算是Agent，一个规范的Agent应该是蕴含布局、执行、观测、从新布局几局部的。
关于用户输入的Prompt，Agent首先做布局，将需求拆解成若干子义务，而后对每个子义务区分执行，同时对每一步执行环节和结果启动观测，假设产生观测不合格的状况，就从新布局-执行，直到观测结果合格生成答案。
更复杂的Agent架构，是将以上几种形式组合起来。
随着大模型越来越成熟，很多疑问幻觉、老本疑问陆续被处置了。
学习和把握大模型也不再须要特意专业的常识了，把握基本的微调基本上可以满足业务需求，基本上你可以把他当做一个存在和检索两边件经常使用了。
在了解和落地大模型运行环节中，越来越发现传统的软件工程的价值并不是隐没，反而变大了。
由于软件工程思想，实质上是一种工程思想，是一种以正当形象、低老本裁减为**的建模思想，大模型再弱小，目前也只能是工具属性，作为整个数字化、智能化业务架构中的一环，软件工程思想，可以十分直观的让你知道大模型应该嫁接在哪里，以及如何更好的施展大模型的价值。