什么是智能体 AI?
智能体 AI 利用大语言模型(LLM)和工具,在生成式人工智能(生成式 AI)的能力基础上进一步拓展。它能够与各种外部数据源连接和通信,以感知、编排整个自动化任务并制定相关决策,从而实现既定目标。
要将智能体 AI 投入实际应用,您需要创建一个系统,让 LLM 能够访问外部工具,并通过逻辑来提供指令,说明智能体系统应如何使用这些工具。智能体系统本质上是驱动和操作其他软件工具的一个层级。
智能体 AI 可以是一种物理结构、一个软件程序,或二者的结合体。例如,机器人系统中的 AI 智能体可能会使用摄像头、传感器和监控器来收集周围环境的数据,并与软件一同运行这些信息,以决定下一步行动。这一过程称为“传感器融合”。
在软件环境中,智能体 AI 会从其他来源(例如应用编程接口(API)、在线搜索、文本提示和数据库)收集数据,帮助智能体形成认知感和情境意识。
智能体 AI 与 AI 智能体
AI 智能体是一个名词(“我正在构建三个智能体”),指的是在智能体系统中承担特定角色并执行任务的软件实体。
智能体 AI 是描述性用词,指的是系统的行为特征(“我们需要让软件变得更具智能体特性”)。它描述的是一种具备目标导向能力的系统,能够在有限人工指导下,自主制定计划、做出决策并采取行动。
AI 智能体简史(概略)
AI 智能体的早期迭代涉及基本的 API 函数调用。在那个阶段,AI 智能体开始为您的系统创建指令集。
接下来,各种框架将单一工具调用演变为一个循环:推理、行动、观察,然后不断重复。
随后,模型上下文协议(MCP)应运而生,实现了应用和服务之间的通信标准化。这使得工具、资源和提示词比以往任何时候都更容易暴露给 MCP 客户端(即请求访问外部数据或资源的组件),并被其发现。
如今,我们有了自主编码智能体和多智能体系统,可以让一个智能体负责规划任务,并将任务委派给它即时创建的子智能体。人类不再始终参与循环,而是在收到循环的通知后进行监督。
那么,如果智能体可以使用真实凭据在真实系统上长期运行,是什么在阻止它做出错误的行动呢?
答案是:AgentOps。
为什么智能体 AI 用例需要 AgentOps
AgentOps(智能体运维)是一套用于监控 AI 在实时决策过程中的“思考”与执行状态的工具框架。
智能体的行为具有非确定性,也就是说,它们的决策是基于一系列随机概率分布生成的。这意味着我们无法准确预测它们的行为。智能体工作流有助于创造性地解决问题,但这种创造力需要加以管理,以免系统失控。
AgentOps 专注于生产层,使软件更加可靠。AgentOps 通过以下方式提供帮助:
- 跟踪硬件资源的使用情况。
- 监控幻觉发生率。
- 确保数据始终保持加密状态。
- 提供智能体所执行操作的可审计日志。
- 在发生策略违规情况时终止流程。
在企业环境中,AgentOps 对于智能体工作流至关重要。它所提供的 AI 系统构建在您的基础架构之上,基于您的数据进行训练,与您的价值观保持一致,并遵循您的规则。
实施 AI 技术的 4 个关键注意事项
什么是代理式 RAG?
检索增强生成(RAG)是一种通过将 LLM 链接到外部资源,从生成式 AI 应用中获得更好答案的方法。智能体 RAG 在传统 RAG 的基础上更进一步,它使 LLM 能够主动调查,而不仅仅是检索。
虽然 RAG 能够检索答案,并从其可获取的文档和数据集中提供一些上下文信息,但它依赖于手动提示词工程。传统 RAG 的上下文感知能力也较为有限,并且完全依赖于初始查询来检索相关信息。
相对而言,代理式 RAG 更加复杂且更具动态性。它能够自行提出问题,依据自身的记忆构建语境,并且在未被明确要求的情况下执行额外的任务。这种超越传统 RAG 的特点,使得智能体 RAG 具备了在无需您手动干预的情况下,代表您做出更明智决策的能力。
代理式 AI 用例
智能体 AI 用途广泛,让我们来看看不同行业是如何使用它的:
智能体 AI 在金融领域的应用
财务团队需要监管数百万笔交易,而手动进行欺诈检测和策略实施根本跟不上实时节奏。
自主金融智能体可以持续监控日常交易,在欺诈或策略违规行为升级之前进行标记。智能体会获取实时数据,将其与内部规则进行交叉比对,并标记异常情况。在此基础上,审核人员介入分析被标记的可疑活动,并对是否采取行动做出最终判断。
智能体 AI 在 IT 和软件工程领域的应用
开发人员需要花费数小时来重现错误并编写修复程序,而这些时间本可用于构建和改进新功能。AI 智能体可以通过在沙盒中重现错误、起草可能的修复方案并运行测试来验证补丁是否有效,从而帮助进行问题分类。一旦解决方案得到验证,开发人员便可审查代码并批准部署到生产环境。
智能体 AI 在供应链管理领域的应用
极端天气、罢工和港口拥堵等外部因素可能会扰乱供应链,导致延误和经济损失。智能体可以追踪新闻动态、监测天气情况、向团队预警潜在的延误,甚至可以计算改道运输的财务影响。随后,供应链经理会审查智能体的成本效益分析,并最终决定采用哪种策略。
智能体 AI 在自动驾驶汽车领域的应用
自动驾驶汽车需要在复杂的现实环境中穿行,这意味着要解读海量相互冲突的传感数据。智能体传感器融合系统可将不同的原始输入(来自摄像头和雷达)整合成一个连贯、实时的汽车周围环境模型。该智能体系统能够处理、组织和过滤来自每个车辆传感器的数据,以理解视觉上的模糊之处,并在几毫秒内预测碰撞风险。安全驾驶人员或远程操作人员负责监督边缘案例的异常情况,监控这些系统的可靠性,并在必要时手动接管车辆控制。
智能体 AI 在传播与公共关系领域的应用
网络世界的运转速度之快,让任何人类传播团队都难以跟上其变化节奏。新闻全天候不断爆发,舆论情绪可能在几分钟内发生逆转,一条不起眼的报道也可能迅速发酵成危机。
智能体可以不分昼夜地跟踪品牌在各平台的提及情况,并生成摘要以评估公众情绪。它们还可以扫描新闻报道、最近发表的学术论文以及社交趋势,汇编每日简报。随后,智能体可以总结关键见解,帮助团队把握行业动态,保持领先优势。根据这些简报,传播专业人员可以撰写高风险情境下需要传达的关键信息,并为已升级的事件策划公关应对方案。
智能体 AI 在人力资源领域的应用
新员工入职涉及重复性行政事务、日程安排和接连不断的问询,这些都会消耗大量资源。为此,可利用专门的入职智能体引导新员工完成文档填写、IT 设置和培训。它可以帮助新员工解答具体问题,并根据员工的岗位和部门安排入职介绍会。这为人力资源主管和团队经理腾出了时间,让他们能够专注于需要投入更多人文关怀的工作,包括团队文化融合、导师辅导以及与新员工建立个人联系。
智能体 AI 在法律与合规领域的应用
全球贸易法和环境法规不断变化,使得跨国公司很容易陷入不合规的境地。智能体可以持续追踪全球监管动态,并分析这些法律框架变化对运营工作流的影响。这可以帮助组织提前规避法律风险,无需依赖人工策略审核。一旦智能体标记出可能需要内部调整的特定领域,法律顾问人员便可解读相关发现,并在需要时起草更新的公司政策。
智能体 AI在营销和销售领域的应用
在竞争激烈的市场中,静态定价可能会导致收入损失。智能体会实时监控竞争对手定价和市场需求,并提出价格调整建议,帮助企业在保持竞争优势的同时保护利润空间。营销和营收主管负责设定定价策略边界、审核自动化建议,并审批促销活动。
智能体 AI 在医疗卫生领域的应用
医疗卫生工作者被大量行政数据压得喘不过气,这可能导致医护人员职业倦怠,或者在患者护理中出现疏漏。临床助理智能体可帮助整理患者数据、标记缺失的化验结果,并提醒团队注意潜在的药物冲突或剂量问题。医生和临床工作人员将智能体视为一道安全网,他们会审查被标记的警报,并将节省下来的时间用于提供直接的患者护理。
红帽能如何提供帮助
红帽® AI 通过专用的 AgentOps 控制平面,实现智能体整个生命周期的运营化落地。这意味着,企业能够在混合云环境中实现更安全、可观测且高效的部署。
平台还通过集成的安全护栏提供企业级治理能力。它的底层基础架构采用 vLLM 和 llm-d,以实现高性能分布式推理,因此您可以将资源密集型工作流扩展至从本地数据中心到边缘环境的各种场景。
红帽 AI 还通过基于 vLLM 的推理服务器,提供快速、灵活且高效的模型推理能力。它能将模型与您的数据可靠地连接起来,在单一平台上统一实现专用代理的定制与开发。依托开源基础架构,红帽的 AI 产品能够帮助企业在任意规模下,对 AI 工作流实现端到端的全面掌控。
为生成式 AI 奠定基础的首要考量因素
本电子书概述了建立可靠的基础架构以加速生成式 AI 项目的关键注意事项