简要说明
如果在启动前就明确智能体承担哪项界定清晰的任务、哪些步骤只做准备、哪些步骤可以执行，人就能保持对 AI 智能体的掌控。智能体在已配置的访问途径和权限范围内工作。负责人审核结果并予以批准，之后变更才会在已对接的系统中实施。
如果在启动前明确三件事，人就能保持对 AI 智能体的掌控：一项界定清晰的任务、智能体只做准备的步骤，以及它可以执行的步骤。在此过程中，智能体只在已配置的访问途径和权限范围内工作。负责人审核准备好的结果并予以批准，之后变更才会在已对接的系统中实施。
从一项界定清晰的任务开始
一项界定清晰的任务能够表明智能体实际需要哪些信息、系统和权限。它还使智能体的结果是否正确变得可以核验。借助 Hawk IVO 引入智能体分为四个步骤：
- 初次洽谈：我们与您讨论您的任务、相关团队和您的目标。
- 明确应用场景：我们与您共同确定需要哪些信息和系统，以及您依据什么来衡量效益。
- 与真实用户开展试点：我们搭建应用场景，并在投入运行后的最初几周提供跟进支持。
- 扩展：逐步纳入更多团队、地点或任务。
准备还是执行
智能体分三个步骤工作，什么是 Agent Workforce？一文对此有详细介绍。对于每个步骤，您都要确定智能体可以走多远，以及在哪里由人做出决定。
| 步骤 | 智能体做什么 | 您需要确定什么 |
|---|---|---|
| 运用知识 | 在相应的企业和项目上下文中调取相关信息。 | 哪些来源已获授权 |
| 准备结果 | 汇总信息，并据此生成草稿和工作基础资料。 | 由谁审核和选择 |
| 执行工作步骤 | 在已对接的系统中处理合适的步骤。 | 适用哪些连接和权限，以及哪些内容需要事先批准 |
一个简化的规划示例展示了其中的分工。Hawk IVO Plan 依据规则和资质提出人员配置建议，一个智能体汇总冲突并准备可选方案。负责人予以批准。此后，变更才会在已对接的系统中实施。更多内容，请参阅文章AI 辅助排班。
起步阶段适合选择这样的任务：由智能体做准备，由人在实施前审核结果。智能体可以直接在系统中执行哪些步骤，取决于已配置的连接和授权。
审批与权限
借助 Hawk IVO Force，智能体只在您授权的范围内行事。这里需要区分两种设定。权限规定智能体在某个系统中可以做什么。工作流程中的审批则在一个具体结果生效之前对其进行确认。
智能体的工作框架如下：
- 智能体只使用已配置的连接，并在您设定的权限范围内工作。
- 在已对接系统中的操作受控进行。
- 可复用的工作指令以技能形式存储。
- 企业知识来自经授权的来源。
可追溯性
当人们清楚智能体使用什么开展工作、可以在哪里采取行动时，智能体的工作就变得可追溯。引入阶段所做的各项设定为此奠定了基础。知识来自您授权的来源，重复性任务遵循已存储的技能。操作只通过已配置的连接进行。由负责人批准时，决定权始终在一位指定人员手中。草稿、审核和审批具体如何记录，属于明确应用场景时要确定的内容。
欧盟《人工智能法》如何理解人类监督
欧盟《人工智能法》（条例 (EU) 2024/1689）在第 14 条中对高风险人工智能系统的人类监督作出了规定。这类系统的设计和开发应使自然人能够在其使用期间对其进行有效监督。根据第 4 款，负责监督的人员除其他外应能够：
- 理解系统的能力和局限，并监控其运行；
- 始终意识到过度依赖系统输出的倾向；
- 正确解读系统输出；
- 在特定情况下决定不使用该系统，或忽略、推翻或撤销其输出；
- 干预系统运行或中断其运行。
根据第 26 条第 2 款，这类系统的部署者应将监督工作交由具备必要能力、培训和权限的人员负责。某一具体应用是否属于高风险人工智能系统，取决于该条例第 6 条及其附件，是需要个案判断的法律问题。无论如何归类，在确定由谁在智能体工作时做出决定并进行干预时，这些标准都可以作为参考。
网站聊天、知识文章与执行型智能体
并非每一种 AI 应用都会在系统中采取行动。这一区别决定了需要怎样的管控。
| 特征 | 网站聊天 | 知识文章 | 执行型智能体 |
|---|---|---|---|
| 用途 | 在对话中回答问题 | 讲解一个主题 | 承接一项任务，直至交付结果 |
| 依据 | 消息、当前打开的页面、知识文章 | 经编辑维护的文本 | 企业知识、技能、已对接的系统 |
| 作用 | 不具约束力的回答 | 信息 | 在已对接系统中执行的步骤 |
| 管控 | 由访问者明确启动 | 文本经过专业审批 | 由负责人设定的权限和审批 |
实践案例：本网站的 AI 助手
hawkivo.com 上的 AI 助手基于 Hawk IVO Force 运行。它的任务范围界定得很窄：回答有关 Hawk IVO、各款产品和当前打开页面的问题，并推荐与页面语言一致的合适知识文章。它不会在其他系统中执行工作步骤。
是否开始对话，由您决定。只有点击“开始对话”后，聊天才会加载。在此之前，一则提示会告诉您：您正在与 AI 对话，回答可能有误且不具约束力，以及助手会收到哪些数据。助手会了解当前打开的是哪个页面和区块，但不会收到您在表单字段中填写的内容。
助手以小见大，体现了与企业中的智能体相同的设定：一项界定清晰的任务、一个确定的信息范围，以及在开始时由人做出的决定。有关这一应用的更多内容，请参阅网站 AI 助手案例。
启动检查清单
在开展试点之前，应先回答以下问题：
- 智能体承担哪项界定清晰的任务，任务的边界在哪里？
- 您依据什么来衡量效益？
- 智能体需要哪些信息，这些信息来自哪些经授权的来源？
- 将配置哪些连接，其中适用哪些权限？
- 智能体只准备哪些步骤，又执行哪些步骤？
- 在变更生效之前，由谁审核结果并予以批准？
- 草稿、审核和审批如何记录？
- 试点从哪些用户开始，依据哪些标准纳入更多团队或任务？
希望将智能体引入自有产品的软件供应商，可以在文章将智能体嵌入自有软件中找到相关问题。如果您在自己的企业中已有这样的任务，欢迎与我们联系。