一、识别代理用例（Identify the Agent Use Case）
学完本单元，你将能够：列出构建 AI 代理的有效计划包含哪些组成部分；解释什么才是好的自主 AI 用例；为 Agentforce 定义一个自主 AI 用例。
Agentforce 快速回顾（Agentforce: A Quick Refresher）
Agentforce 让你能够部署自主 AI 代理（autonomous AI agents），为 Salesforce 平台添加一个代理层，7×24 小时支持你的员工和客户。你习惯使用的所有功能依然可用，而代理则充当桥梁，把你和这些功能在规模化场景下的全部潜力连接起来。Agentforce 包含一套创建 AI 代理的工具，以及横跨销售、服务、市场等领域的可定制用例库。这些代理了解你的业务、分析数据、做出决策、用自然语言对话，并独立执行多步骤任务。
如果你踏上了这枚 Trailhead 徽章，你大概对实施一个 AI 代理很感兴趣。首先，让我们认识一下 Coral Cloud Resorts，看看它如何用代理帮助客人创造出色的度假体验。
认识 Coral Cloud（Introducing Coral Cloud）
Coral Cloud Resorts 是一家奢华酒店集团，在世界一些最迷人的目的地经营酒店。业务技术负责人 Nora Alami 一直在 Trailhead 上试验 Agentforce，她惊讶于搭建一个自主代理是如此快速和简单。
Nora 对 Agentforce 兴奋不已，渴望 Coral Cloud 拥抱这项技术。她知道亲自动手探索 AI 代理、测试想法、看看 AI 代理能做多少事情非常重要。但 Nora 也明白，要充分利用公司最新的数字化转型，就需要明智的规划。
代理规划的组成部分（The Components of Agent Planning）
Nora 说得完全正确：规划一个代理时，你必须从多个角度去思考。
- 用例定义与范围
- 用户体验
- 数据与技术需求
- 风险与护栏
- 业务流程与代理设计
诚然，你可以在一周甚至一天内构建一个 AI 代理。但在制作原型和迭代的同时，你还必须考虑代理所做的工作及其对组织的影响。否则，你最终可能会把整个项目推倒重来，甚至根本无法部署代理。
战略性对待你的 AI 代理（Be Strategic About Your AI Agents）
规划是部署 AI 代理的关键部分，但退后一步、看清全局同样重要。Nora 知道 Coral Cloud 的所有 AI 项目都应与公司的整体 AI 战略保持一致，这一战略聚焦于业务价值和负责任的 AI 实践。但与任何 AI 项目一样，Nora 可以依靠战略性地选择正确的用例——比如回答 FAQ 这类最小可行产品（MVP）机会——在快速看到收益的同时，逐步构建 Coral Cloud Resorts 的 AI 用例。
如果你的组织还没有战略，我们建议先完成 Trailhead 上的 AI Strategy 徽章。你也可以安排演示会，亲眼看看各种可能性，帮助你探索用例。从这里开始，我们假设你已经熟悉定义 AI 愿景、组建 AI 委员会、建立 AI 治理、识别 AI 用例、构建路线图这一过程。
制定战略（Develop a Strategy）
Coral Cloud 在制定 AI 战略时，先从审视本财年的首要目标开始，让 AI 路线图与实际业务目标对齐。以下是它优先级最高的两个目标：
- 将运营成本降低 5%。
- 将客人满意度评分提升 15%。
据此，Coral Cloud 的 AI 委员会决定通过探索客户服务相关的用例来启动他们的 Agentforce 计划。AI 客服代理可以处理一系列日常咨询和任务，让客服代表腾出精力专注于更复杂、更高接触的互动。它们还能确保客人全天候都能得到快速、准确的回复。
找到正确的创意（Find the Right Ideas）
好了，现在到了有趣的部分！是时候头脑风暴 Coral Cloud 使用 Agentforce 的所有酷炫方式了。一个自主 AI 客服代理能在组织中做什么样的工作？当你开始具体地思考 AI 代理能做的工作时，你就是在为自主 AI 构思用例。
自主 AI 用例（autonomous AI use case）是 AI 技术的一种应用：AI 代理代表你的员工、客户或组织，采取一个或一系列行动来完成一个目标或「要做的工作」。
什么才是好的自主 AI 用例（What Makes a Good Autonomous AI Use Case?）
当你开始收集用例创意时，你可能会注意到，有些创意很适合自主 AI 应用，有些则不然。在评估你的用例是否适合自主 AI 时，请考虑以下问题：
- 价值（Value）：你为什么要把这项工作委托给 AI 代理？代理更快还是更准确？它会带来更好的体验吗？
- 工作（Work）：你能描述 AI 代理将要做的工作吗？你是否完全理解这项工作涉及的所有业务流程？
- 决策（Decision-making）：这项工作涉及的决策和步骤，能否在没有直接人工输入或判断的情况下完成？是否有明确界定的政策、规则和约束，可以让 AI 代理独立遵循？
- 风险（Risk）：AI 代理能否在适用于这项工作的安全、法律、伦理和监管要求范围内运行？
- 数据（Data）：数据是否能够支撑 AI 代理要做的工作？
但在做决定时，真正理解代理能做什么也很重要。正如你在 Coral Cloud 看到的那样，通常最简单的起步方式就是先构建一个代理，看看它的能力与你的实施目标如何匹配。
识别要做的工作（Identify the Jobs to Be Done）
现在 Nora 知道了什么才是好的自主 AI 用例，是时候充实 Coral Cloud 的每一个 Agentforce 用例创意，以便 AI 委员会后续评估和排定优先级。记住，规划过程的这一阶段关注的是目标，而不是技术方案。
首先，描述 AI 代理将要做的工作。许多组织使用「Jobs to Be Done 框架」来概述代理的角色和它要执行的任务。一定要深入思考这项工作及其预期成果。这是理解代理如何影响你的组织、客户和员工的关键一步。
以下是 Coral Cloud 排名前四的 Agentforce for Service 用例创意：
| 工作 / 要做的事（Job to Be Done） | 任务（Tasks） |
|---|---|
| 常规 FAQ | 回答与以下内容相关的客户咨询：度假村、设施和旅行套餐；体验和活动；餐饮；交通、停车和代客泊车；忠诚度计划 |
| 预订管理（Reservation Management） | 查看预订详情；重发行程单或确认函；预订和修改预订；添加特殊要求（如提前入住或在房间加一张婴儿床）；取消预订；为取消办理退款 |
| 体验管理（Experience Management） | 推荐体验；预订体验；修改体验预订；取消体验预订 |
| 忠诚度计划管理（Loyalty Program Management） | 为新会员注册忠诚度计划；查看忠诚度等级和积分余额；根据资格标准发放积分；兑换代金券 |
确定范围（Determine the Scope）
在识别出你想让 AI 代理做的工作之后，下一步是弄清楚「恰当的工作量」。什么范围才算合适？你的最小可行产品（MVP）应该是值得交付的最小工作单元。而且，明确定义——然后坚守——上线的验收标准至关重要。即使速赢项目，如果你反复移动目标，也很难得分。这种方法能让你验证假设、展示价值、管理风险水平，并制定 AI 方案规模化的计划。
在规划 AI 代理的过程中，你最终可能会调整范围。例如，如果某些数据需求无法满足，或存在高风险领域，你可能会决定缩小范围或降低代理的自主性。随着组织 AI 成熟度的提升，范围和自主性水平也可以随之提高。能够从一个小的用例起步、持续打磨代理的指令和它用来完成任务的数据，这一点很关键。它意味着你可以快速看到部署的收益，并随着时间推移充分挖掘这些收益。
现在看看 Coral Cloud 如何为预订管理用例确定范围。在 MVP 版本中，客服代理可以查看预订详情、重发行程单或确认函。所有其他预订管理任务都升级给客服代表。然后，在代理接下来的两个版本中，其能力逐步扩展。
| 工作 / 要做的事 | 范围（Scope） |
|---|---|
| 预订管理（Reservation Management） | 版本 1（MVP）：查看预订详情；重发行程单或确认函。 版本 2 新增能力：预订和修改预订；添加特殊要求。 版本 3 新增能力：取消预订；为取消办理退款。 |
定义业务价值（Define the Business Value）
当你完全理解 AI 代理将要执行的工作范围后，就可以确定用例的业务价值了。一定要设定具体、可衡量的目标，并聚焦于成果。但与此同时，也不要害怕直接上手！对许多企业来说，看清代理如何创造价值的最好办法，就是构建并使用一个——哪怕只是个测试代理。关于定义 AI 用例业务价值的更多信息，参见 AI Strategy 模块。
以下是 Coral Cloud 预订管理用例的业务价值，它与公司的首要目标保持一致：
- 降低呼叫量，提高工单分流率（case deflection）。
- 通过提供更快、全天候的支持，改善客户体验。
如果你需要帮助估算一个 Agentforce 项目能为组织带来的价值，可以查看 Agentforce ROI 计算器。
评估数据就绪度（Evaluate Data Readiness）
接下来，评估你的数据就绪度。AI 代理要表现最佳，必须由可信、高质量且与业务情境相关的数据驱动。所以，如果数据不足，就不要过早对一个用例兴奋不已。
例如，Coral Cloud 的首要用例之一是用 AI 客服代理回答常见客户问题。但经过初步调查，Nora 发现许多知识文章还远未达到「适合 AI」的标准：格式不一致、缺乏结构、信息过时且相互矛盾。此外，覆盖范围还有缺口——有些信息根本不在知识库中，而在一个完全不同的系统里。
Nora 知道 Coral Cloud 必须从一个数据能支撑的用例开始，所以她向 AI 委员会提议：在组织能优化其知识库以适配 AI 之前，先暂缓 FAQ 用例。
但 AI 实施不必全有或全无。Nora 深入挖掘后发现，Coral Cloud 新推出的活动（events）相关的知识文章更新得更及时，为 AI 代理提供了更高质量的数据。她建议先专门测试一个「活动 FAQ」，在客户互动的同时，公司更新更通用的文章。在这个过程中，Coral Cloud 甚至可以利用活动代理的成功来指导公司数据的改进，带来更好的回答和更满意的客户。
评估并排定用例优先级（Assess and Prioritize the Use Cases）
现在 Coral Cloud 已经定义了几个用例，其 AI 委员会可以评估这些项目的可行性和影响，然后把它们纳入 AI 路线图。
如果你的组织没有 AI 委员会，那么请确保你的业务和技术干系人对 Agentforce 用例进行评估、批准并排定优先级。关于优化待办清单时需要考虑的因素，以及可以使用的优先级框架，参见 AI Strategy 模块。
对于第一个自主 AI 项目，Coral Cloud 选择实施预订管理用例，因为它影响大、数据就绪，而且工作可以恰当地划定 MVP 范围。在下一个单元，跟随组织一起弄清楚如何设计它的新 AI 代理。
二、设计正确的解决方案（Architect the Right Solution）
学完本单元，你将能够：为你的 Agentforce 项目定义数据战略；制定把 AI 代理连接到渠道的方案；明确把对话从 AI 升级给真人客服代表的标准；规划 Agentforce 项目的安全权限；列出一些可能影响你 Agentforce 实施的 Salesforce 特定因素。
从目标到方案（From Goals to Solutions）
在上一单元，Coral Cloud 定义了其自主 AI 用例的业务目标，并识别了 AI 代理要做的工作及其「要做的事」。有了这些目标，Nora 就可以启动发现（discovery）流程，让组织收集并记录项目的需求。
关于开发代理的说明（A Note About Developing Agents）
虽然周密的规划对任何项目的成功都至关重要，但构建 AI 代理是独特的，需要更亲自动手的方式。与传统的软件开发（常见做法是大量的前期规划和发现）不同，AI 代理开发需要制作原型并持续打磨。你不能只用设计文档和电子表格来规划一个 AI 代理。
在定义项目需求的同时，你应在沙盒环境中同步构建和测试你的 AI 代理。尝试不同的方法，搞清楚什么可行、什么不可行。关键是用测试和迭代来指导你的规划和开发工作。
思考用户旅程（Think About the User Journey）
在设计任何技术方案时采取以用户为中心的方法都很重要，Agentforce 也不例外。Nora 和她的团队把代理与所有和它互动的用户之间的高层交互可视化出来。
思考用户体验能帮助你理解 AI 代理的项目需求。例如，内部用户对代理的询问往往比外部用户更宽泛、更复杂，而外部用户的需求通常更可预测。
Nora 和她的团队画出一张粗略的旅程图（journey map），标出预订管理用户体验的各个阶段和触点。如果你不熟悉旅程映射技巧，可以查看 Journey Mapping 模块。
收集技术需求（Gather Technical Requirements）
Coral Cloud 团队花时间思考了他们希望 AI 代理带来的用户体验后，就可以收集技术需求了。他们探索的主要因素有：
- 数据（Data）
- 渠道（Channels）
- 路由与升级（Routing and escalation）
- 安全控制（Security controls）
- Salesforce 考量（Salesforce considerations）
定义数据战略（Define the Data Strategy）
在上一单元，Coral Cloud 团队评估了每个用例创意的数据就绪度。他们选择预订管理用例的原因之一，就是他们的数据能支撑它。这一点至关重要，因为拥有正确的数据能极大提升 AI 代理的准确性和可靠性。
现在，Nora 需要为项目确立数据需求。Coral Cloud 使用 Salesforce 管理所有度假村的预订，采用带自定义对象的数据模型。所以她知道可以使用这些预订数据，以及任何相关的外部数据和上传的文件。
她确保审计 Salesforce 中的预订数据，评估其完整性、质量、可理解性、基数、唯一性、可访问性、时效性、安全性和治理。然后她定义项目的数据战略。
如果你不确定如何为 AI 项目创建数据战略，可以查看 AI + Data: Project Planning 模块。你也可以探索免费工具（如 AgentExchange 上的 Cuneiform），用对数据的技术分析来支撑你的直觉。
指定渠道（Specify the Channels）
在规划 Agentforce 方案时，Coral Cloud 还需要考虑 AI 代理将在哪些渠道运行。代理将如何与内部或外部用户互动？代理将如何呈现在用户面前？期望的体验是什么？
对于第一个自主 AI 用例，Coral Cloud 从它的消息渠道开始：公司网站、WhatsApp 和 Facebook Messenger。之后，Coral Cloud 还可以加入电话和电子邮件。
Coral Cloud 有一个 Experience Cloud 网站，度假村正在使用 Enhanced Chat。Enhanced Chat 支持它计划部署 AI 代理的所有渠道，所以 Coral Cloud 的 Agentforce 实施条件很好。
要记住，你可以在配置渠道之前先在沙盒中制作 AI 代理原型，以测试你对代理设计的想法。但在部署到生产环境之前，你需要确立渠道战略，并彻底测试代理在每个渠道上的表现。
何时升级转人工（When Do You Escalate?）
Nora 对于新 AI 代理能在 Coral Cloud 的网站和聊天渠道与客户互动感到兴奋。但她也知道，AI 代理在某些情况下有时需要升级给真人客服代表。升级给客服代表的一些原因可能包括公司政策、品牌要求、安全措施、风险管理或监管合规。
在规划过程中，Coral Cloud 定义了 AI 代理工作过程中所有需要人工决策和监督的方式。关于客服代表何时以及如何介入的清晰指南，能让 Nora 和她的团队在制作代理原型时更轻松地配置正确的护栏。（你将在下一个单元了解更多关于护栏的内容。）
渠道路由（Channel Routing）
说到从 AI 代理路由给客服代表，Coral Cloud 还需要思考其 Agentforce 项目会如何影响度假村当前的渠道路由方案。该组织正在使用 Omni-Channel 做智能路由和自动化，所以 Nora 已经在思考团队如何构建 AI 代理与 Omni-Channel 之间的集成。
对于这项集成，Nora 正在遵循「Deploy Your Agent to Channels」文档中的步骤。要记住，你设置渠道路由方案的方式取决于你的用例和 Salesforce 组织的配置。
建立安全控制（Establish Security Controls）
作为业务技术负责人，Nora 始终把安全放在首位，Coral Cloud 在 Salesforce 平台上构建技术方案时一贯遵循安全最佳实践。但这不只是普通的技术项目——它是 Agentforce 项目，由生成式 AI 驱动。
Nora 在网上找到了关于 Agentforce 如何使用强健的 Salesforce 安全基础设施（包括 Einstein Trust Layer）的信息。Einstein Trust Layer 使用安全网关和零留存协议来保护公司数据。这让她对新的 AI 代理的安全性放心了。
接下来，Nora 考虑需要落实哪些安全控制，以确保 Coral Cloud 的 AI 代理值得信赖。当你开始规划自己的 AI 代理时，请考虑管理员、员工、客户以及 AI 代理本身的权限和访问。
管理员访问（Admin Access）：要在 Salesforce 中创建和管理 AI 代理，你需要 Manage AI Agents 用户权限和你的代理类型所需的权限，或 Customize Application 用户权限。
员工访问（Employee Access）：如果你的用例是内部场景，员工在 Salesforce 中与 AI 代理交互，那么代理会在当前登录 Salesforce 用户的上下文中运行。标准 Salesforce 访问控制——如许可证、权限、字段级安全和共享设置——决定每个用户能访问什么。
客户访问（Customer Access）：如果你的代理部署到外部渠道（如你的网站），那么除非客户经过验证，否则你可能不希望 AI 代理代表客户执行某些操作。例如，任何访问你网站的人都可以向代理询问产品问题，但如果有人需要订单帮助，用户必须先通过身份验证。你的 Agentforce 身份验证方案的设计方式，取决于你特定用例的安全和身份识别需求。
代理访问（Agent Access）：安全拼图的最后一块是代理用户（agent user）。一些 AI 代理（如客服代理）以代理用户身份运行，该代理用户在 Salesforce 中有一个专用用户配置文件和角色。AI 代理能采取的行动取决于分配给它的权限。默认情况下，代理用户拥有一组受限的权限——从安全角度看这很棒，因为符合最小权限原则。但这也意味着，当你设置 AI 代理时，必须明确授予它完成工作所需的所有权限，否则它将无法正常工作。
Salesforce 考量（Salesforce Considerations）
如果你是 Salesforce 的现有客户，你并不是在真空中构建 AI 代理。你的 AI 代理需要与你当前的 Salesforce 配置和架构共存。以下是一些可能影响你 Agentforce 实施的 Salesforce 特定因素。
许可与开通（Licensing and Provisioning）：每个 Agentforce 项目都是独特的，所以你的项目所需的 Salesforce 产品和功能因用例而异。最好与你的 Salesforce 客户经理确认你想构建的特定 AI 代理的许可要求。
计费与用量（Billing and Consumption）：Agentforce 采用基于用量（consumption-based）的定价模型。关于用量如何计费的更多信息，参见 Resources 部分链接的文档。你也可以参考你的合同或联系客户经理。
需求（Requirements）：要使用 Agentforce，必须在你的 Salesforce 组织中启用以下产品和功能：Lightning Experience、Einstein Generative AI、Data 360。
组织与环境（Orgs and Environments）：关于你的组织和环境，需要思考几件事：这个 Agentforce 项目影响多少个 Salesforce 组织？你的沙盒环境中是否启用了 Data 360？如果你要把 AI 代理部署到消息和应用内渠道，你当前的聊天方案是什么？你想在沙盒还是生产环境中开始开发代理？大多数情况下，在创建和测试时使用沙盒能帮你节省成本。
Einstein Bots：你是否已在 Salesforce 组织中实施了 Einstein Bots？如果是：这些 bot 目前如何使用？如何衡量性能？你是否想通过生成式 AI 改进某些特定的业务成果？你是否考虑把 bot 转成 AI 代理？
现有自动化（Existing Automation）：借助 Agentforce，你的 AI 代理使用代理动作（agent actions）作为工具来完成特定任务。这些代理动作建立在现有 Salesforce 平台技术之上，如 flow、Apex 和 prompt 模板。开始盘点与你用例相关的现有自动化，看看哪些可以复用于你的 AI 代理。
Nora 已经周到地考虑了 Coral Cloud 新 AI 客服代理的需求。接下来，她的组织评估项目相关的风险，并思考护栏与治理。
三、定义代理护栏（Define the Agent Guardrails）
学完本单元，你将能够：描述帮助确保 Agentforce 可信赖的护栏；识别与你的 Agentforce 项目相关的潜在风险；为项目定义风险缓解策略。
自主 AI 的风险（The Risks of Autonomous AI）
自主 AI 代理是极其强大的工具，能为你的组织创造价值、提升客户体验。但它们也伴随着风险。这些风险包括安全威胁、数据泄露、声誉损害、财务损失、偏见、幻觉，以及透明度和问责方面的问题。
尽管存在这些风险，在你的组织中安全部署自主 AI 仍然是可能的。通过恰当的规划，加上 Salesforce 平台的帮助，你可以构建并实施一整套可信赖的 AI 代理。
值得信赖的 AI 代理（AI Agents You Can Trust）
在 Trusted Agentic AI 模块中，你了解到 Agentforce 的一个突出特点就是它对护栏（guardrails）的重视。这些护栏为每个代理定义了运营边界，勾勒出它能做什么、不能做什么。你可以用自然语言指定代理的行为准则和工作方式。
除了 AI 代理的护栏之外，Salesforce 平台内置的 Einstein Trust Layer 确保代理的行为符合你公司的安全和合规标准。它包含危害和毒性检测机制，防止代理从事不当或有害的活动。
在本单元中，跟随 Nora 与 Coral Cloud 的 AI 委员会一起，识别他们自主 AI 用例的相关风险，并制定应对这些风险的计划。
别忘了治理（Don't Forget About Governance）
Salesforce 为 AI 代理提供的护栏强大而稳健，但 Nora 意识到，并非 Coral Cloud 的所有护栏都在技术本身之中。技术之外发生的事情同样重要。
Coral Cloud 在制定 AI 战略时，团队建立了一套 AI 治理实践，这帮助他们为 AI 代理规划全面的风险缓解策略。
这里有一个 AI 治理的例子：在 Coral Cloud，AI 委员会要求所有新的 AI 项目都要经过安全审查。这是一个业务流程（而非技术功能），帮助组织防范 AI 风险。Nora 安排了安全审查，这样公司就可以开始更深入地思考项目的护栏和治理。
克服阻力（Overcome the Objections）
在一些组织中，谈论风险可能比较棘手，因为有一种看法认为风险缓解活动会拖慢开发进程。然而，提前解决风险至关重要，否则 AI 项目可能在进入生产环境之前就被叫停。
通过把风险管理整合到 AI 的设计和原型制作中，你可以加速项目，并确保它们满足必要的伦理、法律、监管和安全要求。如果你学会为一个用例管理风险，你就能迅速把这些经验外推到下一个、再下一个用例。
用较少技术性的语言解释代理是什么、它能为你的业务做什么，能帮助你打下坚实的基础。这个基础可以应用于未来的项目，确保后续的 AI 实施更顺畅、更成功。
如何组织风险对话（How to Frame Conversations About Risk）
那么，你该如何展开关于风险的对话？我们推荐使用 People、Business、Technology、Data 框架，许多组织对它可能并不陌生。这些类别和考量可以帮助你梳理与 Agentforce 项目相关的可能风险和关切。
| 类别（Category） | 考量（Considerations） |
|---|---|
| 人（People） | 赋能：角色与职责、招聘、培训与技能提升 文化与实践：以人为本的 AI 设计、变革管理、采用 |
| 业务（Business） | 价值：收益、目标、KPI 与指标 运营：组织架构、能力管理、流程与工作流、AI 治理、DevOps 战略 |
| 技术（Technology） | AI 工具：AI 基础设施、应用、API、prompt、安全防护 AI 模型：模型选择、训练考量、管理、成本 |
| 数据（Data） | 质量：适用性、准确性、完整性、可访问性、时效性等 战略：数据管理、基础设施、治理、分析 |
识别风险与关切（Identify Risks and Concerns）
Nora 用这个框架来讨论与 Coral Cloud 预订管理用例相关的风险和关切。Coral Cloud AI 委员会的干系人为每个类别识别出风险和关切。请注意，这份清单并非穷尽，每个用例都有自己独特的风险和关切。
| 类别（Category） | 风险（Risks） |
|---|---|
| 人（People） | 排斥：客户因为不信任代理或不确定是否被允许使用 AI，而不愿与代理交流。 滥用：客户对代理有敌意或试图操纵它。 文化：对 AI 可能影响服务岗位的担忧影响员工士气。 |
| 业务（Business） | 契合度：代理的范围与业务组织或团队流程不匹配。 报告：引入 AI 代理承担部分工作后，团队现有 KPI 失效。 激励：薪酬与奖励结构因代理工作分流而受影响。 运营：升级流程不清晰、低效或令人沮丧。 代理表现：合适的公司政策未能正确影响 AI 代理的回复。 |
| 技术（Technology） | 准确性：幻觉降低回复质量，或知识不完整。 可靠性：代理生成回复的差异性过大。 审计：技术运营无法追踪代理回复的准确性。 延迟：代理无法及时响应。 |
| 数据（Data） | 访问：数据权限未被理解或执行；数据可能暴露给客户。 隐私：所需数据无法按隐私政策使用。 合规：不清楚是否有客户合同约束适用于数据；例如数据不能离开客户所在国家。 适用性：数据与代理目标不一致，或数据权利与用例不匹配。 伦理：模型数据中的偏见可能生成不当回复。 |
在 Nora 的案例中，你可以看到她公司知识文章的局限性会如何影响她的采用策略。但 Coral Cloud 也可能遇到列出的许多风险。毕竟，如果代理在回复中不遵循度假村的政策，或者员工无法追踪代理有多有用，那么要交付五星级体验就不容易了。
定义风险缓解策略（Define Risk Mitigation Strategies）
现在 Coral Cloud 的 AI 委员会已经梳理了风险和关切，Nora 和她的团队可以为每项风险头脑风暴缓解策略。在他们想出潜在护栏时，会给每个护栏分类，标明它属于人、业务、技术还是数据。
以下是 Coral Cloud 已识别的两项风险的潜在护栏示例。
| 风险类别 | 风险 | 潜在护栏（Potential Guardrails） |
|---|---|---|
| 人（People） | 客户排斥：用户因为不信任代理而不愿与它交流。 | 人护栏：制定沟通策略并为客户开展教育简报。 技术护栏：把代理设计为透明地表明自己是 AI。 技术护栏：为代理配置欢迎语，正确设定对其能力和协助范围的预期。 |
| 业务（Business） | 升级问题：从代理到客服代表的人工交接不一致、低效或令客户沮丧。 | 业务护栏：定义从 AI 到客服代表升级的标准和情境。 技术护栏：配置 Agentforce，使代理之前的交互摘要被移交给客服代表。 技术护栏：在代理说明中清晰描述应触发升级的关键词、语言或请求。 |
Nora 已经计划好了如何缩小预订管理实施的范围。但她还可以采取措施，为询问业务的客户设定正确的预期。在这种情况下，这或许意味着在代理的欢迎语中加入一条免责声明，说明它旨在回答预订相关问题，并附上一个指向其他服务信息最佳获取渠道的指引。
记录并实验（Document and Experiment）
当 Nora 和 AI 委员会完成风险缓解练习后，他们会记录用例的风险和护栏。记录 Coral Cloud 的风险缓解活动，对监管合规很重要，对内部审计也很有用。
要记住，迭代与记录同样重要。为了确保你的技术护栏有效，深入沙盒环境，试着在 Agentforce 中配置这些防护措施。亲自动手，测试护栏在不同场景下的表现。这种方法能帮你及早发现任何缺口或问题，并做出必要调整。通过把文档与实际实验结合起来，你可以为 AI 代理制定出风险缓解策略。
有了初步的治理计划，Nora 准备进入项目的另一个重要组成部分：描述 Coral Cloud 代理将要做的工作。
四、概述代理的工作（Outline the Agent's Work）
学完本单元，你将能够：解释什么是业务流程映射；描述为什么流程映射是设计 AI 代理时的有用工具；列出关于受 Agentforce 用例影响的每个业务流程要问的一些问题。
把用例转化为 AI 代理（Translating a Use Case into an AI Agent）
Coral Cloud 团队在他们的 AI 代理上进展顺利。他们定义了 Agentforce 用例，考虑了项目的技术需求，并制定了一些风险缓解策略。但团队如何把他们的自主 AI 梦想变为现实？
如果你做过 Become an Agentblazer Champion trail 中的任何动手挑战，你就知道该在哪里搭建 AI 代理。没错：在 Agentforce Builder 中。
Nora 和她的项目团队在 Agentforce Builder 中试验，并在沙盒中制作原型方案。他们深入思考 AI 代理要做的工作，以及如何让代理可靠、准确、安全地执行这些工作。正如 Coral Cloud 不会在没有入职培训的情况下聘用新员工一样，度假村也不应该部署一个无法遵循其业务流程的 AI 代理。
你的工作是基础（Your Work Is the Foundation）
Coral Cloud 项目团队在定义自主 AI 用例时，识别出了主要的「要做的工作」：预订管理。他们还列出了与该工作相关的任务和流程：
- 查看预订详情。
- 重发行程单或确认函。
- 预订和修改预订。
- 添加特殊要求，如提前入住或在房间加一张婴儿床。
- 取消预订。
- 为取消办理退款。
但如果 Coral Cloud 团队想把这些工作委托给 AI 代理，那么这些流程必须被明确定义。可以想象，如果组织无法描述这些工作是如何完成的，那几乎不可能配置一个 AI 代理去做。Coral Cloud 定义这些工作的一种方式，就是映射所有与预订管理相关的业务流程。
什么是流程映射（What Is Process Mapping?）
流程映射（process mapping）是对业务流程中各个步骤的可视化表示，展示它从头到尾是如何完成的。通常用一张图（流程图、泳道图或其他可视化形式）来描绘步骤及其顺序。流程的关键部分在图中都有体现，比如步骤何时以及如何开始和结束，需要哪些输入和数据。
组织使用流程映射来做持续改进、促进透明度和沟通、遵循审计法规和标准等事情。但流程映射恰好也是设计 AI 代理行为的有用工具。
面向 AI 代理的流程映射（Process Mapping for AI Agents）
在概述你想委托给代理的业务流程时，请考虑以下问题：
- 用户试图完成什么目标？
- 用户可能会如何表达他们的目标或意图？他们会怎样措辞自己的问题或请求？
- 实现这个目标涉及哪些流程？
- 每个流程何时开始、何时结束？需要采取哪些步骤？以什么顺序？
- 哪些公司政策、规则和指南适用于该流程？哪些护栏与每个步骤相关？
- 在流程的哪些节点做出决策，以及如何做出？
- 代理可能需要问哪些澄清或后续问题？
- 在某个步骤继续之前，用户需要在什么时候确认什么？
- 需要哪些数据？哪些是可选的？
- 你需要从用户那里收集哪些输入？这些输入是否需要特定格式或语法？
- 每个步骤或流程的成果是什么？输出如何被使用？成功如何衡量？
- 是否存在与用户交流时应使用特定措辞的情况？
- 哪些问题或对话路径绝不应该被追问？
- 在什么条件下，对话应该升级给真人客服代表？
Coral Cloud 团队决定不为每个业务流程创建正式的图表。但在制作代理原型时，他们努力回答上述问题，这样项目团队就有了设计和迭代方案所需的信息。
代理的构建块（The Building Blocks of an Agent）
现在 Coral Cloud 对与 Agentforce 用例相关的业务流程有了更好的理解，Nora 和她的团队可以在 Agentforce Builder 中迭代 AI 代理的构建块——它的子代理（subagents）、动作（actions）和指令（instructions）。借助这些构建块，Coral Cloud 可以把它的业务流程转化为代理的设置。
代理如何工作（How Agents Work）
在 Coral Cloud 深入原型制作之前，这里简要回顾一下代理是如何工作的。代理由子代理（subagents）组成，子代理定义了代理能做的不同工作。子代理包含自然语言指令，告诉代理如何做决策、应该做什么、不应该做什么。
子代理还包含一组动作（actions），这些是代理用来完成工作的工具。例如，一个 Order Management 子代理可能包含这些动作：按订单 ID 获取订单；按邮箱地址获取订单；查看退货状态；创建退货标签。
但这些构建块如何在与 AI 代理的对话中协同工作呢？当用户输入一个问题或请求时，代理会挑选最相关的子代理，然后启动该子代理中包含的一个或多个动作。这让代理专注于最适合当前对话的任务和数据。
标准 vs 自定义（Standard Versus Custom）
Salesforce 为 Agentforce 开箱即用地提供了一些标准子代理和动作，让你可以快速上手。但你也创建自定义子代理和动作，为 AI 代理赋予额外能力，让它执行你业务特有的任务。
Nora 浏览了标准动作库，看看有没有适合 Coral Cloud 预订管理用例的开箱即用功能。她没有找到合适的东西，所以她的团队在自主 AI 项目上必须走自定义路线。
在下一个单元，跟随 Coral Cloud 一起设计和迭代它的自定义动作与子代理。
五、制作代理原型（Prototype the Agent）
学完本单元，你将能够：为你的 Agentforce 用例设计一个自定义子代理；为你的代理动作规划 flow、Apex 和 prompt 模板；解释设计参考动作的一些考量。
如何制作原型（How to Prototype）
Nora 和她的项目团队一直在构建 AI 代理，并在沙盒环境中试验，同时开展 Agentforce 项目的规划活动。在本单元中，我们走一遍团队的方法，这样你就可以亲自动手，开始迭代你自己的方案。
首先，看看 Nora 如何设计 Coral Cloud 为预订管理用例创建的子代理。
为对话搭好舞台（Set the Stage for the Conversation）
子代理是 Agentforce 的重要组成部分，因为子代理定义了 AI 代理的目标，并提供了它达成该目标所需的上下文和方向。
当用户开始与 AI 代理聊天时，Agentforce 的大脑——它的推理引擎——会与后台的大语言模型（LLM）协作，消解对话中的任何歧义，并确定用户的意图。然后代理进入被定义为起始子代理的子代理。默认情况下，这是 Agent Router，一个特殊的子代理，它根据最近的对话历史以及代理可用的子代理，引导代理选择一个子代理。
设计子代理（Design the Subagent）
Agentforce 有内置工具帮助你设计子代理，但 Nora 也可以从开箱即用的子代理中选择，并编辑任何现有子代理。在回顾了子代理的不同组成部分后，Nora 可以轻松地构思它的名称、描述和指令。
名称（Name）：子代理的名称应该反映它「要做的工作」。对于 Coral Cloud 的用例，预订管理被识别为「要做的工作」，所以新子代理的名字就是 Reservation Management。当一个代理有多个子代理时，确保名字不要过于相似，否则推理引擎将无法区分它们。
描述（Description）：描述用 1-3 句话说明子代理做什么，以及哪些类型的用户请求应该归入这个子代理。换句话说，描述说明了哪些用户消息应该触发这个子代理。以下是 Coral Cloud 描述的第一版：「回答与客人酒店预订、确认函或旅行行程相关的问题和请求。」
默认情况下，名称和描述字段与 Agent Router 一起用于决定在对话中何时使用某个子代理。代理会把分配给它的所有子代理的名称和描述，与用户的问题或请求以及最近的对话历史做比较。基于该上下文和 Agent Router 中的指令，代理选择最佳匹配。请记住，子代理路由行为是可以自定义的。
当 Coral Cloud 在子代理的第二版中扩展代理能力时，项目团队可以更新描述，加入额外的「要做的工作」：修改和创建预订。
指令（Instructions）：指令（有时称为推理指令）是告诉代理在子代理的上下文中如何处理对话的准则。指令包含程序化逻辑（用 Agent Script 编写）和自然语言 prompt 的组合。程序化逻辑严格定义代理的工作流和业务规则，以便在需要时遵循一个定义明确、可预测的路径。自然语言 prompt 更灵活地引导代理的对话技能。
例如，Coral Cloud 子代理的一条自然语言指令可能是：「在最终确定任何变更之前，始终与客人确认预订修改的细节。」但有时 Coral Cloud 不希望给 LLM 任何误解指令的机会。例如，与其添加「除非在入住日期前 2 天内取消，否则不退款」这样的 prompt，Coral Cloud 可以在指令中写一个程序化表达式来评估退款标准。
在制作代理原型时，我们建议最后再构思子代理指令。如果你不知道在动作中内置了多少逻辑、又让代理自己完成多少决策，你就无法写出有效的指令。
是时候行动了（Time for Action）
现在 Coral Cloud 已经充实了他们的 Reservation Management 子代理，他们开始考虑为该子代理添加合适的自定义动作。值得庆幸的是，Coral Cloud 在上一单元已经定义了与酒店预订相关的业务流程，其中许多业务流程会转化为自定义动作。但他们该如何构建这些自定义动作呢？
自定义动作的好消息是，你不需要凭空创建它们。事实上，自定义动作建立在你已经熟悉并喜爱的 Salesforce 技术之上。当你创建自定义动作时，你把它构建在你想要在 Agentforce 中提供的现有平台功能之上：可调用和 REST Apex 类、自动启动 flow、prompt 模板、外部服务和 MuleSoft API。
在 Agentforce 中，我们把底层功能称为参考动作（reference action），这是从你的 Salesforce 平台能力中榨取更多价值的好方法。
参考动作的设计考量（Design Considerations for Reference Actions）
那么，Coral Cloud 设计代理动作底层参考动作的方法是什么？以下是团队考虑的一些因素。
确定性还是基于 prompt（Deterministic or Prompt-Based）：在开发代理动作的底层平台功能时，先回顾与用例相关的业务流程和任务。然后决定该流程或任务应该是确定性的还是基于 prompt 的。
- 确定性（Deterministic）：使用可调用或 REST Apex 类，或自动启动 flow 来生成输出。基于 flow 或 Apex 的动作是确定性的，用业务逻辑和规则产生一致的结果。
- 基于 prompt（Prompt-based）：使用一个或多个 prompt 模板生成输出。基于 prompt 的动作让你控制回复的写法，或使用 LLM 的推理和生成能力。例如，要生成摘要或做情感分析，你需要用 prompt 模板作为参考动作。prompt 模板也用于让代理基于数据（如知识库或外部系统数据）进行 grounding。
请记住，一个动作可以结合确定性和基于 prompt 两种方法。例如，当客人取消预订时，一个基于 flow 的动作被触发来完成取消。在该 flow 的某个节点，代理也可以遵循一个 prompt，询问客户取消的原因。如果客户说明了特定的取消原因，代理甚至可以把客户的回复总结出来供审阅。久而久之，Coral Cloud 可以用这种结合的方法更好地理解和应对影响客户的问题。它可以调用一个 prompt 模板，发送取消确认邮件，附带个性化优惠，吸引该客户未来再次预订。
原子还是复合（Atomic or Composite）：另一个要考虑的因素是参考动作是原子的还是复合的。
- 原子（Atomic）：一个小的、单一的任务。模块化方法给代理自由，让它以不同方式组合动作来完成更复杂的目标。它也往往提供更多跨不同子代理复用动作的机会。
- 复合（Composite）：由多个子任务组成的复杂任务。复合动作的好处是，你可以精确控制代理完成任务所采取的步骤顺序。
输入与输出（Inputs and Outputs）：在 Agentforce 中，每个代理动作必须至少有一个输入，这意味着底层 flow、Apex 或 prompt 模板也必须至少有一个输入。例如，要查询酒店预订，输入可能是客人的邮箱或预订号。在对话中，AI 代理有自主权收集信息，并判断它是否已经具备触发动作、传入输入所需的全部细节。
每个动作还必须至少有一个输出。你构建动作的方式决定了输出是什么、如何使用，以及是否以及如何在对话中向用户展示。也不要害怕试验尚未完全实现的测试动作——它们是看你的想法在实操中如何运转的好方法。
Coral Cloud 的参考动作（Coral Cloud's Reference Actions）
在考虑业务流程和设计 Apex、flow、prompt 模板的不同方式后，Coral Cloud 项目团队为 Reservation Management 子代理提出了这些参考动作：
- 按邮箱获取预订（Get Reservation by Email）：一个 flow，用客人的邮箱地址查询现有预订。
- 按号码获取预订（Get Reservation by Number）：一个 flow，用预订号查询现有预订。
- 发送预订确认（Send Reservation Confirmation）：一个 Apex 类，向客人发送包含其预订详情的确认邮件。
- 创建或更新预订（Create or Update Reservation）：一个 flow，如果预订不存在则创建新预订；如果存在则更新记录。
- 取消预订（Cancel Reservation）：一个 flow，取消现有预订。该 flow 调用一个 prompt 模板，发送带个性化优惠的取消确认邮件，以促进未来预订。
- 发起退款（Initiate Refund）：一个 flow，在满足某些条件时处理预订取消的退款。
从参考动作到代理动作（From Reference Actions to Agent Actions）
为你的用例创建所有必要的 flow、Apex 或 prompt 模板可能需要一些时间，但把它们转成自定义代理动作就轻而易举了！
当你创建自定义动作时，动作标签和 API 名称会用现有参考动作的名称和 API 名称自动填充。自定义动作的指令以及每个输入和输出，也会用参考动作的描述自动填充。
动作指令告诉 AI 代理某个特定动作做什么、何时触发它。写得好的指令能确保动作被一致、准确地使用。
Coral Cloud 现在有了一组用例动作，项目团队把它们分配给一个子代理。现在他们准备测试原型并打磨它的构建块。
评估性能（Evaluate the Performance）
在 Agentforce 中配置好原型后，测试并查看 AI 代理的表现很重要。你有两种测试 AI 代理的方式：
- 在 Agentforce Builder 中手动测试。
- 在 Testing Center 中批量测试。
Coral Cloud 团队用用户可能提出的关于酒店预订的问题和请求来测试 AI 代理。然后他们回答这些问题：
- 代理是否能准确理解用户输入？
- 它是否启动了正确的动作？
- 它是否提供了有用、准确的回复？
- 它是否正确执行业务流程，并遵守公司政策和规则？
基于测试结果，Coral Cloud 团队打磨他们的子代理指令，并持续迭代 AI 代理。还要记住：如果你在测试过程中遇到错误，一定要检查 AI 代理的权限。
收尾工作（The Finishing Touches）
在打磨原型时，Coral Cloud 团队还有一些事项需要从待办清单上划掉：
- 自定义标准的升级子代理，以便在必要时把对话路由给真人客服代表。
- 构建身份验证方案，验证与 AI 代理交互的用户。
- 把 AI 代理连接到客户渠道。
当 Nora 和她的团队达到 AI 代理在 Coral Cloud 沙盒环境中可靠、准确运行的程度时，他们就会制定把 AI 代理推广到生产环境的部署计划。然后他们监控代理，帮助他们持续改进和迭代代理的设计。
坚实基础（A Strong Foundation）
现在你知道，规划和设计 AI 代理的关键在于打下坚实的基础。你需要识别用例和目标，思考数据战略，考虑用户体验，并概述项目的技术需求。应对潜在风险、定义业务流程，确保 AI 代理符合组织的运营、安全、法律、伦理、监管要求。
不要犯对代理设计采取瀑布式方法的错误。也就是说，你不必用线性的、分阶段的计划来开发和部署。在你从所有必要角度考虑 Agentforce 方案的同时，亲自动手，在沙盒环境中开始制作 AI 代理原型。这样，你就不会在一份最终可能行不通的计划上投入太多前期时间。通过把周密规划与持续实验结合起来，你可以推出一个可信赖的 AI 代理，为你的组织释放变革性的价值。