Models 和 Prompts 功能总览
Einstein 平台提供了强大的工具来配置和使用大语言模型：Salesforce 托管模型默认启用、Models API 让你通过 Apex 和 REST 访问不同模型、Prompt Builder 帮助你创建和管理提示模板、BYOLLM 可连接外部模型、LLM Open Connector 支持任意自定义模型。
四大核心组件
| 组件 | 功能 |
|---|---|
| Prompt Builder | 创建和管理提示模板：集成 CRM 数据（merge fields、flows、related lists、Apex）、设计 → 测试 → 修订 → 自定义、安全连接数据与 LLM |
| AI Models | 配置和测试 AI 模型：Salesforce 托管模型默认启用、Playground 环境测试、BYOLLM 连接外部 OpenAI/Azure/Vertex AI/Bedrock 模型、LLM Open Connector 托管任意自定义模型 |
| Models API | 通过 Apex 和 REST 程序化生成文本、对话和嵌入向量：访问任意 AI Models LLM、支持 Anthropic/Google/OpenAI 模型、构建 LWC 和 Flow |
| Agentforce 模型选择 | Salesforce Default（托管混合信任模型，当前为 GPT-4o）或 AWS-Hosted（Amazon Bedrock 上的 Anthropic Claude Sonnet 4） |
支持的模型
Salesforce 托管的模型覆盖四大提供商，开箱即用。BYOLLM 让你连接自己的模型实例，LLM Open Connector 则支持任意自定义模型。
Salesforce 托管模型——按提供商
Amazon Bedrock（Salesforce 信任边界内——完全在 Salesforce 基础设施内运行）
- Amazon Nova Lite / Nova Pro
- Anthropic Claude: Haiku 4.5 / Sonnet 4.5, 4.6 / Opus 4.5, 4.6, 4.7, 4.8
- NVIDIA Nemotron 3 Nano 30B (Beta) / Super 120B (Beta)
OpenAI / Azure OpenAI（Geo-aware——自动路由到最近数据中心）
- GPT-4o / GPT-4o Mini、GPT-4.1 / GPT-4.1 Mini
- GPT-5 / GPT-5 Mini / GPT-5.1 / GPT-5.2 / GPT-5.4 / GPT-5.4 Mini (Beta) / GPT-5.5 (Beta)
- O3 / O4 Mini
Vertex AI（Google）
- Gemini 2.5 Flash / Flash Lite / Pro
- Gemini 3 Flash / 3 Pro (Beta) / 3.1 Flash Lite / 3.1 Pro (Beta) / 3.5 Flash
嵌入模型（仅 Models API）
- Azure OpenAI Ada 002 / OpenAI Ada 002
API 名称模式：sfdc_ai__Default<Provider><ModelName>。如 sfdc_ai__DefaultBedrockAnthropicClaude45Sonnet。
Beta 模型：正在测试的新模型，有较低速率限制，可能不是在所有区域都可用。名称中有 (Beta) 后缀。建议仅在 Sandbox/开发组织中使用。
Salesforce 信任边界：Bedrock 上的 Anthropic 和 Amazon 模型完全在 Salesforce 基础设施内运行。其他模型由合作伙伴在共享信任区域运营或通过 BYOLLM 使用。
BYOLLM、LLM Open Connector 和模型选择
Bring Your Own LLM (BYOLLM)
- 连接你自己的 Amazon Bedrock / Azure OpenAI / OpenAI / Vertex AI 模型实例
- 使用你自己的凭据；推理由提供商处理
- 请求仍通过 Models API 路由——Trust Layer 功能完全支持
- 相比其他模型消耗 Einstein Requests 积分减少 30%
LLM Open Connector
- 连接任意语言模型——自定义构建、开源或专有
- API 规范基于 OpenAI API 设计，便于使用
- 社区驱动：支持 IBM Granite、Databricks DBRX 等
- GitHub：salesforce/einstein-platform（规范和示例）
模型选择四大标准
| 标准 | 评估维度 |
|---|---|
| 能力 | 模型能做什么？高级模型处理更多任务（成本更高/速度更慢）。复杂指令遵循是关键指标 |
| 成本 | 参考 Agentforce and Generative AI Usage and Billing |
| 质量 | 从 LMSYS Chatbot Arena 的人类评估开始 |
| 速度 | 考虑延迟和吞吐量需求 |
上下文窗口注意事项
- 决定每次请求的输入+输出 Token 容量
- 启用数据脱敏（Trust Layer）时限制为 65,536 Token
- 关闭数据脱敏可使用完整上下文窗口
基准测试资源：Artificial Analysis（聚合 LLM 性能数据）、LLM Benchmark for CRM（Salesforce AI Research）、LMSYS Chatbot Arena（人工评分）、MTEB Leaderboard（嵌入模型）、SEAL Leaderboard（Scale AI 私有数据集）。
Geo-aware、Beta、弃用和重路由
Geo-aware（地理感知）模型
- 自动将 LLM 请求路由到最近的数据中心
- 基于 Data 360 配置区域
- 最小化延迟（标记为 Geo-aware 的模型）
模型弃用流程
提供商逐步淘汰旧版本：公告 → 关闭日期 → 重路由到替代模型。一旦公告弃用，就应该开始迁移。在关闭日期之后，对已弃用模型的请求会自动重路由到替代模型。
重路由示例
| 已弃用模型 | 替代模型 |
|---|---|
| Claude 3 Haiku | Claude Haiku 4.5 |
| Claude 3.7 Sonnet | Claude Sonnet 4.5 |
| Claude Sonnet 4 | Claude Sonnet 4.6 |
| GPT 3.5 Turbo | GPT 4 Omni Mini |
| GPT 4 / GPT 4 Turbo | GPT 4 Omni |
| Gemini 2.0 Flash | Gemini 2.5 Flash |
| Gemini 2.0 Flash Lite | Gemini 2.5 Flash Lite |
Salesforce 自有模型
Salesforce AI Research 为特定 CRM 用例创建、训练和微调模型（如 EinsteinHyperClassifier）。模型公告是每月 Einstein 平台发布说明的一部分。
从 Salesforce 托管模型到 BYOLLM 再到 LLM Open Connector，Einstein 平台为你提供了从开箱即用到完全自定义的完整模型灵活度。合理选择模型并关注生命周期管理是构建可靠 AI 应用的关键。