Supported Models

DEX801 - 自定义 Lightning 类型(上)

📄 第 250 页 🎬 视频课程

课程章节介绍

同学们,我们来看看这一章要讲什么。这一章会给大家一个Agentforce支持的大语言模型——也就是LLM的完整图景,让大家知道咱们手里到底有哪些模型可以用,以及怎么用。 首先,Salesforce已经帮我们管理好了一批模型,你可以直接拿来用,不用自己折腾部署。这些模型覆盖了目前最主流的几个云提供商:有Amazon Bedrock上的,包括亚马逊自己的Nova模型和Anthropic的Claude系列;有微软Azure OpenAI上的GPT系列;还有OpenAI原厂的各种GPT模型,甚至包括了最新的O3、O4系列;另外Google Vertex AI上的Gemini系列也在里面。总之,这些模型都是开箱即用的,你不用操心底层的算力或者API,在Agentforce里点一点就能调用。 不过,有些公司可能已经有自己采购的模型实例了,也许是因为有专属折扣,或者有特殊的数据合规要求。这也没问题,我们支持“带上你自己的大语言模型”,也就是BYLLM。你可以从上面提到的这些提供商里,把自己的实例连接进来,继续在Agentforce里使用。这样一来,你既享受了平台的便利,又能复用你已有的投资。 那如果想用的模型不在上面这些提供商里,比如你自己微调了一个定制模型,或者用了一个很小众的模型,怎么办?这时候就可以用LLM开放连接器。它把支持范围扩展到了几乎任何语言模型,无论是开源的、自建的,还是某个实验室的试验品,理论上你都能接进来。也就是说,Agentforce的模型大门是敞开的,不会把你锁在固定几家。 除了能选哪些模型,这一章我们还会进一步讲到实际操作时的几个关键点。我们会聊聊模型选择的标准:什么时候该用大而全的模型,什么时候用轻量又便宜的模型。还会介绍地理感知路由,意思就是系统能自动感知用户所在的区域,然后智能地把请求路由到靠近用户、或符合当地数据法规的模型上,既快又合规。另外,对于一些还在实验阶段的测试版模型,你也能提前试用,不过我们也会告诉你测试版怎么用、有哪些风险。最后,任何模型都有生命周期,我们会讲清楚模型的弃用政策,也就是说,当某个模型要退休或者升级时,Salesforce会怎么通知你,给你多长时间切换,保证你的应用不会突然中断。 总的来说,这一章就是要让你对可用的模型资源有一个全面、清晰的了解,并且知道怎么根据实际情况做出最好的选择。好,我们先休息一下,下个小节就从这些开箱即用的模型详细看起。

关键词

Agentforce Salesforce