课程章节介绍
好,我们来看这一页,它讲的是过滤子代理。这个概念就像给你的智能助手设置一扇门,只有符合条件的人或情况,才能使用门后面的功能。
想象一下,你有个客服机器人。所有用户都能问一般问题,比如“你们几点营业?”。但查订单、退换货,那就得先验证用户身份,登录后才能用。要是涉及升级投诉,那就更严格了——不仅要登录,还得是在工作时间,不然就得排队等人工。
这套过滤机制就是干这个的:让子代理只在满足业务规则时才被允许调用。重点来了,大语言模型其实可以调用任何它能看到的推理动作,即使你在提示里没明说“别用这个”。所以光靠提示语约束是不够的,客户可能会故意绕过去,乱用功能。我们得从权限层面直接过滤掉那些敏感的子代理,这样最安全。
如果条件复杂,比如同时需要A和B,或者A满足就行、但C也得满足,记得用括号把条件包起来,这样逻辑才清晰,不会乱。
一句话总结:用过滤把敏感功能关在门后,别光靠嘴皮子叮嘱,那样不牢靠。