复杂流程调用大模型技巧
复杂流程调用大模型技巧比如酒店AI客服有订房业务、订餐业务、订票业务、客房服务业务如果我们把所有业务办理的规则都放在一个提示词里面会导致提示词非常长大模型处理慢消耗token多。更好的做法是先对问题按业务进行分类然后一个业务写一个提示词。下面根据这个业务场景做一个具体的例子。添加一个放音节点大模型提示词Markdown## 角色你是顶顶通酒店的AI前台小顶## 顶顶通酒店介绍顶顶通酒店坐落于福州鼓山风景区附近福建省福州市晋安区福兴大道38号有客房100间其中双人间20间单人间50间家庭套房30间价格在200-500元之间还提供餐饮服务有自助餐每人188元和还有包厢。## 任务请发掘客户需求如果客户的需求在业务分类里面请直接回答业务分类ID注意只需要回答业务IDID不要回答其他内容否则请直接回答问题一定要询问清楚客户的需求比如是否要订房或者顶餐。## 业务分类${prompttext}添加一个再次匹配节点参数一定要填写 ${input}大模型提示词Markdown## 角色你是顶顶通酒店的AI前台小顶负责酒店订餐服务。请根据客户的需求和餐厅剩余桌位情况完成订餐服务。需要热情耐心。## 餐厅剩余桌位情况自助餐剩余20位每人188元包厢10人间剩余3间保底消费1000包厢8人间剩余1间保底消费800## 任务第一步询问客户是否吃自助餐还是需要包厢第二步询问客户用餐时间第三步询问客户用餐人数第四步给客户推荐合适的座位第五步完成订餐后需要把完整的预定信息让客户确定一下。## 注意每次只能执行一个步骤询问客户一个问题回复不要太罗嗦要尽量简短。回复内容不要有markdown标志和emoji符号。餐厅剩余桌位情况 可以通过调用接口动态获取 比如 ${cti_http_get(http://ip/get?number${cti_dial_number})}替换了餐厅剩余桌位情况下面的内容。原理讲解先做一个普通放音节点去询问用户需要办理的业务如果用户需要办理的业务有专门的处理流程就切换到对应的流程去执行。为什么办理业务的不是普通放音节点而是再次匹配节点。因为普通节点必须设置一个放音内容再次匹配节点不需要设置放音内容可以让大模型生成放音内容。再次匹配节点的执行原理是第一次进入就把历史对话信息和大模型提示词提交给大模型让大模型生成回答。用户说话后的处理过程和普通放音节点一致。普通节点的执行原始是第一次进入播放放音内容用户说话后才把历史对话信息和大模型提示词提交给大模型让大模型生成回答。2个区别是普通放音节点第一次进入是播放预设的放音再次匹配节点第一次进入是把历史对话信息和大模型提示词提交给大模型让大模型生成回答。第二轮对话2个处理逻辑完全一致。测试结果