「当然。」姜亦心微笑着说,「在这里,我们借用了从御风里面积累的经验,在用户输入之初,大语言模型就会进行意图判断,看这个输入仅仅是一个问答,还是一个需要执行的任务。」
姜亦心把手机投屏关掉,切回了幻灯片。
里面正是汤圆app以及它的智能体功能的架构示意图。
刚才那个人的提问正是姜亦心接下来要讲的内容。「如果是一个需要执行的任务,我们就会在伺服器中专门分配一个监听进程给这个请求,它会带着相关的信息和大模型进行交互。任务模型进行生成、分配,然後结果再汇总到模型来进行决策。其中用到的工具,既有我们提前提供好的,也可以根据需要由天工大模型实时生成。」
「关於它的能力范围,所有我们能调用的工具都可以使用,其中和线下联系最紧密的就是开物——现在在开物平台上的所有用户生成的app都可以选择把它开放给ai接入,刚才的两家饭店中之所以有一家可以直接预定,就是因为他们使用了开物平台。」
韩路一点了点头,这是模型生成指令,指令调度工具,工具返回结构化结果,再由模型解释给用户。
这就是源码科技通过御风探索出来的智能体最佳实践。
而自带的智能体能力,也会成为汤圆app和市面上所有的聊天机器人最大的差别。
会聊天的ai,只能和你聊天。
而汤圆这个ai,是可以帮你干活儿的。
展示会进行到这,可以说已经把汤圆app的亮点都展示出来了。
韩路一想了想,决定给姜亦心泼泼冷水。
「如果出现了模型解决不了的问题呢?如果汤圆还是给出了幻觉回答呢?我们是怎麽解决的?」
韩路一的问题问出来之後,会议室里刚刚因为餐厅预订成功而活跃起来的气氛又低落了一点儿。
是啊,汤圆模型面世之後,讨论度本来就高,这次汤圆app发布之後一定会被全网拿着放大镜看的问题。别人家的聊天机器人撒谎、骗人、胡编乱造,那是大模型天生的缺陷。
如果汤圆也撒谎、骗人、胡编乱造,那就是你故意骗人,谁让你标榜自己是「可信」的智能体来着?
姜亦心没慌,她点开了下一页幻灯片。
《错误处理与可信边界》
韩路一看着这张幻灯片,觉得自己刚才的问题也像个托。
「我们的处理方式很简单。」姜亦心说道,「能调用工具确认的,不允许凭模型记忆回答;不能确认的结果,不允许伪装成确认;执行类任务没有工具回执,不允许向用户宣称已经完成。」
「如果这样还会出错,那麽我们欢迎用户反馈,并且期待源智公司能在模型的下一次叠代中把这个问题解决掉。」