“这等于把大模型经过大量计算得出的核心逻辑和解题思路,直接喂给小模型。剔除掉那些冗长的计算过程,只保留结论。”
“经过蒸馏提纯和量化压缩后的轻量级模型,虽然无法做高深的科研推理,但应对手机端日常的意图理解和任务分发,游刃有余。”
余大嘴听明白了,两眼放光。
“这技术你们跑通了?”
顾屿没有废话,直接转头看了一眼陆知远。
陆知远从公文包里拿出一台厚重的工程测试设备。这是一台加装了散热模块的特殊测试机,屏幕很大。
陆知远当着余大嘴的面,拔掉了设备上的外接天线,又关闭了系统里的局域网开关。
顾屿把测试机推到余大嘴面前。
“设备已经处于绝对断网的物理隔离状态。”
“这里面装着的,就是那个参数量十二亿的蒸馏版测试模型。”顾屿指了指屏幕上的输入框,
“现在它连不上网,没法帮你点外卖,也没法查天气。”
“但你可以试试它对复杂逻辑的理解能力。”
余大嘴来了兴致,搓了搓手,把那台厚重的测试机捧在手里。
他略微思索,在输入框里打下了一段极其日常的测试题。
【我朋友老李下周搬新家,他平时喜欢喝茶,对电子产品不感兴趣。帮我推荐三个五百块以内的乔迁礼物,并分别说明推荐理由。】
本地设备停顿了两三秒钟,屏幕上就开始快速逐行吐出文字。
【根据您的需求,为您推荐以下三款五百元以内的乔迁礼物:】
【一、景德镇陶瓷茶具套装。老李喜欢喝茶,一套全新的茶具既投其所好,又适合新家待客,价格在预算范围内。】
【二、精品茶叶礼盒。作为爱茶之人,优质的茶叶是实用且不会出错的消耗品,非常适合作为贺礼。】
【三、中式造型的室内盆景。不涉及任何电子元素,能为新居增添生机,摆在茶桌旁也非常应景。】
余大嘴盯着屏幕上的文字,逐字逐句看了一遍。