第二百五十三章 调研的结果

作者:路大头 加入书签推荐本书

甚至,这个问题在真实的ai训练场景、云计算调度中也是相关的。

不愧是贾老师,出的题还是这麽难度在线。

换成一般的大模型,这种题要麽是说一堆正确空洞的废话,要麽很容易跑偏设计方向。

不过汤圆确实在这方面是进行过特化训练的,因为汤圆要支持的第一个场景就是御风的调用,也是经常会遇到系统设计的问题。

韩路一拿出手机拍了张照片,把照片传到了汤圆上,汤圆开始思考。

许处长突然出言问了个问题:「韩总,前两天openai公布的那个多模态模型,可以处理视频音频的,和这个是一样的东西吗?」

韩路一解答道:「许处长,你的观察很敏锐。汤圆不是一个多模态模型,虽然我们也希望在下一步探索这个方向。多模态模型可以原生的处理其他形式的输入,例如声音、图像、视频。但是汤圆现在读图的原理是,先把图片转化成文字描述,然後再进行处理,生成回复。」

许处长点点头,没有追问。

很快,汤圆开始输出。

会议室里所有人的视线都落在大屏幕上。

【该系统的核心是「资源约束下的公平调度」。需要同时解决四个问题:租户隔离、

优先级抢占、失败语义、幂等边界。】

紧接着开始输出各种技术实现的细节。

贾教授聚精会神地看着答案,几位领导则看着贾教授。

看了一会,贾教授转过头,追加了一个问题:「如果任务执行时间不可预测,部分任务会长时间占用gpu资源,怎麽避免短任务永远排不到?」

这个问题韩路一当然知道答案,但他知道这个问题问的是汤圆。

他把问题输入对话框。

回车。

【短任务排不到,主要由於资源碎片和租约不可中断等问题,最快的解决方案是:为短任务保留小额资源池】

许处长本人也是技术出身,对这个答案是认同的,但他还是转头问了问贾教授:「贾教授,您看这个水平怎麽样?」

贾教授挤了挤一直盯着屏幕,有点儿疲劳的眼睛,说道:「不错,一般的ai做不到这种程度,比我手底下的研究生还强点儿。」

上一页 返回目录 下一页