第四百一十四章 算力调度

作者:路大头 加入书签推荐本书

苏念念出门没多久,韩路一又把她发来的资料仔细看了看,给刘彧挂了个内线电话。

「帮我问一下江松然现在在不在。」

过了几分钟,刘彧回了过来:「韩总,江松然总在办公室,要我让他过来吗?」

「不用,我们过去找他。」

韩路一说完起身出门。

他现在关心的是算力的实时情况,又没让江松然提前在准备,去江松然那边,数据调取起来方便,真让他过来汇报还耽误时间。

韩路一来到江松然的办公室,江松然已经等在门外了。

「韩总。」

「走,进去聊。」韩路一说完率先进门,进门之後也没有坐,直接开口询问,「你从京城回来之後一直忙着算力的事,现在进展怎麽样了?」

江松然猜到韩路一会问这个,毕竟这既是公司战略,也是他最近的工作重心,所以提前做了点儿准备。

江松然到电脑前把实时监控的数据面板调出来:「韩总您看,现在正在运行的推理和训练集群。」

韩路一简单看过之後,迅速问出了自己最关心的问题。

「j590和龙腾2000大概能做到多少效率?」

听了这个问题,江松然的表情有点儿尴尬。

韩总看问题真准,问的恰好是现在最不好看的数据。

「从上一次跑的基准看,j590能跑到理论算力的80%,龙腾2000只有63%。」江松然说道。

只有这麽低吗?

韩路一思考了起来。

现在看,他最一开始所设想的、用中间层来聚合国产算力联盟的方向没有错,在推理方向也已经踏出了坚实的第一步,现在同意接入这一套推理框架的国产厂家就有好几个。

但是现在的问题是,这套中间层是原生适配当初矽明l100的底层硬体的,尽管工程团队在抽象化的时候已经尽量做到硬体无感知,但是有些底层实现没有就是没有,其他厂商的设计,在接入这个中间层的时候,是有性能损失的。

当然,这并不能说中间层的路线是错的,毕竟如果让各个厂商自己实现,他们连跑通都还没跑通,接入中间层是省时省力的做法,但是又必须接受性能损失,只能说鱼和熊掌不可兼。

上一章 返回目录 下一页