苏念念出门没多久,韩路一又把她发来的资料仔细看了看,给刘彧挂了个内线电话。
「帮我问一下江松然现在在不在。」
过了几分钟,刘彧回了过来:「韩总,江松然总在办公室,要我让他过来吗?」
「不用,我们过去找他。」
韩路一说完起身出门。
他现在关心的是算力的实时情况,又没让江松然提前在准备,去江松然那边,数据调取起来方便,真让他过来汇报还耽误时间。
韩路一来到江松然的办公室,江松然已经等在门外了。
「韩总。」
「走,进去聊。」韩路一说完率先进门,进门之後也没有坐,直接开口询问,「你从京城回来之後一直忙着算力的事,现在进展怎麽样了?」
江松然猜到韩路一会问这个,毕竟这既是公司战略,也是他最近的工作重心,所以提前做了点儿准备。
江松然到电脑前把实时监控的数据面板调出来:「韩总您看,现在正在运行的推理和训练集群。」
韩路一简单看过之後,迅速问出了自己最关心的问题。
「j590和龙腾2000大概能做到多少效率?」
听了这个问题,江松然的表情有点儿尴尬。
韩总看问题真准,问的恰好是现在最不好看的数据。
「从上一次跑的基准看,j590能跑到理论算力的80%,龙腾2000只有63%。」江松然说道。
只有这麽低吗?
韩路一思考了起来。
现在看,他最一开始所设想的、用中间层来聚合国产算力联盟的方向没有错,在推理方向也已经踏出了坚实的第一步,现在同意接入这一套推理框架的国产厂家就有好几个。
但是现在的问题是,这套中间层是原生适配当初矽明l100的底层硬体的,尽管工程团队在抽象化的时候已经尽量做到硬体无感知,但是有些底层实现没有就是没有,其他厂商的设计,在接入这个中间层的时候,是有性能损失的。
当然,这并不能说中间层的路线是错的,毕竟如果让各个厂商自己实现,他们连跑通都还没跑通,接入中间层是省时省力的做法,但是又必须接受性能损失,只能说鱼和熊掌不可兼。