第一百九十二章 要不,你请示一下?

作者:路大头 加入书签推荐本书

“您可以自己看。”韩路一重复了一遍刚才的话。

江松然这才开始翻看。

他先点开sdpa文件夹,和论文里的实现对照,确认是同一套代码。

随后翻看别的算子实现。

看了两个之后,他皱起眉头。

“这些跑过benchmark吗?”

韩路一说:“是的,每一个算子都有对应的性能测试,和n卡cudnn的基准线对比,最低的80%,最高的91%,readme里都有完整数据。”

江松然没想到能从hr嘴里听到这么专业的回答,心里对这个年轻人更认可了几分。就算是死记硬背,也说明至少在公司产品上花过足够精力。

他打开readme查看,确实都有对应数据,可信度又高了些。

“多卡通信验证了吗?”

“现在只跑过4卡和8卡,all-reduce也是我们自己写的新实现。”

这么小的范围,上大规模还有挑战啊,江松然心想。

他又看提交记录:最早的在上个月,最新的在今天早晨。

这十个算子是一个月写出来的?

不,还不到一个月。

江松然震惊地抬头看向韩路一,随即又否定了自己。

不,不可能,或许是把别处的成果迁移过来,时间戳不准。

他在硅谷那家公司做过类似的事:五人的小组,一个算子平均要打磨两到三周,那还只是微调,不是重写。

“你们有多大的团队?”江松然问道。

“十几个人。”韩路一说,“再加一个ai。”

听到这个回答,江松然陷入久久的沉默。

上一页 返回目录 下一页