“您可以自己看。”韩路一重复了一遍刚才的话。
江松然这才开始翻看。
他先点开sdpa文件夹,和论文里的实现对照,确认是同一套代码。
随后翻看别的算子实现。
看了两个之后,他皱起眉头。
“这些跑过benchmark吗?”
韩路一说:“是的,每一个算子都有对应的性能测试,和n卡cudnn的基准线对比,最低的80%,最高的91%,readme里都有完整数据。”
江松然没想到能从hr嘴里听到这么专业的回答,心里对这个年轻人更认可了几分。就算是死记硬背,也说明至少在公司产品上花过足够精力。
他打开readme查看,确实都有对应数据,可信度又高了些。
“多卡通信验证了吗?”
“现在只跑过4卡和8卡,all-reduce也是我们自己写的新实现。”
这么小的范围,上大规模还有挑战啊,江松然心想。
他又看提交记录:最早的在上个月,最新的在今天早晨。
这十个算子是一个月写出来的?
不,还不到一个月。
江松然震惊地抬头看向韩路一,随即又否定了自己。
不,不可能,或许是把别处的成果迁移过来,时间戳不准。
他在硅谷那家公司做过类似的事:五人的小组,一个算子平均要打磨两到三周,那还只是微调,不是重写。
“你们有多大的团队?”江松然问道。
“十几个人。”韩路一说,“再加一个ai。”
听到这个回答,江松然陷入久久的沉默。