第一百九十九章 五百卡?起步

作者:路大头 加入书签推荐本书

下午,韩路一终于见到了第一天入职的江松然。两人在十三楼找了间空会议室。

简单客套两句,江松然便问起工作:“韩总,今天上午赵总带我看了一遍进度。说实话,我很震惊——比你在医院给我看的那些成果更惊人。”

韩路一清楚,江松然已经看过源智科技借助智能体能达到什么效率。那是短时间追赶英伟达cuda生态、把不可能变成可能的关键。拿出几个算子适配成果,很牛,却改变不了行业;拿出一个能稳定、快速完成算子适配的系统,情况就完全不同。江松然的眼界,能看出这意味着什么。

同时,韩路一也好奇:江松然作为aiinfra专家,能给源智科技带来什么?大方向他已经想好,要做到两点。

一是拥有自己的训练和推理栈——数据跑在别人的云上,他不放心。

二是推进国产化替代。这是一举两得:英伟达的卡因种种原因,他根本买不到;他也有能力、有动力率先完成算力国产化替代。真做到了,不只自己的数据中心问题解决,还能打开更广阔的国内政企市场。

方向定了,具体实施仍需要真正在这个行业里做过的人。这也是江松然对源智科技如此重要的原因。

江松然是行业大佬,技术深厚不假,但他对源智科技最大的价值还在另一点:此前那家创业公司里,他做过一号员工和高管,有过把数据中心从零到一搭起来的经历,经验横跨软件和硬件。这样的人才,远比一个技术大牛稀缺。

可以说,他对源智的重要性远高于对鼎盛、昆仑的重要性。大云服务供应商已有丰富的数据中心管理经验,江松然去了,顶多带来一些新视角,在某些方面有所提升,却难有本质突破。可他来到源智科技,直接填补了源智在硬件管理上的空白。

所以韩路一才这么慷慨,直接给了2%的期权奖励。这可是视哥认证的金色传说!江松然可能赚了,韩路一绝对不亏。

既然江松然提起,韩路一便直接问:“江博士,我们现在要尽快拥有自己的推理栈和训练栈。一期计划五百张卡,这个采购量在国产卡里不算大,哪家都拿得出来;但具体从哪买、买来能做到什么程度,我还想听听你的意见。”

这个数字,韩路一在医院时就透露过;江松然也早做准备——他知道入职后韩路一一定会问,他不打无准备之仗。

“韩总,我回去看过。现在市面上最先进的国产卡能做到400tflops。如果只是推理,五百张支撑十万日活绰绰有余。”江松然说,“基于标注数据的后训练,勉强也能做。但要做预训练,远远不够。”

tflops(teraflops,trillionfloating-pointoperationspersecond)是衡量计算机算力的单位,中文是“每秒一万亿次浮点运算”。gpu的强项就是浮点数学运算;若把每块gpu比作一辆跑车,tflops就是仪表盘上的最高时速。

用n卡体系举例:游戏玩家的梦中情卡rtx5090在ai实际使用精度下大概能做到200tflops;专业用于ai训练的英伟达b200,单卡能达到2250tflops的恐怖算力。

韩路一点头,这和他设想的没有出入。

“而且,韩总,我不知道咱们团队里有没有人有过显卡集群管理的实操经验。但非cuda生态显卡集群的管理难度,和cuda生态完全不一样。五百张国产卡,全国能把训练栈跑通的不超过三家。”

说完,江松然露出些许骄傲:“有我在,我有信心让源智科技成为其中一家。”

韩路一倒不怀疑——他招江松然进来,就是要他干这个。他接着问:“那从哪家采购最好,你有什么建议?”

江松然微微沉吟,没有马上回答。

这个问题其实有点敏感。他当过管理者,当然知道对任何公司来说,采购都是敏感话题;何况ai用显卡单卡价格都在十万以上,五百张就是五千万的采购,金额不小。

上一章 返回目录 下一页