然而,随着训练的推进,他们的声音渐渐小了下去。
他们通过系统内置的性能分析工具清晰地看到,即使面对他们带来的多通道,高交错的极端数据,系统依然在巧妙地利用cuda的异步流和双缓冲,将数据传输与gpu计算完美地并行化,有效隐藏了内存带宽的瓶颈。
看着那高高拉起,几乎在98%以上的gpu利用率曲线,两人的眼珠子都快突出来了。
「这不可能啊。」老高喃喃自语,他盯着那一路狂飙的硬体吞吐量和迅速下降的loss
曲线。
这绝对不是一个刚接触神经网络的数学系学生能调校出来的性能表现!
「漆昊同学,这真的是你一个人调出来的系统?」老金吸了一口气,忍不住问道。
他们本以为会在高压测试下看到系统崩溃,显存溢出或者速度暴跌,结果却看了一场堪比工业界顶级优化水平的高性能运行秀。
「漆昊同学,你做这套优化和框架,大概花了多久?」老高的声音有些乾涩。
「一晚上吧。」漆昊平静地回答。
「一晚上?」老高和老金几乎要呼吸不过来了,他们公司花了半年时间,请了多少顶尖工程师,都没有跑出类似程度的吞吐量,漆昊一晚上搞定了核心优化。
老高想到了自己公司里那一支由海归博士,行业大牛组成,拿着百万年薪,享用着进口咖啡豆和人体工学椅的专家们。
那帮人摸鱼,扯皮,开会,写ppt,折腾了整整半年,每次周报写得花里胡哨,最後交上来的优化方案,哪比得上漆昊这跑出来的恐怖性能?
他终於明白那句人和天才的差距,比人和狗差距还大的意思了。
当然,他认为他们公司那群是狗,他还是保留了人籍的。
「漆昊,你这系统的性能和稳定性,真的没有什麽可挑剔的,难以想像,你居然不是计算机专业的学生,我都怀疑,你有在英伟达待过了。」
「我还没有出过国。」
老高和老金一时气闷,他们和漆昊差距有这麽大吗?
此时,夜色已经深了。
他们尴尬地揉了揉发酸的眼睛,彼此对视了一眼,站了起来。
老高干笑了一声,合上笔记本,委婉地说道:「漆昊啊,既然这新数据也顺利跑通了,性能甚至比你之前ppt里写的还要好,真相也算是水落石出了,再继续往下跑更极端的测试,实在有些耽误你时间,不得不说,你这水平,真是让我们这群老家夥觉得有些惭愧了,确实没必要再测下去了。」