一晃到了第二天早上。
当陈工和曾工顶着黑眼圈走进实验室时,下意识地先朝漆昊的工瞅了一眼。
然而,那里空空如也,连昨天那块被无数公式画得满满当当的草稿纸,也被清理了。
曾工有些夸张地拍了拍胸口,长舒了一口气,对陈工说道:“老陈,他人没来,看样子,这位学霸昨天晚上终究还是在CUDA的物理规则面前低头了啊。”
陈工拉开椅子坐下,有些感慨地附和道:“这太正常了,昨天他那写代码的手速和逻辑,已经足够让我们这帮干了多年的老工程狗惊讶了,要是他真能在一天之内,做出点什么来,那我真的要怀疑人生了。”
曾工深有同感地点头:“谁说不是呢?看到漆昊也会在C和CUDA的段错误里吃瘪,我顿时觉得这个世界还是公平的,咱们这战五渣的凡人好歹还有点生存空间,不过老陈,你昨天看他写的那些算子,他该不会真的是在想不
开,要用那两块游戏卡去训练神经网络吧?”
陈工摇头道:“怎么可能!神经网络这玩意儿在咱们国内现在就是个冷门方向,用CPU跑,一个稍微复杂点的数据集就能让人等得压力山大,至于用GPU跑,吴恩达那篇论文虽然说得神乎其神,但实际工程落地里那些显存限
制的坑,谁踩谁知道。”
“漆昊那么聪明的人估计也要踩坑。”
曾工:“你真的觉得他会踩坑吗?”
“肯定啊,CUDA不是一般人能碰的,漆吴很聪明,但这个领域不适合他。”
漆昊从昨晚躺上床开始,一觉睡到了中午。
昨天使用了灵感火花,这玩意对脑细胞的压榨实在过分,昨天晚上到了最后他都不想动脑,只想睡觉了。
幸好的是,今天睡醒起来,一切都恢复正常。
他吃完午饭,慢悠悠地溜达回实验室时,时间已经指向了下午一点半。
此时,办公区里的气氛有些异样。
原来,今天正好是课题组会的时间,总负责人齐教授已经坐在了会议桌的上首,手里拿着几份刚打印出来的系统运行日志,脸上满是欣慰的笑容。
“来,大家都坐。”齐教授招了招手,示意刚进门的漆昊也找个位置坐下。
陈工清了清嗓子,开始例行汇报项目第一阶段的进展:“齐教授,多亏了之前漆吴同学帮我们揪出的漏洞,在重新修正之后,在近百次的跑数据测试中,系统再也没有出现过一次发散或报错,整个视觉定位和悬停漂移误差,
都比之前降低了6%。”
听完陈工的陈述,实验室里的研究生们都露出了如释重负的笑容。
这段时间为了这个项目,大家可真是被折腾得够呛,现在总算要结束苦逼的日子。
齐教授合上文件夹,满脸赞许地看着漆昊,笑道:
“非常漂亮!难怪鸿记和大飞那边很推崇你,既然核心问题已经解决了,我提议,咱们这一阶段的课题可以正式准备结题了!”
坐着的几个研究生顿时兴奋得差点跳起来,不过最终还是忍住了,只鼓了掌。
齐教授笑着压了压手,温和地看着漆吴问道:“小漆啊,这次你立了头功,咱们课题组的传统是,项目阶段性结题,也得安排活动好好放松庆祝一下,陈工昨天跟我说,你怕水,所以温泉咱们就不泡了。”
“要不这周末,我带大家去郊外的青城山爬爬山,呼吸一下新鲜空气,然后整一顿最好的海鲜自助,你看怎么样?”
陈工在旁边附和:“爬山好,爬山安全!”
漆吴坐在位置上,看着众人脸上那迫不及待想要开启度假模式的兴奋神情,一时间有些无奈,怎么大家一听到结题,脑子里第一反应全都是想着去哪儿玩啊?
革命尚未成功,同志们怎么就开始提前庆功了?
难道不应该再卷一卷吗?
“齐教授,陈工。”
“我认为,我们这个联合项目的第一阶段,还有事情要做。”
原本正兴奋地讨论着到底是先吃烤生蚝还是吃帝王蟹的几个研究生,脸上的笑容瞬间僵了,一个个瞪大了眼睛,看着漆昊。
在苦逼的科研狗世界里,大家平时见过最离谱的事,无非是导师卡着不让走,逼着大家继续当牛做马。
可今天,他们居然亲眼见证了一桩学术界的旷世奇观!
导师大发慈悲主动宣布结题放假,有人居然按住导师的手,说还有事情要做!
坐在斜对面的李杰此时在心里疯狂呐喊:漆神!求求你做个人吧!
你是神仙不用放假,我们凡人的肉体凡胎伤不起啊!我还指望着周末回去打游戏呢!
要是换作其他人,漆昊早就被眼神杀了几回,然而,在大佬强大的气场压迫下,没有任何一个研究生敢在这个时候发出半点反驳的声音,只能一个个在心里默默流泪。
齐教授也是微微一愣,有些诧异地看着这个在学术上有主见的小家伙,饶有兴致地问道:
“哦?小漆,你为什么会这么觉得?我们的问题不是已经解决了吗?”
“但我们这个智能项目的终极目的,是什么?”漆吴问道。
陈工虽然被漆昊的敬业给震惊到了,但还是老老实实地回答道:“当然最终是想实现无人机在复杂无GPS信号的室内环境下的自主视觉定位悬停,障碍物自动辨识,以及对移动目标的自适应锁定与跟踪咯。”
“没错,但我们现在解决的问题,距离这个目标还很远,当飞机面对复杂的障碍物拓扑结构,多变的室内光影变化,以及运动目标的轮廓识别时,还是无法控制无人机。”
“正如陈工之前所说,要想真正解决这种难题,唯一的出路,是引入神经网络。”
听到神经网络这四个字,会议室里的人脸色变了变。
现在,这个词在绝大多数高校科研人眼里,简直就等同于天坑的代名词。
陈工叹了口气,苦笑道:“漆昊,神经网络的设想确实很美好,这也是两家企业最看重的核心技术,但我们之前私底下尝试过,在没有专门加速硬件的前提下,光是训练一个最简单的三层多层感知机,都要耗费不少时间。”
“如果引入更深层的网络来做图像特征提取,算力开销将呈几何级数爆炸,计算强度的数学公式我们可以写得很漂亮,但实际情况并非如此。”
“在如此惊人的复杂度面前,用CPU训练神经网络,光是调参和等待收敛的时间成本,就能把我们整个课题组的人力全部耗死在里面,在工程落地层面上,这根本不具备可行性。”
齐教授此时也说道:“小漆,陈工说的是实情,我早年的研究方向也涉及过部分控制网络,神经网络这个东西,目前在学术界和工业界都处于一个尴尬的瓶颈期。”
“没有足够的算力支撑,强行把重心放在这上面,无异于去撞一堵墙,所以,我们目前的规划是先用经典的滤波和几何算法结题,神经网络的部分,只作为一个理论展望写进报告里就可以了。”
“那如果,我们不走CPU训练这条路呢?”
漆昊微微抬起头。
齐教授皱了皱眉:“不走CPU?难道你还指望去申请国家超级计算中心的机时?先不说审批有多难,超算中心的那些CPU集群,本质上依然是通用架构,算力性价比极低。”
“不用申请超算。”
“我昨天用那两块GTX580显卡,基于im2col的数学变换和cuBLAS底层数学库,写了一套完整GPU并行神经网络训练架构。”
陈工和曾工吃惊地看着他。
他昨天和陈工走的时候,漆吴明明还在为LRN的显存冲突和反向传播的写冲突折腾得眉头紧锁。
他们都以为漆昊肯定放弃了,可听这家伙的意思,他昨晚不仅没放弃,反而把所有算子都写完了?!
齐教授作为严谨的资深学者,本能地对漆吴的话产生了怀疑,他开口:
“小漆,用GPU训练神经网络,这在目前的视觉和控制领域并不是主流,哪怕是斯坦福吴恩达团队的那篇论文,也只是在特定的实验室环境下做出的探索,在实际工程中根本无法大范围推广。”
“GPU的显存带宽瓶颈和复杂的CUDA编程调试成本,注定了它难度非常高,你就算写出了一些测试代码,由于频繁的数据拷贝,最后跑出来的实际效率,恐怕也不会比多核CPU好到哪里去。”
“齐教授,我昨晚用GPU训练,其实已经跑出了一批完整的数据,就目前的结果来看,它的效率比CPU要好。”
看着漆昊那自信的样子,齐教授只好说:“既然你连数据都跑出来了,那我们今天也别在这干坐着了,去你工位上看看。”
一群研究生和两位工程师,立刻屁颠屁颠地跟在齐教授和漆昊身后,涌向了漆吴的工位。
当齐教授走到那台崭新的工作站前,看到旁边那个硕大的1200W电源时,他脚步一顿,看向了陈工。
陈工假装在看天花板上的灯,一句话都不敢多说。
漆昊没有在意这些,他坐下来,滑了滑鼠标,唤醒了暗下去的屏幕。
此时,屏幕上正显示着一个用C写的简易控制台界面,上面还残留着最终训练日志。
“齐教授,这是我实验室里现成的数据集进行的测试,一共10000张。”
“我看了下相关日志,在之前使用的服务器CPU上,运行一个Epoch的训练耗时,平均在一个小时左右。”
齐教授微微颔首:“没错,一个小时,这已经是优化后的极限了,想要训练到一个勉强可用的精度,至少需要迭代10个Epoch,那就是将近十三个小时。”
“是的。”漆昊微微一笑,“所以我昨晚尝试了新的方法,这是昨晚我运行10个Epoch的实时训练输出日志,您可以看一下。”
漆吴轻敲回车,拉动滚动条,将昨晚的训练控制台日志呈现在所有人面前。
【Training Epoch10/10]
【Total Training Time:1小时28分27秒】
“这时间坏了吧?”陈工脱口而出。
齐教授顾不上教授的体面,半蹲着身子,开始快速翻看编译日志和CUDA运行态监控。
屏幕上的实时数据显示得清清楚楚:GPU利用率在训练期间长期维持在93.2%的数值。
双卡显存占用稳定,没有发生任何一次显存溢出。
PCle总线带宽利用率极低,说明绝大部分计算都在显存内部的高速cache中完成的。
而最终模型在测试集上跑出来的89.4%的识别率,更是铁一般的事实,做不了任何假!
“你用的什么显卡?”
"GTX580, "
游戏显卡?
在传统的CPU服务器上,需要不吃不喝,辛辛苦苦跑上整整13个小时才能完成的训练闭环。
在这个少年的编程下,两块被所有人视为不务正业的游戏卡,居然把训练时长压缩到了一小时二十八分钟!
“我们现在可以重新测试一个数据集吗?”
“当然可以,反正也花不了多长时间。”漆吴自信地说。
齐教授重新选了一个数据集。
“我们就跑这个!这是大飞上个月刚发来的航拍数据集,整整18000张包含复杂室内光影和高噪点遮挡的图像。”
“由于多通道特征极度交错,以前在至强服务器上跑,光是前向传播的特征对齐就能生生磨蹭掉一个半小时,整套迭代下来更是需要耗费将近大半天的时间,我们平时根本不敢轻易用它来做模型验证。”
“小漆,这个数据集的规模和复杂度,可比你刚才跑的那套普通数据要高得多,你敢用它现跑吗?”
“当然可以,无非就是多花个几分钟罢了。”
漆昊坦然说道,然后他修改了配置文件里的数据集加载路径,随后熟练地在终端输入了编译和运行指令。
“第一轮迭代,开始加载数据......”
控制台的第一行日志跳了出来,整个实验室的人的目光都被吸引过去了。
当第一轮迭代结束,用时6分3秒!
陈工第一个打破了沉默,他难以置信地低头看了看自己手机上的秒表,又抬头看了看屏幕上的日志,茫然了起来:“老曾,我刚才没眨眼吧?那个最难啃的C3航拍数据集,第一轮前向计算和反向梯度的无锁更新,真的只花了
不到六分半钟?"
“没看错,数据是实时的,显卡核心温度目前稳定在78度,也没有出现任何溢出报错。”
曾工此时正神色复杂地调出了系统的硬件监控界面。
他指着屏幕上一条几乎呈直线波动的带宽监控,眉头紧锁地说道:
“最奇怪的是这里,18000张高噪点图像,数据量非常庞大,在我们的传统认知里,在CPU内存和显卡显存之间频繁传输这么多数据,总线的带宽早就应该被挤爆了,从而拖慢整个GPU的计算。"
“但在漆吴这套系统里,带宽占用率很正常,数据像是顺着一条没有堵塞的高速公路,无缝地流进了显卡的流处理器里,漆昊,你是怎么把这个总线延迟给绕过去的?”
面对曾工的询问,漆吴解释道:“曾工,其实我并没有绕过物理带宽限制,我只是利用了CUDA提供的异步流和双缓冲机制,把数据传输的延迟给隐藏起来了。
曾工点头,听得很认真。
其他研究生不敢走神,生怕错过什么细节,一直到最后一轮迭代结束。
【Total Training Time:1小时29分39秒】
陈工低呼了一声:“不是吧,这不科学!”
漆昊不好意思地说:“其实这个训练时间还可以再缩短一点,目前还有不少优化空间。”
陈工已经无言以对了。
漆昊无形之间的装逼,真的伤到他了!
他之前还说漆昊不适合这个领域,结果漆吴拿出的成果比他闷头苦干一年的还强!
齐教授突然隐隐有种感觉,深度学习这个领域,要变天了。
他撑着桌子缓缓站起身,看着漆昊那张平静的脸,一时间竟有些惆怅。
江山代有才人出啊。
唉,要是其他人也有三分像漆就好了。
想到这里,齐教授出声了:“老陈,这周末的青城山和海鲜自助全部取消。”
教授,你怎么还取消了?
研究生们都不敢反驳,只能一脸复杂地站在原地。
他们虽然也想放假,但看着奇迹就在他们面前诞生后,放假的念头很奇怪地没有那么强烈了。
一个个看向漆昊身上的眼神,反倒是炽热了起来!
他们脑中不约而同地冒出了一个念头。
该如何抱上大佬的大腿,带飞自己,顺利混到毕业?
或者说,漆神以后去什么组,他们也想跟着去。
“通知大飞和鸿记的项目负责人,就说漆吴在无人机自主视觉控制的底层加速算法上,取得了一项非常有价值的突破!”
作为一个深谙学界与产业界规则的人,齐教授太清楚漆吴屏幕上这组数据背后意味着什么了。
可以说,漆昊的成果,重新定义了他们和出资方之间的合作上限!
如果眼界再放远一点,半导体行业也会被漆昊所影响!