开暖气提示您:看后求收藏(印尼小说网https://www.ynxdj.com),接着再看更方便。
连带着,莫远游他们都有些尴尬。
王霁淡淡一笑:“钟教授,您太客气了啊,本来就是解决你们的问题,当然是你们申请专利,我不需要的。”
钟景航喜出望外,连声感谢:“专利奖励一定发给你!”
王霁摆摆手:
“别客气。”
“让莫总他们来分吧,他们写的。”
“这些天他们也很辛苦!”
“要不是莫总帮忙,我也搞不定。”
格局,这就叫格局!
莫远游今天的心情很摇摆……
一大早还在质疑,后来是惊喜,再是羞愧,进门后是敬佩和仰慕。
此时则是心悦诚服、五体投地,笑容满面道:“难怪王总年纪轻轻就做副总裁,技术深不可测,气量更深不可测啊!”
钟景航笑吟吟握住王霁的手:
“小王,你帮了我大忙!”
“之前说有重谢,这就别推辞……”
朝属下员工使了个眼色,让他们出去,自己要说其他事。
莫远游几人正要走,王霁忽然扬起左手:“先等等,我还有个提测。”
啊——
会议室的人都惊呆了。
莫远游问:“还有提测是什么意思?那几个点是分批提的么?可是,刚才我们测试验证都没问题了啊……”
钟景航也一脸诧异,猜不出王霁的话是什么意思。
王霁笑吟吟道:“不是那几个点,那个问题我昨天就搞定了……”
将电脑屏幕转了过去:
“我看代码的时候,还发现个问题……”
“你们处理大模型高稀疏矩阵效率很低,无效占比计算超过65。”
“而且,用的加速方案需要固定稀疏模式,无法适配动态稀疏。”
“如果稀疏矩阵的非零元素位置随机,你们cache命中率下降了50多。”
“多核并发计算时,稀疏任务分配不均,闲的闲死,忙的忙死。”
“我就顺手解决了……”
他对着电脑滔滔不绝。
丝毫没留意到,几个人表情越来越诡异。
听着听着,已经没在看电脑,而是将目光都锁到他脸上。
王霁继续说方法:
“我的优化策略是……”
“首先,增加稀疏模式检测单元,实时识别矩阵中的非零块。”
“用硬件实现自动掩码,根据当前稀疏模式来生成,跳过全零块。”
“然后,在noc上集成优先级仲裁器,将稀疏计算任务拆分为细粒度子任务,高稀疏度任务优先分配至空闲核。”
“最后,利用你们芯片已有的稀疏、密集模式,增加动态阈值判断。”
“整体下来,transformer推理服务模拟测试延迟能降低50以上。”
“因为减少了稀疏计算的能耗,边缘侧芯片推理功耗降低40以上……”
这个问题,是其余红点的报错。
今天花大半天搞定的。
反正,闲着也闲着……
就当买一送一。
讲完后抬起头,看到几张几乎在淌口水的脸。
莫远游擦了擦嘴,转头望向同样找不着下巴的ceo。
钟景航怔了半晌,才反应过来。
咽了口唾沫,对王霁道:
“小王,这个问题是我们下个版本要解决的……”
“我们准备投入20个人,集中半年时间,争取在年底前攻克……”