▲英伟达首席科学家兼研究高级副总裁达利博士在讲座中梳理了深度学习与人工智能的发展脉络,阐明计算机硬件,尤其是英伟达研发的 GPU,在推动 AI 革命进程中扮演的核心角色,同时分享了 GPU 设计的未来发展方向。
人们谈及人工智能的发展,目光往往聚焦在各类算法与模型上,但硬件设备同样居功至伟,图形处理器 (GPU) 更是其中的关键。
美国科技企业英伟达 (NVIDIA) 首席科学家兼研究高级副总裁达利博士做客新加坡国立大学120周年杰出学者系列讲座。他表示,GPU 的核心优势是能够高效并行处理海量数据,这也让它成为训练人工智能模型不可或缺的设备。
2026年5月20日,这位知名计算机科学家以《以计算创新塑造未来》为题发表演讲,他表示深度学习相关算法早在20世纪80年代就已基本成型,而训练 AI 系统所需的各类数据也在2000年代末期就已经具备。
达利博士长期深耕并行计算与高性能互联技术,他的开创性研究为当下的人工智能革命筑牢了根基。他提到,当时唯一欠缺的就是足够的算力,无法将算法和数据结合落地,而 GPU 恰好补上了这一短板——这款芯片最初其实是专为电子游戏设计的。
现场共有约180名学生、教职员工、校友以及社会公众参与活动。达利博士说道:“可以把数据和算法比作飘散在空中的燃料,它们一直在等待一簇火花,以此彻底点燃人工智能革命。”
而这簇点燃变革的火花,就是充足的算力。2012年诞生的 AlexNet 模型堪称行业里程碑,当年它仅用两块英伟达 GPU 就完成了训练。从那时至今,训练顶尖 AI 模型所需的算力暴涨了约一千万倍;同期,单块英伟达 GPU 的性能也提升了近五千倍。
随着人工智能迅速融入生活的各个领域,支撑技术运转的算力需求也攀升至历史新高。
新国大校长陈永财 (Tan Eng Chye) 教授在开场致辞中谈到:“AI 模型的研发目标越来越宏大,其背后的基础设施已变得与其中的理念同等重要。这种发展现状也正在改变运算系统的设计逻辑。”
每一款前沿 AI 模型的运行都面临着协同调度的难题:要让成千上万颗处理器协同工作,实现高速、大规模的数据互通。
陈永财教授补充道:“达利博士在高性能互联技术领域的研究,让大型运算系统实现高效协同成为现实,也支撑起了我们如今所见的各类人工智能应用。”
▲新国大校长陈永财教授在开场致辞中,称赞达利博士在并行计算、高性能互联领域做出了奠基性贡献,正是这些成果搭建起了支撑现代人工智能运转的底层架构。
以更少资源,实现更高效能
为讲解 AI 模型的信息处理逻辑,达利博士举了一个通俗例子。大语言模型依托海量文本完成训练、习得语言规律,当有人向它提问“苹果是不是水果?”时,系统会一次性读取整段问题。
但在生成回答时,模型却是逐字输出。每生成一个词语,都需要调取自身全部存储数据,才能继续产出下一个词。如今顶级大模型存储着数万亿个参数,运算负荷会快速叠加。
达利博士2009年加入英伟达,此前曾任职于麻省理工学院与斯坦福大学。他表示,提升运算效率的办法之一就是精简这些存储参数。
计算机依靠由0和1组成的比特来记录数值。比特位数越多,计算精度越高,但单次运算产生的能耗也会相应增加。
相比传统计算,AI 模型对精度的容忍度更高。基于这一点,英伟达逐步下调运算比特位数:从32位降至16位,再到8位,如今已采用4位运算。每完成一次位数精简,能耗效率大约就能提升四倍。
数值多次取整会产生误差并不断累积,进而影响运算精度。为规避这一问题,达利博士介绍了稀疏化技术,即运算时直接识别并跳过数值为零的参数,让单位能耗对应的有效运算量直接翻倍。2020年安培架构 GPU 问世后,这项优化就被集成到了英伟达全系产品中。
▲本次回答环节由新国大副教务长(特别项目)兼计算机学院院长图丽卡教授主持。达利博士表示,AI 时代下硬件与系统设计的价值会进一步提升,这类工作至今仍高度依靠人类的创新能力。软件领域虽仍有广阔发展空间,但他认为相关工作会逐步转向对 AI 代码智能体的管理与调度。
全新探索方向
单块 GPU 的性能虽已实现大幅提升,但依旧无法满足超高负荷 AI 模型的运行需求。
达利博士解释,如今大型 AI 任务都会拆分给多块 GPU 并行处理,不同处理器分别负责模型的不同模块,这就要求芯片之间具备高速、稳定的互联能力。以英伟达 NVLink 互联技术为例,同一机柜内的 GPU 之间,数据传输速率可达每秒1.8太字节。
不过他也提到,硬件升级离不开配套软件的协同优化。比如英伟达推出新款芯片后,再针对性优化软件,即便硬件没有任何改动,整体性能也能提升2.5至3倍。
讲座过后是问答环节,由新国大副教务长(特别项目)兼计算机学院院长图丽卡 (Tulika Mitra) 教授主持。现场观众提出各类问题,既有专用硬件与通用硬件该如何取舍,也探讨了4位运算之外新型计算格式的发展前景。
谈及长远发展,达利博士推测,未来 AI 或将参与芯片设计工作。目前研发一款全新芯片,需要投入数千人年的工程工作量,而 AI 有望改变这一现状。
“我很期待看到业界利用 AI 技术进一步降低新一代 GPU 的能耗。”他说道。
(来源:NUS新加坡国立大学微信公众号)