新聞 | iThome ( ) • 2024-04-19 10:57
图片来源: 

英特尔

英特尔昨(18)日公布全球最大神经型态(neuromorphic)系统,代号Hala Point,搭载上千颗Loihi 2处理器,具备高效能且比现行AI系统更永续、环保。

Hala Point号称是第一座支援主流AI应用的大规模高效能神经型态系统,实现类人脑运算。神经型态运算模拟人脑结构和功能,神经型态系统及其晶片,则是以人工神经元模拟大脑神经元,希望能模拟高效能但低能耗的人脑运作,强调更为节能、永续。

在规格上,Hala Point搭载1,152颗Intel Loihi 2处理器,和Meteor Lake晶片一样以Intel 4处理节点制造。Hala Point是以Intel第一代大型研究系统Pohoiki Springs为基础发展,但神经元量及效能都比前代提升最高为10倍及12倍。上千颗Loihi 2处理器包含11.5亿神经元及1,280亿突触,提供140,544神经元运算核心。此外,它还搭载了2,300颗嵌入式x86处理器辅助运算,总功耗为2,600瓦。

Loihi 2处理器是英特尔2021年推出的7奈米晶片,专为神经型态运算设计。该公司引用论文指出,Loihi在小型边缘的影音及讯号转换运算任务中,效率及速度超过前代及竞争晶片。

图片来源/英特尔

以实体体积而言,Hala Point相当轻巧,可安装在微波炉大小的6U资料中心机柜中,但Hala Point具备高效能。它的大规模平行运算架构内整合了处理、记忆体和通讯通道,总记忆体频宽达到16 PB/S,而核心间通讯及晶片间通讯频宽也分别有3.5PB/s及5TB/s。在AI运算上,则支援最高每秒20 petaOPS,执行传统深度神经网路时,每秒每瓦执行15 TOPS,超越GPU和CPU的效能水准。而应用在训练神经网路模型时,Hala Point可以全力启动超过千亿的神经元,速度是人类大脑的20倍,最高可提升到200倍。

Hala Point现已部署在美国能源署下的桑迪亚国家实验室(Sandia National Laboratories),后者将用它进行「大脑规模」的科学运算研究,包括解决半导体元件物理学、电脑架构、电脑科学及资讯学。

这座系统仍为原型,但未来支援多种商业化的AI即时持续性学习,像是解决科学与工程问题、运筹、智慧城市基础建设管理、大型语言模型(LLM)及AI助理等。