财新网 - 首页 ( ) • 2024-04-28 18:51

中国工程院院士郑纬民认为,改善国产AI平台的生态系统,不是很抽象的事情,就是要做好10个软件


资料图:郑纬民。图:视觉中国

  【财新网】“国外的算力获取难,构建基于国产AI卡的万卡大模型训练平台迫不及待,很有必要。”4月28日上午,中国工程院院士郑纬民在“2024中国移动算力网络大会”上表示,构建国产万卡系统很难,也存在很多问题,但这是必须要做的事情,“只要我们努力,与芯片等硬件公司协作,一定能把它做好。”

  近两年,人工智能算力爆发性增长。为什么算力需求这么大?郑纬民介绍,算力存在于大模型生命周期的每一环,模型研发进行大量尝试需要配套算力,研发部门需要长期使用GPU资源;模型训练需要海量算力,比如训练GPT4就需要1万张A100训练11个月;而精调垂直领域模型需要可控算力,模型推理也需要可靠算力。