知乎热榜 ( ) • 2024-05-15 17:42
卜寒兮的回答

在生成式人工智能越来越成为 AI 行业“主流”之后,大家已经感受到 AI infra 对于模型的研发和部署有多么重要。

传统工业领域,电力系统是维持和保证一个个工厂正常运行的基本条件。以后,AI 基础设施之于人工智能,就像电力系统之于工业。

整个生成式AI的完整技术栈有底层到上层分为三大块:

  • 基础设施层;
  • 模型层;
  • 应用层。

应用层提供给个人/企业用户各类 AI 程序和服务,像我们现在用到的 ChatGPT 之类的聊天机器人,在应用层,大厂们通过研发和定制产品满足用户不同领域和场景下的AI使用需求。

模型层为这些 to B/C 产品提供能力支持,包括去年开始AI行业卷的热火朝天的各类基础大模型,这些模型也会通过API等形式开放给有需要的用户去使用(MaaS)。

基础设施层则是为研发和部署整个过程提供计算资源和服务的软、硬件,GPU,训练和部署所用的软件工具,云计算和存储系统等。另外,其实数据也应该算作基础设施,谁的掌握的数据质量高、用的好,谁就有可能train出更好的模型。

在模型的研发阶段,AI infra 提供足够的算力保证研发周期;在部署阶段,大规模应用情况下如何保证模型性能,并且降低运行成本,也要靠基础设施来保证。

以后,AI 基础设施会成为各个国家重点建设的领域,甚至会上升到战略高度。

这个超以太网联盟(UEC)国际组织的目标之一“推进开放网络系统及核心技术的研发及标准制定,打造下一代AI网络基础设施。”

一个行业的标准制定也是一个逐鹿场,决定了未来在整个行业掌握着多少话语权。国内企业参与进去是一件好事。