新聞 | iThome ( ) • 2024-06-13 16:07

背景图片取自Taylor Van Riper on Unsplash

甲骨文和OpenAI本周宣布一项合作,OpenAI将以甲骨文云端基础架构(Oracle Cloud Infrastructure,OCI)作为扩展微软Azure AI的基础架构,以执行模型推论等任务。

这项合作其实涉及OpenAI、微软Azure及甲骨文三家业者,目的在让OCI成为类似备援方案,为微软Azure AI扩展到甲骨文云端,为OpenAI负载提供更高处理能力。

OpenAI的AI服务光是ChatGPT,每月用户就超过1亿,堪称吃运算资源的怪兽。OpenAI执行长Sam Altman从不讳言其AI运算资源需求,外传他希望募集7兆美元盖厂自产晶片以加速训练AI模型的任务。

或许因为OpenAI才宣布和苹果合作,使ChatGPT整合到苹果OS中,外界揣测可能影响OpenAI和微软的合作关系。OpenAI在官方新闻发布后随后澄清,这项合作是让OpenAI使用「OCI基础架构上的Azure AI平台」执行推论和其他作业。OpenAI最尖端的模型仍然执行在使用与微软合作的超级电脑上。

在公有云市场方面,甲骨文OCI远远落后微软或是今天宣布结盟的Google Cloud。根据市调业者Synergy的数据,截至今年第一季,公有云市场仍以市占达31%的AWS居冠,微软Azure和Google Cloud则分别拥有24%和11%市场。甲骨文则和IBM、腾讯同为2%。

但甲骨文仍有相当知名的客户,包括Nvidia DGX Cloud、马斯克的xAI,以及Adept、Modal、MosaicML、Together AI、Twelve Labs等AI业者。在训练大型语言模型时,OCI的Supercluster可扩展到64k NVIDIA Blackwell GPU或GB200 Grace Blackwell Superchips,透过超低延迟RDMA丛集网路连线。OCI Compute虚拟机器和OCI裸机Nvidia GPU执行个体并可支援生成式AI、电脑视觉、自然语言处理、推荐系统等应用程式。