36氪 - 快讯 ( ) • 2024-06-03 18:31
昆仑万维开源2千亿稀疏大模型天工MoE
模型 天工 昆仑万维
昆仑万维宣布开源2千亿稀疏大模型 Skywork-MoE 。据介绍，Skywork-MoE 基于之前昆仑万维开源的Skywork-13B模型中间checkpoint扩展而来，是首个完整将MoE Upcycling技术应用并落地的开源千亿MoE大模型，也是首个支持用单台4090服务器推理的开源千亿 MoE大模型，性能强劲， 且推理成本更低。
相关内容
大模型吞了谁？程序员彷徨，产品经理消失｜氪金
元宇宙聊天室丨大模型：从技术走向应用
科技巨头的开源 AI 模型是“假开源”
从940条算法备案清单看中国AI大模型发展
试了Runway新模型，我觉得OpenAI的Sora真的危险了
OpenAI断供，国产大模型百亿市场纷争再起
优必达支援最强繁中大型语言模型推论 加速 AI 效率
华泰证券：看好AI应用中长期维度对于传媒行业的加成和突破 | 华泰证券研报指出，2024年以来AI大模型持续迭代发展，国内Kimi、阶跃星辰等模型获得广泛关注...
“花样”机器人“百变”大模型 探馆2024世界人工智能大会
月之暗面发布“上下文缓存”技术，称最高可降本90% | 以“价格战”为代表的大模型降本仍在继续，但相比直接降价，北京月之暗面科技有限公司（简称“月之...