开源中国-最新资讯 ( ) • 2024-03-19 11:57

欢迎阅读 OSCHINA 编辑部出品的开源日报,每天更新一期。

# 2024.3.18

今日要点

OpenSource Daily

马斯克开源 Grok

马斯克旗下的 xAI 正式宣布在 Apache 2.0 协议下开源了大模型 Grok-1 的基本模型权重和网络架构。其参数量达到 3140 亿,远超 Meta 的 Llama 2 的 700 亿、Mistral 8x7B 的 120 亿以及 OpenAI GPT-3.5 的 1750 亿;这也是迄今参数量最大的开源大语言模型。

根据介绍,Grok 基础模型基于大量文本数据进行训练,未针对任何特定任务进行微调。其架构于 2023 年 10 月使用 JAX 和 Rust 之上的自定义训练堆栈开发,融合了神经网络设计的创新方法。该模型将 25% 的权重用于给定 token,旨在提高效率和有效性。

历时 20 年,GnuCOBOL 已达到工业成熟度

OCamlPro 创始人兼 GnuCOBOL 贡献者 Fabrice Le Fessant 表示,经过 20 年的发展,开源 GnuCOBOL“已经达到了工业成熟度,可以在所有环境中与专有产品竞争。”


今日观察

- 机器之心

- 微信 USEduCenter

- 微博 新浪科技


今日推荐

https://github.com/JanDeDobbeleer/oh-my-posh


事件点评


每日项目榜

每日 GitHub 精选

在线阅读完整日报内容,访问:
开源日报第 031 期:微软 AI 程序员登场,马斯克开源 Grok

往期回顾