重点新闻(0607～0613)

 核融合     JAX     DeepMind  

Google DeepMind打造核融合装置模拟器TORAX，还开源了

最近，Google DeepMind开源一款可微分的托卡马克（Tokamak）核心运输模拟器TORAX，采JAX框架，以Python实作。这款TORAX结合了物理模组和机器学习模型，可用来计算托卡马克核融合装置中，离子热传输、电子热传输、粒子传输和电流扩散的耦合方程式。

尤其JAX框架具有即时编译和自动微分的优势，TORAX可快速执行运算，也能实现梯度最佳化和基于Jacobi矩阵的PDE求解器。而且，JAX对类神经网路的开发和推论支援，也大幅促进了物理模型和机器学习代理的耦合。团队也以RAPTOR码来验证TORAX，证明模拟等离子分布的结果是一致的。Google DeepMind表示，TORAX提供强大、多功能的工具，可用来实现快速且准确的前向建模、脉冲设计、轨迹优化和控制器设计，目前已在GitHub上开源，要促进更多核融合的研究。（详全文）

 Transformer     CNN     局部性  

Meta AI证实Transformer能跳脱邻近局部性框架

日前，Meta AI和阿姆斯特丹大学发表最新研究，发现Transformer模型不必按照电脑视觉模型长年遵守的邻近局部性（Locality），也能直接处理图像中的单个像素，且表现更好，虽然因序列更长、运算成本更高。

进一步来说，传统电脑视觉架构，如卷积网路（CNN）、ViT等，都假定图片中的邻近像素更相关，并透过卷积核、池化操作和图像切片等技术来计算邻近像素，也因此出现将图像分割为多个16x16的区块、将这些区块视为1个Token来计算的作法。这就是长久以来的邻近局部性基本假设。

但Meta AI和阿姆斯特丹大学以Transformer实验，将每个像素视为一个个Token来处理，摒除了图像2D网格结构的假设。他们将这种模型称为PiT，经测试，PiT在物件分类、图像生成等任务表现优异，甚至在某些领域，还大幅优于传统方法。团队表示，他们并非提倡以PiT取代ViT，而是证明Transformers透过对图片单一像素运算（而非16×16的区块），可达到非常好的表现，意味著模型能从单一像素中捕捉更多讯号。而这一发现，也挑战了电脑视觉任务必须要有局部性的传统观念。（详全文）

  糖尿病     Google Cloud     健保署  

健保署联手Google要打造糖尿病风险预测AI

健保署日前宣布联手Google，展开为期5年的合作，要使用Google云端算力资源、MedLM基础模型、Vertex AI平台和资料处理工具等，来与国卫院共同打造专属台湾的疾病风险预测模型，第一波瞄准糖尿病风险预测模型。这是因为，在台湾每10人就有1人罹患糖尿病，且其并发症严重，如心血管疾病、肾病、视网膜及神经病变等，需及早介入预防与治疗。

在模型训练资料部分，健保署会采用去识别化的性别、年龄、家族病史、风险资讯、国际疾病分类代码ICD-10和检验检查等资料，同时透过国卫院专业知识找出更多参数，来训练糖尿病风险预测模型。完成后，模型会透过健保署健保云执行，医疗院所医师上传资料到健保云，模型运算后会传送结果给医师和民众。这个风险预测分2种，一是针对未患糖尿病的民众，模型会提供10年内、5年内和1至3年内的罹病风险，另一是患糖尿病民众，模型会提供数种风险预测，如总住院率、特定原因住院率、死亡率、慢性病罹患率等。

其中，风险高低会以灯号表示，作为分级医疗参考，比如绿色为低风险、黄绿色为有风险、黄色是中风险、黄橙色中高风险、红橙色高风险，红色则是严重风险。风险较低的民众可建议至卫生所、门诊就医，黄色灯号则可转介至地区医院、黄橙色至区域医院，高风险和严重风险则至医学中心，以此达到分级医疗目标。石崇良表示，健保署与Google联手打造的糖尿病风险预测AI是第一波应用，借此抛砖引玉，来推动、扩大到更多慢性病和三高疾病风险管理。（详全文）

  Nvidia    HelpSteer2      LLM  

Nvidia开源HelpSteer2资料集，可低成本确保LLM与人类偏好一致

最近，Nvidia开源一款资料集HelpSteer2，可用来训练先进的奖励模型，来引导大型语言模型（LLM）产出与人类偏好一致的回答。这个资料集共有10,681组提示和回答，并由1,000多名美国注释者按Likert量表，对5种属性标注。

此团队表示，他们用HelpSteer2资料集来训练自家3,400亿参数的Nemotron-4基本模型后，在RewardBench主要资料集测试，达到了最先进的92.0%准确率，优于任何现有的开放和专有模型。而且，这个资料集才1万多个提示-回答组，比起现有的偏好资料集（如HH-RLHF）动辄数百万组，大幅降低了运算成本。 团队表示，这个资料集可用来对齐Llamna-3-70B等这类LLM，来提高与人类偏好的一致性。（详全文）

  苹果     ChatGPT     Apple Intelligence  

整合ChatGPT！苹果新推Apple Intelligence智慧功能

苹果在日前举行的WWDC开发者大会上发表AI服务Apple Intelligence，将进驻macOS Sequoia、iOS 18与iPadOS 18等苹果作业系统。同时，苹果也宣布与OpenAI合作，将在Siri、Writing Tools中整合GPT-4o驱动的ChatGPT。

进一步来说，这款Apple Intelligence提供多项AI功能，包括写作工具Writing Tools、图像创作工具Image Playground、可客制化表情符号的Genmoji，以及强化的Siri。其中，Writing Tools可让使用者在邮件、备忘录、Pages或第三方的程式中，改写、校对或摘要文本，还能透过Compose功能来存取ChatGPT的图像工具，可在文字中嵌入图像。

再来，Image Playground将内建于讯息、Keynote、Pages等苹果原生应用程式中，并支援采用Image Playground API的第三方程式，使用者可在几秒内以文字描述、所挑选的主题、服装、配件、地点或个人来创作图像，还能以动画、插图或素描的方式呈现。Genmoji则允许使用者以文字描述来客制化表情符号。Apple Intelligence也改善了照片/影片搜寻功能，能以自然语言搜寻特定照片，例如「脸上贴著贴纸的Katie」，或找到影片中的特定段落。（详全文）

  PyTorch     漏洞     Huntr  

开源机器学习框架PyTorch存在重大漏洞

今年4月，有研究者向漏洞悬赏平台Huntr通报开源机器学习框架PyTorch存在重大层级漏洞CVE-2024-5480，CVSS风险评分达到10分，影响2.2.2版以前的PyTorch。对此，Huntr向通报者提供1,500美元奖励，并在日前公布细节。

这漏洞位于torch.distributed.rpc框架，开发者使用该框架执行RPC呼叫时，该框架未验证相关功能是否如开发者预期执行，因此攻击者能借机透过网路使用RPC呼叫Python功能，进而载入Python程式库并执行任意命令。这个框架通常用于分散式训练，如增强式学习、模型平行化等，因此影响范围相当广泛。研究人员也提供概念性验证（PoC）程式码，并指出该漏洞可能带来的影响：由于攻击者可将其用来远端攻击分散式训练的master节点，一旦这些节点遭到入侵，对方就有机会窃取与AI有关的敏感资料。（详全文）

  ChromeOS     Android     AI  

要加速AI创新应用，ChromeOS将重整Android技术架构

Google日前宣布，ChromeOS很快就会重整Android技术架构，包括把Android Linux核心和Android框架当作ChromeOS基础，来加速ChromeOS执行AI创新应用或其他新功能的速度。

其实ChromeOS一直在向Android靠拢，Google自2016年就让ChromeOS用户执行Android程式，隔年更宣布采用ChromeOS的所有Chromebook笔电都将支援Google Play和Android程式。此外，自今年3月发表的ChromeOS 122起，ChromeOS也开始改用Android的蓝牙架构Fluoride。Google解释，把Android技术架构导入ChromeOS，可加速ChromeOS核心的AI创新脚步，简化工程任务，有助于手机等各种装置与Chromebook更相容。（详全文）

  OpenAI     甲骨文     微软  

OpenAI采用甲骨文云端为基础架构

甲骨文和OpenAI宣布合作，OpenAI将采用甲骨文云端基础架构（OCI），来扩展微软Azure AI的基础架构，加速执行模型推论等任务。这项合作涉及OpenAI、微软Azure和甲骨文等3家业者，目的是要OCI作为类似备援方案，可从微软Azure AI扩展到甲骨文云端，来提供负载更高的处理能力。

其中，光是OpenAI的ChatGPT AI服务，每月用户数就超过1亿，是最吃运算资源的任务。这项合作是让OpenAI使用「OCI基础架构上的Azure AI平台」，来执行推论和其他作业，OpenAI最尖端的模型仍执行在与微软合作的超级电脑上。（详全文）

图片来源／Meta AI、Apple

摄影／王若朴

  AI近期新闻 

1. 微软将预设关闭Copilot+ PC中的Recall功能，以平息隐私疑虑

2. Databricks联手Shutterstock推出企业级文生图AI服务ImageAI

3. 杜拜发起100万提示者计划（One Million Prompters），要在3年内培训100万名懂提示工程的AI人才

资料来源：iThome整理，2024年6月