cnBeta.COM - 中文业界资讯站 ( ) • 2024-05-01 21:34

英伟达(NVIDIA)正在更新其实验性 ChatRTX 聊天机器人,为 RTX GPU 用户引入更多人工智能模型。这个在 Windows PC 上本地运行的聊天机器人已经可以使用 Mistral 或 Llama 2 来查询个人文档,但现在支持的 AI 模型列表正在不断扩大,包括Google的 Gemma、ChatGLM3,甚至还有 OpenAI 的 CLIP 模型,让它更容易搜索机器上的照片。

nvidia_chatrtx_og_1200x630.jpg

NVIDIA 在今年 2 月首次推出了 ChatRTX,当时名为"Chat with RTX",它是一款演示应用,需要配备 8GB 或更大 VRAM 的 RTX 30 或 40 系列 GPU 才能运行。该应用本质上是创建一个本地聊天机器人服务器,可以通过浏览器访问该服务器,并输入本地文档甚至 YouTube 视频,从而获得一个强大的搜索工具,其中包含对您自己数据的总结和问题解答。

Google的 Gemma 模型专为直接在高配笔记本电脑或台式电脑上运行而设计,因此将其纳入 ChatRTX 非常合适。NVIDIA 的应用消除了在本地运行这些模型的一些复杂性,由此产生的聊天机器人界面可让您在不同模型之间进行选择,以便找到最适合您想要分析或搜索的数据的模型。

ChatRTX 可从 NVIDIA 网站下载,容量为 36GB,现在还支持基于通用语言模型框架的开放式双语(英语和中文)大型语言模型 ChatGLM3。此外,还添加了 OpenAI 的对比语言-图像预训练(CLIP),可让您搜索本地照片数据并与之交互,从而对模型进行图像识别训练。

最后,NVIDIA 还更新了 ChatRTX,以支持语音查询。NVIDIA 集成了人工智能语音识别系统 Whisper,可让用户使用语音搜索数据。