Nvidia本周更新其基于生成式预训练模型（Generative Pre-trained Transformer，GPT）与Nvidia RTX系列GPU的ChatRTX聊天机器人，它可支援更多的开源模型，具备语音查询能力，并可辨识图片。

ChatRTX为一由Nvidia所开发的GPT聊天机器人示范程式，在选择了大型语言模型之后（LLM），使用者即可将它连至自己的文件、笔记、图片或其它资料，借由检索增强生成（Retrieval-Augmented Generation，RAG）技术、TensorRT-LLM软体与RTX加速，即可向此一客制化的聊天机器人提出问题，并得到相关的解答。由于它是直接在Windows PC或工作站上执行，可确保隐私及安全。

Nvidia是在今年2月发表ChatRTX，其系统需求包括Nvidia GeForce RTX 30/40系列GPU、Nvidia RTX Ampere或Ada Generation GPU，执行Windows 11作业系统，以及必须具备16GB或更多记忆体。

使用者可透过ChatRTX将本地端的档案当作资料集，首个版本支援.txt、.pdf、.doc/.docx和.xml等档案格式，连至诸如Mistral或Llama 2的开源大型语言模型，以利用ChatRTX来查询笔记及档案，而且是在使用者的装置上执行。

新版增加了对Gemma与ChatGLM3模型的支援，也支援语言及图像对比预训练（CLIP）神经网路，并透过对Whisper的支援提供了语音查询能力，额外支援jpeg、gif及png档案格式。因此，现在使用者除了可以文字及语音与ChatRTX对话之外，还能搜寻照片与图片。

ChatRTX开放所有使用者免费下载。