英伟达的 ChatRTX 应用在其网站上发布了备受期待的 0.3 版本更新。这款类似 ChatGPT 的应用的更新首次在 英伟达 3月份的 GTC 会议上被预告，带来了一系列新功能，包括照片搜索能力、AI 驱动的语音识别以及与更多大语言模型（LLM）的兼容性。
本次更新亮点包括：
- 照片搜索新境界：集成OpenAI的CLIP技术，让用户无需依赖复杂的元数据标签，即可实现高效图像搜索。
- AI语音识别加入：通过集成Whisper系统，ChatRTX现支持语音交互，让沟通更加自然流畅。
- 大语言模型兼容扩展：新增如Gemma（谷歌最新LLM）及ChatGLM3-6B等选项，让用户自由选择最适合自己的语言模型，享受个性化服务。
ChatRTX 扩充了自身支持的大语言模型种类，例如谷歌新推出的本地模型 Gemma、ChatGLM3-6B 等。与此同时，由于借鉴了 OpenAI 旗下 CLIP 工具的技术，ChatRTX 现在能够对图片进行搜索；而得益于对 AI 语音识别系统 Whisper 的支持，ChatRTX 现在可以理解用户口头说出的语音指令。据介绍，在强大的大语言模型（LLM）支持下，用户可以使用 ChatRTX 查询笔记和文档，ChatRTX 可以快速生成相关回复，同时在用户设备上本地运行。
ChatrTX 是一款适用于 Windows PC 的聊天机器人，由 TensorRT-LLM 提供支持。它被设计为一个本地化系统，用户无需上网便可使用，所有具有至少 8 GB 显存的 GeForce RTX 30 和 40 GPU 都支持该应用程序。同时，它支持多种文件格式，包括文本、pdf、doc / docx 和 xml。ChatrTX 在最终的 1.0 版本发布之前可能会继续增加功能，包括预期的 YouTube 链接清洗功能的回归，这些功能在最近的紧急 0.2.x 更新中被移除，这些更新是为了修补一个安全漏洞
0条评论