據悉,英偉達(Nvidia)已于近日發布了名爲 "Chat with RTX" 的 Demo 版個性化 AI 聊天機器人,并在其海外官網渠道中提供了下載鏈接。
據了解,這是一款适用于 Windows 平台的聊天機器人,由 TensorRT-LLM 提供支持,完全在本地運行。據官網信息顯示,想要安裝該聊天機器人應用,用戶的系統配置需使用 Nvidia 的 30 系 /40 系顯卡(或 Ampere/Ada 架構的其他顯卡),且顯存至少爲 8GB。此外,用戶 PC 的也需爲 16GB 及以上的運行内存、Win 11 系統、535.11 或更高版本的顯卡驅動。
據了解,Chat with RTX 支持多種文件格式,包括文本、pdf、doc/docx 和 xml。隻需将應用程序指向包含文件的文件夾,該聊天機器人就會在幾秒鍾内将其加載到庫中。此外,用戶還可以提供 YouTube 播放列表的 URL 鏈接,該應用程序将加載播放列表中視頻的轉錄,使用戶能夠查詢它們涵蓋的内容。
有觀點指出,從官方描述來看,用戶可以通過不同的查詢,與使用 ChatGPT 相同的方式使用 Chat With RTX,但生成的結果将完全基于特定數據集,似乎更适用于生成摘要、快速搜索文檔等操作。(參考來源:IT 之家)。