NVIDIA 最近發布了 Chat with RTX 的應用程式,讓 RTX 顯卡用戶可以直接與 AI 進行聊天、快速查詢,且不需要連上網,在本地端就可以完成。
Chat with RTX 只支援 RTX 30 、40 系列顯卡,至少需要 8GB 記憶體,利用檢索增強生成(Retrieval-Augmented Generation,RAG)、TensorRT-LLM 和 RTX 加速等技術,快速自訂生成式人工智慧聊天機器人。
使用者可以將個人電腦本地端文件作為資料庫,透過 Chat With RTX...