不少公司也對 AI Chatbot 的私隱感到憂慮,不會將一些文件上傳到 ChatGPT 或 Poe 進行分析。NVIDIA 近日宣佈推出了一款名為 Chat with RTX 的免費示範版聊天機器人,它能夠在用戶的個人電腦上本地運行,讓聊天機器人可以訪問到用戶的檔案和文件。透過將個人數據輸入 Chat with RTX,用戶能夠讓它基於該信息創建摘要。此外,用戶還可以像使用其他聊天機器人一樣提問,而 Chat with RTX 會深入用戶的數據庫中尋找答案。
支援不同檔案格式
NVIDIA 表示,這款軟件允許用戶「快速、輕鬆地將個人電腦上的本地檔案作為數據集連接到開源的大型語言模型,如 Mistral 或 Llama 2」。NVIDIA 舉例說明,一位用戶可以詢問聊天機器人在拉斯維加斯期間伴侶推薦的餐廳,該軟體會掃描本地檔案找到答案。它支援多種檔案格式,包括 .txt、.pdf、.doc/.docx 和 .xml,並聲稱能夠在「幾秒內」將相關檔案載入其數據集中。
整合 YouTube 影片和播放列表
Chat with RTX 還整合了 YouTube 影片和播放列表功能。用戶可以將影片 URL 添加到數據集中,從而讓聊天機器人整合影片中的知識以回答情境查詢。NVIDIA 表示,這在詢問基於喜愛的影響者影片內容的旅遊推薦或尋找教育資源摘要和教程時將非常有用。
本地處理敏感數據
Chat with RTX 讓用戶能夠在不需與第三方分享或連接互聯網的情況下,於本地電腦上處理敏感數據,這不僅更安全,也使聊天機器人在處理個人數據時更具情境意識。
硬體需求:GeForce RTX 30 以上
儘管這是一款示範產品,用戶應預期會有許多錯誤存在,但 NVIDIA 將開始修復這些錯誤,一旦用戶開始報告錯誤等問題。此外,這款聊天機器人有嚴格的硬體限制,只能在配備 NVIDIA GeForce RTX 30 系列 GPU 或更高版本且至少有 8GB VRAM 的 Windows 電腦上運行。