NVIDIA ChatRTX 更新項目將擴展該技術展示的功能及支援的LLM模型

NVIDIA三月在GTC大會上首次展示了這個更新項目,讓這個 RTX 加速的聊天機器人應用程式有了更多功能,並且支援新的模型:

  • ChatRTX 增加了其支援的 LLM 清單,包括 Gemma(Google 的最新 LLM)和 ChatGLM3(開放的、英文和中文雙語的 LLM),為用戶提供了更多的彈性。
  • 藉由OpenAI 的對比語言和預訓練(CLIP),全新的相片支援使 ChatRTX 用戶能夠輕鬆搜尋並與本地端的相片資料互動,無需使用複雜的詮釋資料標記。
  • 新增對AI 自動語音識別系統Whisper 支援,使 ChatRTX 能夠理解口語,讓ChatRTX用戶可以與自己的資料進行語音交談。

利用 TensorRT-LLM 軟體的加速效能和 NVIDIA RTX ,ChatRTX 用戶現已可在 RTX  PC 上釋放 AI 的威力。而且,這些都是在您的 PC 本地端上完成的,因此您的資料是安全的。此外,ChatRTX在 GitHub 上為一項免費參考專案,使開發者能夠使用 RAG 技術探索和擴展 AI 應用,以實現更多樣化的使用案例。

 

AI驅動的全新NVIDIA DLSS 3.5包含光線重建技術,將強化 NVIDIA RTX Remix 光線追蹤效果模組的表現

 

由大型語言人工智慧(AI)模型提供支援的聊天機器人已經改變了運算方式,NVIDIA ChatRTX  讓使用者可以在有著 NVIDIA RTX  技術支援的 Windows PC和工作站上,與儲存在本地端的資料互動。三月在 GTC 大會上首次展示的全新更新項目,讓這個 RTX 加速的聊天機器人應用程式有了更多功能,並且支援新的模型。

 

說給AI

ChatRTX 利用檢索增強生成、NVIDIA TensorRT-LLM 軟體與 NVIDIA RTX 加速等技術,將聊天機器人功能帶至有著 RTX 技術支援的 Windows PC和工作站上。在強大大型語言模型(LLM)的支援下,使用者可以透過 ChatRTX 查詢他們的筆記和檔案,且由於ChatRTX在使用者裝置本機端運行,能夠快速生成相關回應。

 

最新版本加入支援其他 LLM,包括由 Google 訓練出最新的開放式、可在本地端運行的Gemma。Gemma 是Google 使用與自家 Gemini 模型相同的研究和技術,專為負責任AI開發而打造的模型。ChatRTX 現在也有支援基於通用語言模型框架的開放式中英雙語 ChatGLM3 大型語言模型。

 

由於有支援 OpenAI 的對比語言和影像預訓練(Contrastive Language-Image Pre-training,CLIP)技術,使用者還能與影像資料進行互動。經過訓練和細化後的 CLIP 神經網絡,從自然語言監督中學習視覺概念。也就是說,這個模型會辨識在影像集裡「看到」的東西。因ChatRTX支援 CLIP ,使用者可透過單字、術語和短語,與裝置本機端的相片和影像進行互動,無需使用複雜的詮釋資料標記。

 

新版本的 ChatRTX 還讓使用者可以用自己的聲音與資料進行聊天。由於有支援使用AI處理口語的自動語音識別系統 Whisper,使用者可以在應用程式上用語音進行查詢,ChatRTX 將以文字加以回應。

 

運用RTX Remix

模組改裝者可以使用 RTX Remix在 NVIDIA Omniverse平台上發揮AI加速工具的長處,將經典 PC 遊戲變成 RTX 重製版。

 

RTX Remix 在本週推出更新內容,模組改裝者只要按幾下滑鼠,就能在自己改裝模組的過程中使用帶有光線重建技術的 DLSS 3.5。其先進的AI神經渲染技術可以製作出更逼真寫實的光線追蹤效果,也有著更快的反應速度和品質,讓 NVIDIA GeForce RTX 玩家享受到更美好的遊戲體驗。

 

AI還支援 Remix 工作流程的其他部分。模組改裝者可以使用生成式AI紋理工具來分析經典遊戲中的低解析度紋理,產生精準符合物理原則的材質,包括法線貼圖和粗糙度貼圖,並且將解析度提高四倍。像這樣的工具還能節省模組改裝者的時間,快速處理原本可能單調乏味的任務。

臉書留言