Nvidia aggiunge nuove funzionalità visive, vocali e linguistiche a ChatRTX, un chatbot locale gratuito per PC con schede grafiche Nvidia RTX

Nvidia aggiunge nuove funzionalità visive, vocali e linguistiche a ChatRTX, un chatbot locale gratuito per PC con schede grafiche Nvidia RTX
Nvidia aggiunge nuove funzionalità visive, vocali e linguistiche a ChatRTX, un chatbot locale gratuito per PC con schede grafiche Nvidia RTX
-

Nvidia ha ampliato le funzionalità di Chat for RTX (ChatRTX) aggiungendo il supporto per ulteriori Large Language Models (LLM), nonché il supporto per la visione e il parlato nell’ultima versione. Il chatbot locale gratuito non ha bisogno di inviare dati online quando lavora con le informazioni dell’utente, il che aiuta a mantenere riservate le discussioni.

Diversi LLM sono adatti a scopi diversi: discussioni generali, articoli scientifici, scrittura di saggi, ecc. Alcuni LLM hanno anche una formazione rigorosa per censurare i risultati, il che rende alcuni LLM più utili di altri. I modelli TensorRT-LLM precedentemente disponibili includevano il modello Mistral predefinito e Llama 2. Nvidia ha aperto ChatRTX ad alcuni nuovi modelli, Gemma e ChatGLM3.

Gemma è un LLM sviluppato da Google DeepMind e rilasciato nel 2024 sotto forma di modelli da due e sette miliardi di parametri. I modelli sono altamente ottimizzati per filtrare discorsi sensibili, informazioni personali e risposte rischiose o pericolose.

ChatGLM3 è un LLM sviluppato da Zhipu AI e Tsinghua KEG, rilasciato nel 2023 come modello da sei miliardi di parametri. Il modello bilingue cinese-inglese è stato progettato per essere un forte concorrente open Source del ChatGPT di OpenAI.

Nvidia ha aggiunto la rete neurale CLIP di OpenAI a ChatRTX per riconoscere automaticamente le immagini e associare ad esse il testo corrispondente. Ad esempio, se CLIP riceve l’immagine di un presentatore televisivo, che trasmette telecamere e luci in una stanza, etichetterà l’immagine come foto di uno studio televisivo. ChatRTX può quindi funzionare con le immagini senza etichettatura manuale dei contenuti. Anche il sistema di riconoscimento vocale Whisper di OpenAI è stato aggiunto a ChatRTX, consentendo agli utenti di pronunciare istruzioni a ChatRTX.

I lettori che desiderano provare un chatbot locale possono scaricare Nvidia ChatRTX all’indirizzo https://www.nvidia.com/en-us/ai-on-rtx/chatrtx/ purché soddisfino i seguenti requisiti. Il chatbot locale funziona su PC dotati di scheda grafica Nvidia GeForce RTX 30 o 40 e sono supportate anche schede grafiche Ampere e Ada con almeno 8 GB di VRAM. Chi non possiede una scheda compatibile può acquistare una veloce scheda Nvidia su Amazon. Altri requisiti di sistema sono Windows 11, 16 GB di RAM, un minimo di 35 GB di spazio di archiviazione libero e la versione del driver 535.11 o successiva.

-

PREV Il SoC per smartphone di fascia alta da 3 nm di Samsung è in lavorazione
NEXT Le preoccupanti voci di Arc Battlemage suggeriscono un possibile ritardo o addirittura la cancellazione della prossima architettura GPU di Intel