Google ha presentato Gemma 2, la nuova versione della sua suite di modelli AI potenti ed efficienti, destinata a ricercatori e sviluppatori. Progettati per un’inferenza rapida ed economica, questi nuovi modelli sviluppati da DeepMind stabiliscono nuovi standard in termini di prestazioni.
Cosa devi ricordare:
- Gemma 2 supera i modelli di dimensioni simili, incluso il Modello 27B che rivaleggia con modelli il doppio delle sue dimensioni.
- Questa suite è progettata per funzionare in modo efficiente sulle GPU e TPU più diffuse, riducendo significativamente i costi di implementazione.
- È compatibile con i principali framework di intelligenza artificiale e disponibile con una licenza “commercialmente amichevole”.
- Include progressi nella sicurezza e strumenti per lo sviluppo responsabile dell’IA.
Un nuovo modello standard aperto incentrato su efficienza e prestazioni
Nella sua pubblicazione ufficiale, Google elogia i meriti di Gemma 2 che offrirà prestazioni eccezionali con i suoi modelli 9B e 27B. Più specificamente, il modello 27B (27 miliardi di parametri) offre un’alternativa competitiva a modelli equivalenti di dimensioni più che doppie. Da parte sua, il modello 9B (9 miliardi di parametri) surclassa concorrenti come il Llama 3 8B, stabilendo nuovi standard prestazionali per la sua categoria.
Il Modello 27B è progettato per funzionare in modo efficiente con inferenza a precisione completa su un singolo host Google Cloud TPU, una GPU NVIDIA A100 da 80 GB o H100 Tensor Core. Questa specificità potrebbe consentire lo sviluppo di un’intelligenza artificiale più accessibile ed economica.
Ottimizzato per velocità di inferenza elevate, Gemma 2 è progettato per lavorare con un’ampia varietà di hardware, dai laptop alle infrastrutture Cloud. È anche possibile testarlo con Google AI Studio o con Gemma.cpp su una CPU locale.
Gemma 2 includerà presto un modello con impostazioni da 2,6B, per colmare ulteriormente il divario tra convenienza leggera e prestazioni pesanti.
IA Open Source e sviluppo più responsabile
Tieni presente che Gemma 2 è disponibile sotto licenza « commercialmente-friendly », offrendo l’opportunità a sviluppatori e ricercatori di condividere e commercializzare le loro innovazioni. La sua compatibilità è garantita con i principali framework AI come Hugging Face, JAX, PyTorch o anche TensorFlow tramite Keras 3.0, vLLM, Gemma.cpp, Llama.cpp e Ollama. Gemma 2 è inoltre ottimizzato per NVIDIA TensioRT-LLM. Inoltre, a partire dal prossimo mese, gli utenti di Google Cloud potranno implementare e gestire facilmente Gemma 2 sulla piattaforma di sviluppo Vertex AI.
Google fornisce anche risorse agli sviluppatori per aiutarli costruire e distribuire l’intelligenza artificiale in modo responsabilecompreso un toolkit di intelligenza artificiale generativa responsabile.
Attenzione alla sicurezza
Google ha seguito rigorosi processi interni per garantire la sicurezza durante l’addestramento di Gemma 2. Sono stati condotti filtri di dati pre-addestramento e test approfonditi identificare e mitigare potenziali pregiudizi e rischi. Vengono pubblicati i risultati di numerosi parametri di riferimento pubblici relativi alla sicurezza e ai danni rappresentativi.
Secondo Google, fin dal suo lancio iniziale, Gemma lo è stata scaricato più di 10 milioni di volte, dando vita a innumerevoli progetti stimolanti. Ad esempio, il progetto Navarasa ha utilizzato Gemma per creare un modello radicato nella diversità linguistica dell’India.
