È giunto il momento per la personalizzazione dei principali modelli linguistici. Mistral AI lo capisce bene. La start-up francese offre ora il “fine tuning” dei suoi modelli dalla sua piattaforma. L’obiettivo è sempre lo stesso: spingere verso l’ultra-personalizzazione per raggiungere un numero maggiore di aziende e, più in generale, settori altrettanto diversificati.
Per adattarsi alla domanda, Mistral AI offre tre modi per procedere. Innanzitutto, tramite un SDK open Source: gli sviluppatori che desiderano perfezionare i modelli open Source di Mistral sulla propria infrastruttura, possono fare affidamento su mistral-finetune, una codebase dedicata costruita su LoRA. La startup promette potenti capacità di perfezionamento senza la necessità di sacrificare le prestazioni o l’efficienza della memoria.
Per la massima efficienza, si consiglia di utilizzare una GPU A100 o H100. La base di codice è ottimizzata per configurazioni di addestramento multi-GPU e nodo singolo, ma per i modelli più piccoli, come il 7B, una singola GPU è sufficiente, osserva Mistral
Un servizio più gestito o su misura, gli utenti hanno la scelta
La seconda opzione consiste in una soluzione più gestita direttamente nella piattaforma Mistral AI. Questi servizi sfruttano le tecniche di perfezionamento di Mistral e sono disponibili tramite l’API dell’azienda. L’avvio specifica che utilizza “Adattatori LoRA sotto il cofano per evitare di perdere la conoscenza del modello base e fornire un servizio efficiente.” In questo caso sono compatibili solo due modelli dell’azienda: Mistral 7B e Mistral Small. In definitiva, l’azienda prevede di renderne altri compatibili con i suoi servizi.
La terza possibilità, infine, è quella di usufruire di servizi su misura. Gli utenti possono mettere a punto i modelli di intelligenza artificiale di Mistral su applicazioni specifiche utilizzando i propri dati, un vantaggio ad esempio per aree di nicchia. Mistral afferma di offrire tecniche avanzate come la pre-formazione continua per includere la conoscenza proprietaria nei pesi dei modelli stessi. Tieni presente, tuttavia, che solo un gruppo ristretto di clienti avrà accesso a questa opzione.
La scelta della personalizzazione per attirare i clienti
Ovviamente, Mistral AI non è l’unica azienda che punta sulla personalizzazione per aumentare la propria quota di mercato. Altre aziende stanno facendo questa scommessa, a cominciare da Snowflake – anche lui investitore nella start-up – e OpenAI. Alla fine di aprile, lo specialista del cloud di dati ha lanciato il proprio LLM chiamato Arctic, che gli utenti possono personalizzare utilizzando i loro framework preferiti. Questi includono Nvidia NIM con TensorRT-LLM, vLLM e Hugging Face.
Un altro player, più discreto, ha fatto di questa personalizzazione il suo business principale. Si tratta della start-up AdaptiveML che lo scorso marzo ha raccolto 20 milioni di euro. Con sede in Francia e negli Stati Uniti, l’azienda sviluppa modelli linguistici adatti a ciascun business e li migliora continuamente con le interazioni degli utenti. Vuole aprire un centro di ricerca e sviluppo a Parigi, ma anche migliorare la sua tecnologia, variare le interazioni e consentire ai modelli linguistici di autocriticarsi.
Selezionato per te
