Perché hai rilasciato uno strumento di misurazione dei costi basato sull’intelligenza artificiale?
Florian Douetteau. Siamo stati tra i primi a supportare le aziende nei casi d’uso dell’intelligenza artificiale generativa. Abbiamo visto start-up e altri attori passare dal POC (prova di concetto) alla produzione, sia per l’implementazione del chatbot da parte di LLM [large language model, grand modèle de langage], analisi del corpo… E abbiamo visto emergere molto la questione dei costi. È durante la produzione che emerge questa domanda e appaiono le sorprese…
Perché tanta difficoltà nel valutare i costi relativi all’IA generativa?
Quando ricevi una fattura da OpenAI o da qualsiasi altro sviluppatore, è difficile tenere traccia del costo effettivo di ciascuna applicazione. La distinzione tra ciò che fa parte del POC o il rilascio in produzione è molto difficile da fare, perché i costi variano a seconda dei casi d’uso. Quando interagisci con un LLM, raramente è rilevante di per sé fin dall’inizio. Ogni volta, devi fornirgli dati specifici e il costo dipenderà dal volume e dal tipo di dati che gli invii. Il costo varia anche in base al tempo di risposta previsto. In definitiva, ogni utilizzo dell’IA è specifico all’interno dell’azienda. Non hai un’intelligenza artificiale che fa tutto. In brevissimo tempo avrai tre, quattro o cinque diverse applicazioni. Ci siamo resi conto che c’era un aspetto dinamico dei costi di cui tenere conto, anche se le aziende hanno lanciato molti progetti interni per integrare l’intelligenza artificiale generativa e i budget sono in fase di analisi. Il nostro strumento ti consente di misurare e gestire i costi applicazione per applicazione. L’implementazione di soluzioni AI in un’azienda richiede la comprensione dei vantaggi effettivi, valutati in modo diverso dalla sola pertinenza delle risposte.
Potrebbero esserci spiacevoli sorprese sul lato doloroso?
Potrebbe esserci un effetto di deriva dei costi. I clienti imposteranno i progetti utilizzando una “regola del 3” piuttosto basilare dopo il POC, calcolata sui costi iniziali. Il che non avrebbe senso. Lo abbiamo sperimentato con l’implementazione del cloud: il problema dei costi non controllati è ancora sentito… Le fatture sono cresciute senza alcuna anticipazione. D’altro canto, e questo è paradossale, tutti si aspettano anche una diminuzione dei costi dei LLM nel tempo. La moltiplicazione dei giocatori con OpenAI, Claude 3 (Anthropic), Azure, Mistral o Gemini, o anche open Source, creerà competizione tra i giocatori. Gli algoritmi verranno ottimizzati e soprattutto le aziende impareranno a lavorare con modelli più piccoli. Ciò renderà più vaga l’anticipazione delle spese effettive. Come per il web, la struttura dei costi cambierà molto in 5-10 anni. Inizialmente, avere il proprio sito o la propria applicazione mobile era una bella moda passeggera. Oggi ognuno ha la propria flotta, i propri team, i propri fornitori di servizi e un intero ecosistema.
Quindi sorgerà la domanda se interiorizziamo o no?
Questa sarà una questione davvero sostanziale, sì. Diversi fattori limiteranno le riflessioni: la maturità del mercato, la disponibilità delle macchine [affectant les temps de réponses] e controllo e sovranità dei dati.
