(Bloomberg) — Touchcast Inc., una startup che memorizza nella cache le query di intelligenza artificiale generativa più frequenti per rendere i sistemi di intelligenza artificiale più efficienti, sta raccogliendo 100 milioni di dollari da finanziatori di venture capital, tra cui l’investitore OpenAI Microsoft Corp.
Touchcast, con sede a New York, archivia e fornisce risposte per i prompt IA di uso comune, riducendo le risorse computazionali e l’energia necessarie per l’utilizzo di modelli come GPT-4 di OpenAI. L’obiettivo è aiutare gli sviluppatori e le aziende a implementare l’intelligenza artificiale generativa in modo più ampio con costi inferiori e tempi di risposta più rapidi.
Il Touchcast sostenuto da Accenture Plc avrà una valutazione di almeno 350 milioni di dollari dopo il nuovo finanziamento, ha affermato l’amministratore delegato Edo Segal, evolvendosi per fornire i dettagli del capitale che Microsoft ha infuso. Touchcast è in trattative con i grandi investitori della Silicon Valley, ha detto in un’intervista.
Le aziende stanno implementando sistemi di intelligenza artificiale per semplificare le attività quotidiane, ma la domanda alle stelle ha messo a nudo un collo di bottiglia critico nell’elettronica, in particolare nelle GPU, i chip scarsi utilizzati per addestrare e gestire i modelli di intelligenza artificiale. L’approccio di Touchcast potrebbe rappresentare un modo innovativo per utilizzare meglio le risorse informatiche ed energetiche, ha affermato Segal.
La startup ha recentemente lanciato quella che chiama tecnologia di distribuzione dei contenuti della cache cognitiva, che è come avere diversi piccoli banchi di biblioteca in diverse parti di una biblioteca gigante invece di un unico banco principale, facilitando l’accesso al materiale. La tecnologia aiuta a migliorare le prestazioni del sistema AI.
“Quando gli utenti fanno la stessa domanda, ricorrono ripetutamente al modello linguistico ampio”, ha affermato Segal. Nell’era del web basato sull’intelligenza artificiale, “una nuova classe di infrastrutture è fondamentale per offrire queste esperienze magiche su scala Internet, in modo sostenibile”.
Touchcast sta lavorando con Microsoft per creare sistemi per accelerare e ampliare la distribuzione delle query di intelligenza artificiale generativa. Sta distribuendo la tecnologia di caching cognitivo nei data center di Microsoft Azure, aiutando a eseguire gli strumenti Azure OpenAI per servire i clienti e ridurre significativamente i costi.
“La crescita esplosiva dell’intelligenza artificiale generativa è sulla buona strada per sbloccare trilioni di valore economico”, ha affermato Segal, “ma il suo destino dipende dalla risoluzione di una crescente crisi informatica ed energetica”.
©2024 Bloomberg LP
