Google ha rilasciato uno strumento che consente agli sviluppatori di filigranare il testo generato dall’intelligenza artificiale. Lo strumento può anche identificare testi con filigrana.
Lo strumento si chiama SynthID ed è stato sviluppato dal dipartimento DeepMind di Google. Questo è il dipartimento di ricerca sull’intelligenza artificiale del colosso tecnologico. Google stessa ha creato SynthID per identificare più facilmente il testo generato dall’intelligenza artificiale. Lo strumento è ora reso open Source ed è disponibile nel toolkit Responsible Generative AI di Google, secondo l’azienda.
“Ora altri sviluppatori di intelligenza artificiale potranno utilizzare questa tecnologia per aiutarli a rilevare se il testo generato proviene dai loro modelli linguistici di grandi dimensioni (LLM)”. Ciò renderà più semplice per loro creare un’intelligenza artificiale in modo responsabile”, afferma Pushmeet Kohli, vicepresidente della ricerca presso DeepMind, al MIT Technology Review.
Filigrana
Già integrato nel chatbot Gemini di Google, SynthID rende rilevabili i contenuti generati dall’intelligenza artificiale aggiungendo filigrane invisibili a immagini, audio, video e testo man mano che vengono prodotti. Lo stesso strumento può anche riconoscere una filigrana in base a poche frasi.
Le filigrane sono uno strumento importante per le aziende che preferiscono non subire abusi sui propri modelli di intelligenza artificiale. L’intelligenza artificiale generativa viene utilizzata, tra l’altro, per generare e diffondere disinformazione su larga scala o per raccogliere immagini a sfondo sessuale senza il consenso dei presenti. Lo scopo di una filigrana è indicare chiaramente che le immagini e il testo non provengono da una fonte affidabile.
Diversi governi, come lo stato della California ma anche la Cina, vogliono rendere obbligatori i watermark per i contenuti generati dall’intelligenza artificiale. Tuttavia, la tecnologia necessaria a questo scopo non è ancora del tutto pronta. Altre aziende di intelligenza artificiale stanno preparando sistemi simili. Per questo motivo il concorrente di Google, OpenAI, afferma di avere una filigrana, ma non vuole ancora renderla pubblica, perché ciò potrebbe spaventare i clienti.
