sviluppo di un metamodello per individuare i “deepfakes”

In occasione della ‘European Cyber ​​Week’, che si svolge dal 19 al 21 novembre a Rennes, il cui tema è quello dell’intelligenza artificiale, i team di Talete ha partecipato alla sfida AID (Defense Innovation Agency). Nell’ambito di questa sfida relativa al rilevamento delle immagini generate dalle moderne piattaforme di intelligenza artificiale, i team cortAIx, l’acceleratore AI di Thales, hanno sviluppato un metamodello per il rilevamento delle immagini generate dall’intelligenza artificiale (“deepfakes”).

Questo strumento mira a lotta contro la manipolazione delle immaginiper diversi casi d’uso, come la lotta contro la frode d’identità.

Questo metamodello Thales è costruito su un’aggregazione di modelli, ciascuno dei quali assegna un punteggio di autenticità a ciascuna immagine. Si avvale di tecniche di “apprendimento automatico”., alberi decisionali e valutazione dei punti di forza e di debolezza di ciascun modello al fine di analizzare l’autenticità di un’immagine.

Il team “Friendly Hackers”, all’origine di questa invenzione, fa parte di cortAIx, l’acceleratore AI di Thales, che conta più di 600 ricercatori e ingegneri IA, di cui 150 basati sull’altopiano di Saclay. I “Friendly Hackers” del Gruppo hanno sviluppato un toolbox, il “BattleBox”, il cui obiettivo è facilitare la valutazione della robustezza dei sistemi che integrano l’intelligenza artificiale contro attacchi volti a sfruttare le vulnerabilità di diversi modelli di intelligenza artificiale (compresi Modelli linguistici di grandi dimensioni).