Contro il deepfake, UNITN in prima linea
La nuova frontiera della lotta al falso si chiama deepfake, un’avanzata tecnica di manipolazione multimediale, impercettibile persino dal cervello umano, resa possibile dall’uso di sofisticate tecniche di intelligenza artificiale.
Il caso più famoso è probabilmente quello che ha riguardato Mark Zuckerberg, amministratore delegato di Facebook. Nell’estate del 2019 un video, creato dagli artisti Bill Posters e Daniel Howe e dall'agenzia pubblicitaria Canny, vedeva protagonista il fondatore del più famoso social network annunciare un distopico discorso sul controllo del futuro e dell’umanità: un falso finemente confezionato. L’immagine di Zuckerberg era stata infatti digitalmente manipolata per adattarsi alla voce, appositamente creata al computer, che recitava frasi mai pronunciate del calibro di: “Immaginate che un uomo possa avere il controllo completo dei dati rubati di miliardi di persone, tutti i loro segreti, le loro vite, il loro futuro: chiunque controlla i dati, controlla il futuro”.
Anche Nancy Pelosi, presidente della Camera dei Rappresentanti degli Stati Uniti è finita vittima del circuito deepfake. Un semplice rallentamento introdotto all’interno della sequenza di un video ha portato migliaia di persone a pensare che la Pelosi fosse in preda ai fumi dell'alcol.
Tuttavia il deepfake, in quanto tecnica di apprendimento e sintesi automatica, può facilmente costituire una minaccia anche al di fuori delle luci della ribalta e a danni di persone comuni. Sono infatti noti episodi di truffe, revenge porn, cyberbullismo che si sono avvalsi della manipolazione digitale. Per questo motivo le forze investigative e informatiche hanno intrapreso una vera e propria crociata contro il riconoscimento del falso e la ricostruzione della catena di elaborazione del dato multimediale. Una lotta che arriva anche in Italia, grazie a un team di ricerca capitanato dall’Università di Trento e di Firenze, attraverso il progetto Unchained (Uncovering media manipulation chains through container and content detectable traces). Finanziato dalla DARPA, agenzia governativa del Dipartimento della Difesa degli Stati Uniti incaricata dello sviluppo di nuove tecnologie per uso militare, il progetto della durata di 18 mesi ha l'obiettivo di scovare e tracciare in rete quei contenuti manipolati e potenzialmente diffamatori.
Giulia Boato, professoressa del Dipartimento di Ingegneria e Scienza dell’Informazione, forte delle competenze maturate nell’analisi dell’anatomia facciale, guiderà l’unità di ricerca dell’ateneo trentino: “Le tipologie di falsificazione – spiega – sono diverse. A volte vengono combinati e sovrapposti video esistenti, altre volte si fanno dire a persone reali frasi che non hanno mai pronunciato, altre volte ancora si generano al computer immagini umane. Oggi si riesce già a rilevare molte tracce quali, ad esempio, quelle lasciate dal sistema di acquisizione, la codifica e ri-codifica del segnale, alcune tecniche comuni di elaborazione, alcuni meccanismi di condivisione su social. Molto più complesso e risolto solo in piccola parte - continua - è il problema di valutare queste cose all’interno di una catena di elaborazione, il ciclo di vita del dato multimediale, in termini di provenienza, manipolazioni e condivisioni subite. È ciò su cui lavoriamo noi”.
Lo studio trentino verterà soprattutto sullo sviluppo di algoritmi basati su analisi statistiche e paradigmi di deep-learning che andranno ad investigare sull’intera catena del dato multimediale, permettendo all’investigazione forense di avvalersi della sua ricostruzione complessiva. “Solo così - conclude Boato - possiamo dare un supporto ai servizi di intelligence, per la polizia postale e per tutti gli attori preposti a tracciare contenuti falsi e malevoli”.