DeepFakes

In rete si possono trovare innumerevoli immagini degli attori e dei personaggi più famosi, ma molte di queste sono false o più precisamente deepfake. Il deepfake è una tecnica basata sull'intelligenza artificiale adottata per la ottenere una sintesi dell'immagine umana. Viene usata per combinare e sovrapporre immagini e video esistenti con video o immagini originali, tramite una tecnica di apprendimento automatico. La tecnica è spesso usata per realizzare fake newsbufale, truffe, o compiere atti di cyberbullismo e crimini informatici di svariata natura.

Ad una recente conferenza sulla sicurezza informatica negli Stati Uniti è stato mostrato come realizzare, con estrema facilità immagini e con pochissima spesa, false immagini di Tom Hanks. A scopo di sperimentazione, un data scientist di FireEye ha costruito una bufala su Tom Hanks per testare la facilità con cui il software open source dei laboratori di intelligenza artificiale potrebbe essere adattato a campagne di disinformazione. Si è giunti alla conclusione che anche persone con poca esperienza tecnica possono adottare questi sistemi e realizzare cose particolarmente potenti e pericolose.

Viste a piena risoluzione, le immagini false di Tom Hanks hanno difetti come pieghe innaturali del collo e sfumature della pelle, ma esse comunque riproducono con accuratezza i dettagli più familiari del viso dell'attore. Se presentate sui social network a piccole dimensioni le immagini create da sistemi di intelligenza artificiale possono essere prese per vere. Tutto questo si ottiene con un software non particolarmente costoso alimentato da alcune centinaia di foto reali.

L’uso di questi strumenti aumenta il timore che si possa facilmente amplificare il fenomeno delle deepfakes che, ad oggi, sono presenti solo in siti di tipo pornografico o di intrattenimento. Tuttavia, molte aziende, gruppi di ricerca ed accademici stanno investendo nella ricerca per mettere a punto sistemi ed algoritmi che siano in grado di identificare immagini falsamente costruite e, spesso, arricchite da tracce vocali che rendono ancora più realistica una notizia o una dichiarazione di un personaggio famoso che in realtà non ha mai avuto luogo.

Il fenomeno è comunque in una fase di evoluzione e perfezionamento. Secondo gli esperti, pare che uno strumento o un’applicazione killer per realizzare disinformazione tramite deepfake non sia ancora arrivata alla piena maturità. Al momento si ottengono deepfake con strumenti e tecnologie relativamente semplici ed economiche e con manodopera a basso costo. Realizzazioni più sofisticate richiedono più tempo e maggiori competenze. Tuttavia, ciò non esclude la necessità di sviluppare fin da subito efficienti rilevatori di deepfake.

I grandi player in ambito social sul web stanno investendo su una questione così delicata. Twitter ha introdotto nel marzo 2020 una nuova regolamentazione per combattere la condivisione di contenuti mediatici di sintesi o manipolati che possono arrecare danni. In particolare, questi tweet vengono etichettati con uno speciale label e gli utenti avvertiti. YouTube ha promesso che non tollererà i video falsificati relativi alle elezioni 2020 negli Stati Uniti e al censimento che mirano a indurre in errore il pubblico. Facebook ha lanciato una sfida a ricercatori di tutto il mondo, e investito 10 milioni di dollari, per la messa a punto di un sistema per addestrare i rilevatori di immagini deepfake e premiare quello più performante. Sia Facebook che Google hanno diffuso dei dataset di immagini deepfake per aiutare i ricercatori a sviluppare delle tecniche di rilevamento.

Blogs network

Iscrizione alla newsletter

I agree with the Privacy e Termini di Utilizzo
Con l'iscrizione riceverai news sul mondo dell'IT e Big Data.
Back to Top