Gli annunci deepfake utilizzati per fuorviare le persone sono l’ultimo sviluppo tecnologico, osserva l’esperto di sicurezza informatica Pieter Jansen di Darktrace. “Tutti gli elementi separati sono stati usati prima, ma se aggiungi tutti gli ingredienti insieme, allora è assolutamente nuovo.”
Jansen risponde all’inchiesta di BNR, da cui emerge che su TikTok è in corso una massiccia campagna pubblicitaria, che cerca di attirare i consumatori verso i fornitori di credito tramite deepfake. Gli annunci contengono affermazioni fuorvianti, come tassi di interesse dello 0-0,4% e nessun controllo dei precedenti. Tuttavia, le banche a cui portano gli annunci non vogliono avere niente a che fare con gli annunci di TikTok.
“Come essere umano, non puoi più difenderti da questo tipo di attacchi organizzati”
“Hai già visto annunci dannosi, come gli annunci falsi di John de Mol che ti chiedono di acquistare bitcoin. Ma è la scalabilità che lo rende pericoloso”, afferma Jansen.
Leggi anche | I deepfake attirano gli utenti di TikTok sui siti ABN Amro e ING: “Hai bisogno di un prestito?”
La maggior parte degli spot in cui le voci sono realizzate con l’intelligenza artificiale non sembrano ancora molto convincenti, ma le cose potrebbero cambiare in breve tempo. ‘Il passo successivo è che le voci sono fatte su misura. Poi può essere utilizzato anche per effettuare attacchi mirati. L’esperto di sicurezza informatica sottolinea anche gli sviluppi con ChatGPT. “Nei 30 giorni precedenti al lancio e nei 30 successivi, abbiamo visto aumentare la complessità testuale delle e-mail di phishing. I messaggi sono diventati più lunghi e più personalizzati. Sono stati aggiunti meno link e anche meno file. Pertanto, è sempre meno ovvio se si tratti di un’e-mail dannosa o meno.
Legislazione
A causa del rapido sviluppo, Jansen si aspetta presto una legislazione. ‘in Italia abbiamo visto che ChatGPT è stato bannato per un po’. Personalmente, penso che sia una reazione boomer, ma è anche tecnicamente molto difficile fare qualcosa al riguardo. La Commissione europea ha annunciato che verrà introdotta una legge sull’IA, che può comportare una multa del 6% del fatturato di un’azienda se non si è esperti di intelligenza artificiale.
Jansen si aspetta quindi, proprio come l’Autorità olandese per i consumatori e i mercati, che anche le piattaforme stesse si assumano la responsabilità di questo. “Dovrebbero sicuramente fare di più con esso. Come essere umano, non puoi più difenderti da questo tipo di attacchi organizzati. Questo attaccante deve avere successo solo una volta, mentre come difensore devi respingere tutti questi attacchi.
