I deepfake rappresentano un rischio serio per le aziende. Scopri come funzionano, quali sono le minacce che rappresentano e cosa puoi fare per proteggerti.
I deepfake stanno diventando parte integrante della cultura della disinformazione. L’ascesa dei deepfake sta avendo ripercussioni in diversi settori, con l’aumento del loro utilizzo improprio per frodi e altre forme di attacchi informatici. Sono in aumento i casi di utilizzo dei deepfake in attacchi informatici. Una recente truffa tramite videochiamata deepfake ha visto l’azienda di ingegneria britannica Arup indotta a inviare 25 milioni di dollari ai truffatori.
Un recente studio di TitanHQ e Osterman Research ha colto questo zeitgeist in tema di sicurezza, rilevando che l’11% delle organizzazioni intervistate ha subito un attacco basato su deepfake nell’ultimo anno. Questa percentuale può sembrare bassa rispetto ad altre tecniche, come il phishing tradizionale, ma questo è solo l’inizio… si prevede che entro la fine del 2025 saranno condivisi circa 8 milioni di deepfake. Molti saranno utilizzati per scopi illeciti.
Cos’è un attacco informatico Deepfake?
Il termine “deepfake” è nato nella comunità di Reddit nel 2017. Un utente con lo stesso nome utente ha creato una community subreddit per condividere pornografia deepfake di celebrità, creata utilizzando la tecnologia open source di face-swapping. Da allora, i deepfake hanno continuato a essere utilizzati in diverse forme dannose.
I contenuti deepfake manipolano un contenuto multimediale legittimo, come un video, modificandolo per adattarlo alle esigenze dell’editor. La tecnologia alla base di un deepfake è un tipo di intelligenza artificiale noto come deep learning, una forma di apprendimento automatico che utilizza una rete neurale. Gli algoritmi che creano i deepfake sono sufficientemente sofisticati da creare contenuti multimediali falsi altamente realistici. È proprio questa credibilità a rendere pericolosi gli attacchi informatici basati sui deepfake. I deepfake manipolano le persone inducendole a compiere azioni che avvantaggiano il criminale informatico. I deepfake potrebbero essere lo strumento definitivo per gli attacchi informatici basati sull’ingegneria sociale.
Esempi della minaccia degli attacchi informatici basati sull’intelligenza artificiale e sui deepfake
Gli attacchi informatici deepfake utilizzano tecnologie sofisticate, ma la tattica si basa sullo stesso principio: la manipolazione del comportamento umano. Nel panorama delle minacce si sta affermando un modello di mix-and-match di contenuti generati dall’intelligenza artificiale, utilizzando modelli linguistici di grandi dimensioni (LLM) e deepfake. Esempi di applicazioni dei deepfake ne mostrano l’utilizzo in frodi e phishing:
Scambio di volti Deepfake
Gli algoritmi dei deepfake sono così sofisticati da poter scambiare volti in tempo reale. Un recente attacco ha utilizzato questa tecnica per colpire un uomo d’affari della Cina settentrionale . I truffatori hanno utilizzato la tecnologia di scambio di volti durante una videoconferenza per ingannare l’uomo, facendogli credere di parlare con un amico fidato che aveva bisogno di denaro per una gara d’appalto. La truffa è costata all’uomo 4,3 milioni di yuan (622.000 dollari). Un rapporto di iProov del 2024 ha rilevato un aumento del 704% negli attacchi deepfake di tipo “Face Swap”.
Deepfake + agenti AI = attacchi informatici più sofisticati e pericolosi.
Si sta diffondendo l’allarme per le truffe di phishing iper-personalizzate generate tramite bot di intelligenza artificiale. Sono state individuate email false e personalizzate, create e progettate utilizzando l’intelligence raccolta da Generate AI. Gli agenti di intelligenza artificiale, come Operator di OpenAI, sono ormai così sofisticati da poter interagire con le pagine web, scrivere codice e fornire un framework ideale per la creazione, l’automazione e l’esecuzione di attacchi informatici da parte di un aggressore. Se a questa capacità si aggiunge la credibilità dei deepfake, si ottiene una tempesta perfetta che darà vita a un panorama di sicurezza popolato da minacce complesse e sofisticate.
Attacco spoof di Microsoft Copilot
Microsoft Copilot è un assistente digitale basato sull’intelligenza artificiale. I ricercatori hanno identificato campagne email di phishing mirate ai clienti che utilizzano Microsoft Copilot. Le email di phishing vengono presentate come comunicazioni di Copilot e incoraggiano gli utenti a cliccare su un link. Questo phishing potrebbe essere collegato a una videoconferenza deepfake come quella che ha causato perdite di 25 milioni di dollari ad Arup.
Considerando i trend delle minacce informatiche deepfake, aziende e MSP dovrebbero aspettarsi che i deepfake si infiltrino negli attacchi di phishing e di ingegneria sociale man mano che ci addentriamo nell’era dell’intelligenza artificiale. Le previsioni suggeriscono che gli aggressori si concentreranno sulla vita privata dei dirigenti aziendali. I ricercatori sottolineano che i video o gli audio deepfake saranno progettati per suscitare una risposta emotiva, tipica di un attacco di ingegneria sociale. Questa risposta creerà una reazione istintiva a inviare denaro o condividere informazioni riservate.
Sfide nel rilevamento dei deepfake
Identificare i deepfake può essere una sfida. I metodi utilizzati si basano generalmente sull’apprendimento automatico per identificare video falsi o anomalie audio. Tuttavia, i tassi di rilevamento sono ancora lontani dall’ideale; Thomson Reuters ha rilevato che il 95% delle identità sintetiche presentate durante i controlli KYC non viene rilevato. Un metodo utilizzato per migliorare il rilevamento dei deepfake è un test di vivacità biometrico facciale. I test di vivacità continuano a migliorare, ma non sono efficaci al 100%.
In che modo i deepfake influiscono sulla verifica dell’identità tramite e-mail?
I deepfake possono essere considerati una forma di furto d’identità. Video, foto e audio deepfake vengono utilizzati per impersonare un individuo, consentendo all’aggressore di eseguire attività relative all’identità che richiedono la verifica dell’identità. Supponiamo che un hacker ottenga l’accesso non autorizzato a un account di posta elettronica e sia in possesso di un deepfake di documenti d’identità, come un passaporto o una patente di guida. In tal caso, avrebbe tutto il necessario per aprire conti bancari online o per creare un’identità di cittadino.
Il fornitore di soluzioni biometriche iProov ha rilevato un aumento significativo dei deepfake implementati in attacchi di iniezione digitale . Questi tipi di attacchi rendono gli attacchi informatici deepfake scalabili. Gli attacchi di iniezione digitale vengono iniettati in un flusso di dati o bypassano la fotocamera del dispositivo, bypassando le misure di onboarding e autenticazione di account sensibili come l’email.
Strumenti e strategie per individuare i deepfake
Aziende e MSP devono aspettarsi che i deepfake diventino sempre più realistici. Ciò rappresenta una seria sfida nell’individuazione di queste minacce. I ricercatori di Osterman, tuttavia, raccomandano alle organizzazioni di utilizzare un mix di strategie di gestione del rischio umano (HRM) e soluzioni di sicurezza della posta elettronica che includano funzionalità di intelligenza artificiale difensiva. Implementando questo mix di strategie di sicurezza incentrate sull’uomo e sicurezza della posta elettronica basata sull’intelligenza artificiale, un’organizzazione può impostare livelli di protezione intelligenti in grado di gestire sofisticati attacchi informatici assistiti dall’intelligenza artificiale:
Gestione del rischio umano (HRM)
Osterman attribuisce un ruolo centrale alle strategie di “Human Risk Management ” per il controllo degli attacchi informatici assistiti dall’intelligenza artificiale, inclusi i deepfake. L’HRM è un approccio basato sui dati per la mitigazione del rischio, basato su formazione sulla consapevolezza della sicurezza basata sul comportamento e simulazioni di phishing. La ricerca di Osterman identifica la strategia che dovrebbe avere il massimo impatto, ovvero l’utilizzo di formazione e simulazioni sulla consapevolezza della sicurezza assistite dall’intelligenza artificiale per i dipendenti.
Sicurezza e-mail difensiva basata sull’intelligenza artificiale
Gli attacchi di phishing basati sull’intelligenza artificiale (IA) interagiscono con i deepfake per manipolare le emozioni e la fiducia delle persone. La ricerca di Osterman dimostra che gli strumenti di sicurezza della posta elettronica sono essenziali per potenziare le strategie di gestione delle risorse umane. Le soluzioni di sicurezza della posta elettronica basate sull’IA possono identificare le minacce emergenti e contribuire a fermare gli attacchi deepfake generativi basati sull’IA. Tecnologie come PhishShield utilizzano tecnologie di IA avanzate, come l’elaborazione del linguaggio naturale (NLP) e il machine learning, per individuare gli attacchi informatici assistiti dall’IA.
L’utilizzo di livelli di sicurezza più intelligenti e incentrati sull’uomo offre un modo efficace per gestire le minacce deepfake. Aziende e MSP possono utilizzare la gestione delle risorse umane e la sicurezza della posta elettronica basata sull’intelligenza artificiale per prevenire attacchi informatici sempre più sofisticati, come il Business Email Compromise.
Foto di Markus Spiske su Unsplash
