Un modello che può aiutare gli utenti inesperti a identificare le email di phishing

Panoramica del design del sistema.

Gli attacchi di phishing sono cyber-attacchi attraverso i quali i criminali inducono gli utenti a inviare loro denaro e informazioni sensibili, o a installare malware sul loro computer, inviando loro email o messaggi ingannevoli. Poiché questi attacchi sono diventati sempre più diffusi, gli sviluppatori hanno cercato di sviluppare strumenti più avanzati per rilevarli e proteggere le potenziali vittime.

I ricercatori della Monash University e del CSIRO’s Data61 in Australia hanno recentemente sviluppato un approccio basato sull’apprendimento automatico che potrebbe aiutare gli utenti a identificare le e-mail di phishing, in modo da non installare inavvertitamente malware o inviare dati sensibili ai cyber-criminali. Questo modello è stato introdotto in un documento pre-pubblicato su arXiv e impostato per essere presentato a AsiaCCS 2022, una conferenza sulla sicurezza informatica.

“Abbiamo identificato una lacuna nell’attuale ricerca sul phishing, vale a dire rendersi conto che la letteratura esistente si concentra su rigorosi metodi ‘in bianco e nero’ per classificare se qualcosa è una e-mail di phishing o meno”, ha detto a TechXplore Tingmin (Tina) Wu, uno dei ricercatori che hanno condotto lo studio.

I ricercatori hanno recentemente cercato di sviluppare modelli che possono analizzare automaticamente le e-mail nella casella di posta elettronica delle persone e rilevare i messaggi di phishing. La maggior parte di questi metodi, tuttavia, sono stati trovati per identificare solo un numero limitato di modelli, mancando così molte e-mail dannose.

“In contrasto con altri metodi ‘in bianco e nero’, noi consegniamo il potere di decidere se qualcosa è sospetto agli utenti, dotandoli di risultati e conversioni facilmente comprensibili dalla macchina”, ha spiegato Wu. “Il ragionamento alla base di questo è che i recenti attacchi di phishing potrebbero non avere modelli maligni evidenti, ma possono invece sfruttare la psicologia umana per convincere gli utenti a consegnare le loro informazioni personali”.

Dopo essersi resi conto che i metodi automatici di rilevamento delle email di phishing non hanno raggiunto risultati soddisfacenti, i ricercatori hanno iniziato a spostare la loro attenzione sull’introduzione di strumenti di supporto al rilevamento, come gli avvisi di sicurezza, che permettono agli utenti di prendere la decisione finale se cancellare o meno le email. Anche questi avvertimenti, tuttavia, si sono rivelati inefficaci, in quanto possono essere troppo tecnici per gli utenti non esperti.

Wu e i suoi colleghi hanno quindi deciso di sviluppare uno strumento alternativo per aiutare gli utenti non esperti di email a determinare quali email sono sicure e quali sono potenzialmente dannose. Il modello che hanno sviluppato è stato progettato per produrre un riassunto più “digeribile” delle email, che evidenzia i fattori emotivi, il contenuto chiave del testo, e il risultato di un’analisi dell’intento.

“Il nostro sistema riassume le e-mail di phishing da tre diverse angolazioni per gli utenti di prendere decisioni informate”, ha detto Wu. “In primo luogo, riassumiamo le e-mail utilizzando una varietà di modelli di apprendimento automatico per creare un riassunto accurato e breve in modo che gli utenti possano essere rapidamente consapevoli del contenuto più importante nella e-mail.”

Il sistema in azione. Credito: Kashapov et al.

Dopo aver creato un riassunto digeribile del contenuto delle e-mail, lo strumento sviluppato da Wu e dai suoi colleghi cerca di identificare il possibile intento delle e-mail di phishing, in modo che gli utenti possano prendere decisioni più informate su cosa fare con l’e-mail. Per esempio, mostra loro se un’email da un contatto sconosciuto sta chiedendo loro di cliccare su un link. Infine, l’approccio creato dai ricercatori cerca anche di identificare i trigger emotivi.

“Deriviamo un modello per estrarre i trigger cognitivi in base al linguaggio utilizzato nelle e-mail”, ha detto Wu. “Un esempio di debolezza psicologica utilizzata dagli attaccanti è che gli utenti potrebbero tendere ad obbedire alla richiesta quando si tratta di punizione se non la rispettano”. Le informazioni da questi tre rami sono fuse per supportare gli utenti a prendere la decisione finale".

Invece di rilevare e filtrare automaticamente le email potenzialmente dannose, l’approccio ideato da Wu e dai suoi colleghi prepara una sintesi delle email che gli utenti possono poi utilizzare per decidere cosa fare con le diverse email nella loro casella di posta. Usando lo strumento regolarmente, quindi, gli utenti non esperti possono imparare a identificare i modelli comuni nel phishing da soli

Il modello introdotto dai ricercatori combina una varietà di metodi di rilevamento del phishing all’avanguardia in un unico, conciso “pacchetto informativo”. In contrasto con altri approcci proposti in precedenza, quindi, presenta agli utenti delle probabilità, invece di “verità dure”, prevenendo errori che potrebbero portare alla perdita di messaggi importanti.

“Il nostro sistema è progettato per affrontare le sfide di migliorare la leggibilità e l’efficacia delle informazioni generate sulle e-mail di phishing”, ha detto Wu. “Mentre la maggior parte degli avvisi attuali sono generati sulla base dell’URL, il nostro metodo si concentra sulla generazione di informazioni utili intorno all’intenzione delle e-mail. Cioè, per aiutare gli utenti a identificare i tentativi di phishing sfruttando meglio la loro conoscenza contestuale e puntare alle ultime tattiche di tendenza, ad esempio, utilizzando email di phishing che possono facilmente aggirare il rilevamento basato sull’URL.”

Il recente lavoro di questo team di ricercatori introduce un approccio alternativo per diminuire l’impatto degli attacchi di phishing, che non si basa su sistemi automatici soggetti a errori o su finestre pop-up che gli utenti tipicamente ignorano. Finora, il team ha creato un elementare proof-of-concept del loro sistema, ma ora hanno intenzione di svilupparlo ulteriormente.

“Ora abbiamo intenzione di continuare a migliorare il nostro sistema”, ha aggiunto Wu. “Continueremo a raccogliere i nuovi set di dati e ci assicureremo che il modello possa estrarre i contenuti utili dalle email indipendentemente da come si evolve la tattica di attacco. Condurremo anche uno studio su larga scala sugli utenti per garantire che il sistema sia user-friendly ed efficace”.

In futuro, il sistema sviluppato da Wu e dai suoi colleghi potrebbe aprire nuove possibilità per affrontare gli attacchi di phishing. Inoltre, potrebbe aiutare i provider di posta elettronica a insegnare agli utenti non esperti a rilevare autonomamente questi messaggi malevoli, riducendo così potenzialmente il loro impatto.

“I sistemi umano-centrici sono il primo passo verso lo sfruttamento dell’intelligenza complementare di uomini e macchine”, ha aggiunto Wu. “Alcuni studi futuri sono ancora necessari, ad esempio, per indagare l’impatto dei fattori umani sulla decisione finale, per capire l’assuefazione degli utenti nell’interagire a lungo con gli avvisi e implementare il sistema in una vasta area nella cybersecurity, non solo il phishing.”

Esplora ulteriormente Un nuovo modello per rilevare automaticamente e filtrare le email di spam

Ciao, sono Michele!

Sono molto felice di saperti qui.
Ogni giorno ti raccontiamo qualcosa di nuovo sull'AI e sulle nuove tecnologie. Seguici sui social o iscriviti alla newsletter!

Iscriviti alla newsletter!

Iscrivendoti accetti la nostra Privacy Policy

Ti va di rimanere aggiornatə?

Niente spam, niente pubblicità. Ogni tanto una mail. Tutto qui.
(Ah, ovviamente i tuoi dati non verranno mai ceduti)

Iscrivendoti accetti la nostra Privacy Policy