Europol è molto preoccupata per ChatGPT

Credo che l’intelligenza artificiale diventerà uno strumento potente per i criminali.

Salva l’articolo

Ce l’ha l’agenzia dell’Unione europea per la cooperazione di polizia, Europol È stato emesso un rapporto Informazioni su come il modello linguistico ChatGPT di OpenAI può diventare un nuovo strumento per i criminali. Immaginano semplicemente che questo tipo di intelligenza artificiale porterà a attacchi informatici sempre più efficaci.

Il rapporto si concentra su due aree principali, la prima delle quali è ciò che sappiamo phishing o la pesca con la rete. Cioè, quando qualcuno viene manipolato tramite un sito Web o un’e-mail fasulli per fornire informazioni utilizzate dai criminali.

Oggi, fortunatamente, la maggior parte dei delinquenti è piuttosto scarsamente istruita e in gran parte non parla norvegese. Ciò significa che è facile vedere molti tentativi di phishing.

Ma con strumenti come ChatGPT, diventa molto più facile per i criminali generare testo senza errori di sintassi.

Possono essere usati per manipolare

Europol rileva inoltre che un modello linguistico può essere indirizzato all’uso di parole ed espressioni speciali o di un particolare modo di esprimersi. Ciò consentirà il cosiddetto manipolazione sociale (Ingegneria sociale) in quanto l’autore del reato sembra appartenere più facilmente a un particolare gruppo, età o organizzazione, o anche a un particolare individuo.

Tali tentativi di frode di solito richiedono molto tempo ed esperienza, ma Europol ora prevede che modelli linguistici come ChatGPT potrebbero rendere possibile farlo più velocemente, meglio e su scala molto più ampia.

Si sottolinea che ciò non si limita solo alla frode finanziaria, ma apre maggiori possibilità all’interno del terrorismo, della propaganda e della disinformazione, che in casi estremi possono colpire un’intera società.

Lascia che l’IA faccia l’hacking

L’altra area principale in cui i criminali possono utilizzare strumenti come ChatGPT è di nicchia per generare codice dannoso. Questo è altrimenti qualcosa che richiede una certa esperienza di programmazione.

Qui, l’obiettivo potrebbe essere quello di infettare i computer per il puro scopo di spionaggio, guadagno finanziario o semplicemente sabotaggio.

È vero che ChatGPT dovrebbe avere dei meccanismi che gli impediscano di generare questo tipo di codice dannoso, ma Europol pensa che sia relativamente facile aggirare questo problema suddividendolo tutto in pezzi più piccoli in modo che l’IA non “veda” l’intero quadro .

L’agenzia ritiene che alla velocità con cui questi modelli si evolvono, è anche solo una questione di tempo prima che i criminali informatici trovino modi più intelligenti e migliori per sfruttare il potenziale di tali strumenti.

Dovresti essere consapevole del problema

Ad oggi, anche i cattivi tentativi di truffa sono difficili da fermare e si teme che tali attacchi diventeranno molto migliori e più comuni in futuro. Il rapporto non trova alcuna soluzione alle sfide, ma si concentra sul rendere la maggior parte delle persone e delle autorità di polizia consapevoli delle nuvole scure all’orizzonte.

Inoltre, si indica che il settore tecnologico deve assumersi la sua parte di responsabilità mettendo in atto più meccanismi di sicurezza e colmando le lacune nei modelli che potrebbero facilitare l’utilizzo di questi strumenti da parte dei criminali.