Come può un cybercriminale sfruttare ChatGPT?
Zoom sur le Chat(bot)GPT
ChatGPT a été développé par OpenAI en novembre 2022. Ce système, basé sur l’intelligence artificielle, fait appel à un modèle de traitement automatique du langage, appelé GPT (Generative Pre-trained Transformer). L’outil est en mesure de générer des réponses claires sur un sujet soumis par l’utilisateur, et ce, de manière très rapide.
Uso #1 – Creare facilmente e rapidamente malware
Scrivere il codice sorgente per un malware indetectabile storicamente rappresentava un notevole sforzo. In seguito, è diventato più facile grazie alla presenza di numerosi tutorial online su piattaforme come YouTube. Ma oggi è possibile farlo in pochi secondi con l’aiuto di ChatGPT!
Gli hacker risparmiano tempo avendo accesso a quasi tutte le conoscenze disponibili pubblicamente sull’hacking, come i metodi per eludere l’EDR.
Uso #2 – Amplificare l’ingegneria sociale
ChatGPT può essere utilizzato anche dagli aggressori nello sviluppo delle loro strategie, strumenti e vettori di attacco o compromissione.
Ad esempio, è possibile chiedere a ChatGPT di scrivere email di spam e phishing, inclusi codice maligno e una catena di infezione. Il risultato è di alta qualità e viene generato in meno di 1 minuto!
Questa tecnica offre due vantaggi chiave per i criminali informatici:
- Miglioramento dell’autenticità, del grado di personalizzazione e della qualità dei messaggi, che spesso mancano attualmente e possono servire come indicatori per identificare messaggi maligni.
- Significativo risparmio di tempo, consentendo ai criminali informatici di concentrarsi sugli aspetti puramente tecnici dell’attacco.
Uso #3 – Sfruttare nuove vulnerabilità.
ChatGPT potrebbe essere di grande aiuto anche per i criminali informatici, facilitando la scoperta di nuove vulnerabilità. Tuttavia, è necessario che il robot possa aggiornarsi rapidamente ed indicizzare sempre più contenuti sulla minaccia informatica. Di conseguenza, ogni componente esposto o scarsamente protetto rappresenta più che mai una vera minaccia, poiché è un potenziale punto di accesso per un attaccante.
Prendiamo un esempio: in risposta alla richiesta “Il sito web dell’azienda X è ospitato da Y, indicami la più recente vulnerabilità di sicurezza che posso sfruttare per lanciare un attacco,” l’hacker otterrà molte informazioni per aiutarlo.
ChatGPT ouvre la voie aux script kiddies
Les script kiddies sont des hackers néophytes qui se contentent d’exécuter des programmes conçus par des hackers expérimentés, sans vraiment les comprendre ni les maîtriser. Les techniques d’attaque et de défense qui sont aujourd’hui accessibles à tous sur ChatGPT risquent donc de faire entrer dans l’arène de nombreux profils d’attaquants moins expérimentés (et qui sait, cela pourrait même donner des idées à du personnel malveillant) !
L’uso di ChatGPT in azienda: i rischi
Rischio #1 – Utilizzare dati senza detenere i diritti di proprietà intellettuale
Ad esempio, semplicemente copiare e incollare i contenuti generati dall’assistente virtuale ChatGPT (senza prendersi il tempo per verificare le informazioni prodotte) aumenta il rischio di plagio.
Rischio #2 – Fonti difficili da verificare
Altro problema: l’uso di ChatGPT non consente di controllare le fonti delle informazioni generate. Di conseguenza, le risposte fornite dall’assistente virtuale sono più difficili da verificare. E poiché spesso sembrano più elaborate, gli utenti potrebbero essere tentati di considerarle come una verità assoluta troppo rapidamente.
Rischio #3 – Intensificare le fughe di informazioni.
Infine, ChatGPT può portare alla condivisione involontaria (o intenzionale) di informazioni sensibili con il bot, senza sapere se e come verranno utilizzate in seguito. Immagina che i tuoi dati finanziari o i dati personali dei tuoi clienti siano accessibili tramite lo strumento!
Come proteggersi dalle utilizzazioni malevole di ChatGPT?
Consiglio n. 1 – Rafforzate le vostre buone pratiche di sicurezza informatica.
Con ChatGPT, il lavoro degli hacker è notevolmente facilitato: il tempo risparmiato nella creazione di malware e email di phishing (ad esempio) consentirà loro di sviluppare attacchi più complessi e più difficili da rilevare. Pertanto, le migliori pratiche di sicurezza dovranno essere considerate con un alto grado di priorità per ridurre al minimo la superficie d’attacco.
Quelques exemples de bonnes pratiques à adopter dès maintenant
- Gérer les vulnérabilités et disposer d’un processus de Patch Management performant.
- Mettre en place un SOC nouvelle génération capable de répondre efficacement aux menaces connues et encore inconnues des bases de signature.
- Renforcer la sensibilisation du personnel face à la montée en puissance de l’ingénierie sociale et du phishing et l’accompagner dans les nouveaux usages.
Consiglio n. 2: Monitorare costantemente le nuove tattiche degli attaccanti.
Per rafforzare la sicurezza informatica, la monitoraggio è una pratica essenziale: consente di determinare il livello tecnico degli attacchi e di evitare di essere sopraffatti dalla loro crescente sofisticazione e capacità di causare danni.
Quindi, l’obiettivo è mettere in atto:
- Monitoraggio delle vulnerabilità, per anticipare nuove debolezze nei componenti.
- Osservazione operativa e strategica, per seguire attentamente i nuovi metodi degli attaccanti (per ulteriori informazioni su questo argomento, fare riferimento al framework MITRE).
- Osservazione legale, per rimanere informati sulle leggi relative agli attacchi legati all’IA (come la perdita di informazioni sensibili).
« L’arrivée d’outils comme ChatGPT a donné naissance à de formidables opportunités pour accélérer et améliorer le quotidien. L’adoption de ces outils doit cependant être accompagnée pour en maîtriser les risques, autant liés à de mauvaises pratiques qu’à de réelles volontés de nuire. La veille technologique est une fois de plus indispensable [pour un RSSI]. »
Tristan Savalle • RSSI, Advens
Professionisti della cybersecurity: È ChatGPT uno strumento da sfruttare?
ChatGPT può far esitare i professionisti della sicurezza informatica. Infatti, questa rivoluzionaria assistente virtuale può sollevare preoccupazioni legittime, ma può anche essere di grandissimo aiuto nel loro lavoro quotidiano
Il soggetto è certamente importante, ed è per questo che Advens investirà presto per migliorare le sue pratiche di sicurezza! Vuoi far parte di questa nuova avventura?
