L'avvento dell'intelligenza artificiale rappresenta sicuramente un aiuto molto apprezzato nel mondo del lavoro, e non solo, ma nelle mani sbagliate, strumenti come ChatGPT, Gemini o DeepSeek possono diventare vere e proprie armi digitali introducendo nuove forme di minacce cyber, come ad esempio il "vibe hacking" cioè l’uso di agenti AI capaci di condurre operazioni di estorsione, intrusione e spionaggio con un livello crescente di autonomia.

Nel 2025 gli attacchi cyber guidati da sistemi di Intelligenza artificiale a livello mondiale hanno raggiunto i 28 milioni, mostrando un incremento del 50% rispetto agli anni passati e, ad oggi, la maggior parte delle aziende non è preparata ad affrontare questa nuova minaccia in continua evoluzione.

Diversi strumenti di GenAI hanno reso possibile per chiunque (anche ai non addetti ai lavori) programmare e scrivere codebase sempre più efficiente, perfino creare malware, phishing e campagne di social engineering a basso costo. Le tecniche preferite dagli hacker sono phishing, deepfake e prompt injection.

L’episodio più significativo che rappresenta un vero e proprio caso studio  è l’operazione GTG-1002, in cui una rete di agenti AI coordinati da un operatore umano ha gestito in autonomia fino al 90% di un attacco su larga scala contro trenta organizzazioni. Nonostante i limiti tecnici significativi (es. la creazione di informazioni false dichiarando di aver ottenuto credenziali che poi si rivelavano inutilizzabili), questo caso segna il passaggio dall’AI come assistente virtuale all’AI come hacker autonomo.

Parallelamente, anche i sistemi difensivi stanno diventando sempre più automatizzati, anche se  intrinsecamente fallibili (20–30% di errore). Ciò rende estremamente pericoloso avere dei SOC  totalmente automatizzati.

Il settore deve correre per adattarsi: servono nuove forme di governance degli agenti AI, tracciamento delle loro azioni, controlli specifici, red teaming dedicato e una maggiore condivisione della threat intelligence. La finestra per strutturare queste difese si sta restringendo mentre le capacità offensive dell’AI evolvono rapidamente.

‍