Google ha scoperto e bloccato per la prima volta un exploit zero-day di IA che viola l’autenticazione a due fattori

Google ha scoperto un exploit zero-day creato dall'IA

*Breve riepilogo dei fatti*

Google Threat Intelligence Group (GTIG) ha rilevato e bloccato per la prima volta un nuovo exploit zero-day. L'exploit è stato generato con l'intelligenza artificiale, non scritto manualmente da un umano. Obiettivo dell'attacco: una manipolazione su larga scala del sistema di autenticazione a due fattori (2FA) di un'applicazione web open source per la gestione di sistemi. Come sono stati riconosciuti i segni dell'IA: nel codice Python erano presenti "firmature" – una falsa valutazione CVSS, formattazione tipica da "apprendimento", e schemi caratteristici dei grandi modelli linguistici (LLM). Motivo della vulnerabilità: errore di logica. Lo sviluppatore aveva assunto che un determinato componente del sistema fosse sempre sicuro e non lo aveva verificato. Attraverso questo elemento non controllato, gli aggressori bypassavano la 2FA. Obiettivo dell'attacco: Google non ha rivelato l'applicazione specifica. Ruolo di Gemini: secondo i ricercatori, il modello Gemini non è stato usato per creare l'exploit. Prevenzione: l'attacco è stato fermato prima che potesse diventare diffuso.

Altri punti emersi da GTIG
1. Nuove tecniche di attacco
Gli aggressori utilizzano l'IA non solo per creare codice dannoso, ma anche per "bypassare" le infrastrutture delle stesse IA.

2. Inganno di ruolo
I hacker formulan richieste come se fossero esperti in sicurezza, costringendo i modelli a comportarsi diversamente da quanto previsto dalle limitazioni.

3. Caricamento di grandi basi dati
All'interno dei modelli vengono caricati interi cataloghi di vulnerabilità, poi si utilizza lo strumento OpenClaw per debug delle minacce in un ambiente controllato prima del reale deployment.

Conclusione
Google è riuscita a individuare e neutralizzare l'exploit creato dall'IA grazie all'analisi dettagliata del codice e al riconoscimento della "firmatura" di machine learning. Ciò sottolinea la necessità di verifiche continue della logica delle applicazioni e della consapevolezza che gli aggressori possono usare l'IA sia come strumento per creare attacchi, sia per bypassare i meccanismi difensivi stessi.