Instagram, l’AI di Meta è stata hackerata

L’automazione è una lama a doppio taglio. Quando ho iniziato a seguire l’evoluzione dell’intelligenza artificiale applicata al customer service, ero convinto che la velocità di risposta avrebbe risolto i problemi di milioni di utenti. Ma quello che è successo con il sistema di supporto di Meta mi lascia profondamente scettico. Il rischio non è solo che un bot possa sbagliare una risposta, ma che possa diventare la porta d’ingresso principale per attacchi su scala massiva.

Recentemente è emerso che degli hacker sono riusciti a manipolare il bot di supporto basato su AI di Meta, riuscendo a prendere il controllo di una quantità enorme di account Instagram. Non parliamo di un singolo utente che ha perso l’accesso, ma di un vero e proprio cedimento strutturale nei protocolli di verifica automatizzata.

Il fallimento della barriera automatizzata

Il meccanismo è quasi surreale. Gli attaccanti non hanno dovuto forzare password complesse o bypassare sistemi di autenticazione a due fattori tramite metodi tradizionali; hanno semplicemente “ingannato” l’intelligenza artificiale. Questo tipo di attacco, che potremmo definire una forma evoluta di social engineering applicato agli algoritmi, sfrutta la natura stessa del supporto AI: la sua predisposizione ad essere utile e a seguire istruzioni per risolvere i problemi degli utenti.

Se il bot è programmato per essere accomodante e per facilitare il recupero degli account, basta trovare la sequenza di prompt o di input corretti per convincerlo che l’hacker è, in realtà, il legittimo proprietario. È un paradosso tecnologico: più rendiamo l’AI capace di comprendere il linguaggio naturale e di essere empatica, più la rendiamo vulnerabile a manipolazioni semantiche. Meta ha confermato che circa 20.000 account sono stati compromessi. Un numero che, sebbene non rappresenti la totalità degli utenti, è assolutamente allarmante per la portata del danno potenziale.

Un bersaglio di alto profilo

Ciò che rende questa notizia ancora più pesante non è solo il numero di account coinvolti, ma la qualità dei profili colpiti. Non stiamo parlando solo di profili privati o di piccoli creator. Tra i soggetti compromessi figurano account istituzionali di altissimo livello, come quelli della Casa Bianca e della US Space Force. Quando la sicurezza di entità che gestiscono informazioni sensibili e di rilievo globale viene messa in discussio da un errore di un bot di supporto, il problema smette di essere una semplice questione di privacy e diventa una questione di sicurezza globale.

Anche ricercatori di sicurezza, come Jane Wong, sono finiti tra le vittime di questa falla. Questo dimostra che non esiste un livello di protezione che possa ritenersi al sicuro se l’anello debole è il processo di verifica stessa. Leggere di simili violazioni mi porta a riflettere su quanto la nostra fiducia nei sistemi automatizzati sia, in molti casi, ingiustificata. Come riportato da testate specializzate come Wired, la vulnerabilità dei modelli linguistici ai prompt injection è un tema che sta diventando centrale nel dibattito sulla cybersecurity moderna.

La nuova era del social engineering

Siamo di fronte a un cambio di paradigma. Fino a poco tempo fa, il social engineering richiedeva tempo, studio del bersaglio e una certa capacità di manipolazione psicologica dell’interlocutolo umano. Oggi, con l’avvento di agenti AI capaci di interagire con i sistemi di supporto, l’attacco può essere automatizzato e scalato con una velocità impressionante. Gli hacker non devono più convincere una persona stanca o distratta, ma devono solo trovare il pattern logico che manda in corto circuito le istruzioni di sicurezza del bot.

Meta ha dichiarato di aver preso in carico la situazione e di aver implementato misure correttive, ma la domanda che mi pongo è: quanto sarà difficile prevenire futuri tentativi di manipolazione? Se la difesa è un algoritmo, l’attacco sarà sempre un algoritmo altrettanto sofisticato. Il settore della sicurezza digitale, come sottolineato spesso da organizzazioni come l’ EFF, deve evolvere rapidamente per non restare sempre un passo indietro rispetto a queste nuove tecniche di exploit semantico.

Per noi utenti in Italia, la lezione è molto concreta e non riguarda solo la protezione del proprio profilo Instagram. È un invito a non dare per scontata la sicurezza dei processi di recupero account e a monitorare costantemente le attività sospette sui propri login. Se utilizzi l’autenticazione a due fattori, assicurati che sia basata su app di autenticazione o chiavi fisiche, e non solo su SMS, che restano comunque vulnerabili. In un mondo dove l’AI può essere manipolata per rubarti l’identità digitale, la vigilanza deve diventare una parte integrante delle nostre abitudini online.

Credete che sia ancora possibile affidare la gestione della sicurezza degli account a sistemi completamente automatizzati?

Fonte: 9to5Mac