Meta e le AI ads sui minori: 350 non bloccate

La moderazione automatica di Meta non è un sistema. È una facciata. Lo dimostra il fatto che 350 annunci pubblicitari contenenti materiale di abuso sessuale su minori siano transitati attraverso le piattaforme di Meta senza essere intercettati. E non si tratta di contenuti sinteticamente generati in modo astratto: alcune di queste AI ads includevano immagini di bambini reali, tra cui un membro di una famiglia reale europea. Non è un bug. È una scelta architetturale. E in un momento in cui Mark Zuckerberg e il board di Meta ripetono in ogni keynote la parola ‘safety’ come se fosse un prodotto in scatola, questa notizia dovrebbe farci chiedere una domanda scomoda: quante altre volte il sistema ha fallito in silenzio, prima che un legislatore decidesse di guardare?

I legislatori hanno annunciato l’avvio di un’inchiesta. Non è poco, ma è anche tutto ciò che possiamo dire con certezza: un’intenzione, non un provvedimento. La domanda che conta non è ‘perché non ha funzionato il filtro?’, ma ‘perché un’azienda che fattura miliardi sulla pubblicità ha deciso che 350 annunci di questo tipo non valevano il costo di fermarli?’. Perché fermare un ad significa perdere ricavi. Fermare 350 ads di questo tipo significa, per un’azienda la cui intera economia gira sul targeting, accettare un’eccezione strutturale. E le eccezioni, nel capitalismo della sorveglianza, non si accettano: si aggirano.

Qui il punto tecnico è cruciale e va detto con chiarezza, perché la narrazione del vendor ci ha abituati a una confusione comoda. Le AI ads in questione non erano semplici immagini generative: alcune contenevano volti di bambini reali, manipolati o inseriti in contesti nuovi. Questo cambia tutto. Un volto reale di un minore, anche se rielaborato da un modello generativo, resta un volto reale. La violazione non è solo di natura digitale: è una violazione fisica, giuridica, umana. E il fatto che un membro di una famiglia reale europea sia finito in questo calderone solleva una questione che nessun comunicato stampa di Meta potrà risolvere: chi ha fornito quell’immagine? Da quale database è stata estratta? E perché un sistema di content moderation che dichiara di riconoscere i volti dei minori non ha riconosciuto quello di un bambino la cui identità, per definizione, è pubblica e tracciabile?

La risposta, a mio parere, è più semplice e più inquietante di quanto si voglia ammettere. La moderazione AI di Meta, come quella di ogni grande piattaforma, funziona per pattern: riconosce categorie, flagga anomalie, scala con il volume. Ma il volume è il problema. Quando un annuncio arriva da un account creato con un’identità sintetica, quando l’immagine è un mashup tra un volto reale e un prompt generativo, quando il testo dell’ad è scritto in una lingua a bassa densità di marcatori, il sistema non ‘non vede’: vede, e decide che il costo del blocco è superiore al rischio della pubblicazione. Non è una teoria del complotto. È l’architettura di un algoritmo ottimizzato per non fermare il flusso. Fermare il flusso è, per un’azienda di advertising, l’equivalente di spegnere la linea di produzione.

Cosa cambia, concretamente, per l’utente italiano? Due cose. La prima: l’Unione Europea ha già in vigore il quadro dell’AI Act, che impone obblighi di trasparenza e di sicurezza per i sistemi di intelligenza artificiale ad alto rischio, e la pubblicità è uno di questi ambiti. Il testo del regolamento europeo prevede sanzioni fino al 7% del fatturato globale per le violazioni. Ma un regolamento vale quanto l’ente che lo applica, e la Commissione Europea ha dimostrato, più di una volta, tempi di esecuzione che lasciano a desiderare. La seconda: Meta pubblica un report di trasparenza che, in teoria, rende conto di cosa viene rimosso e di cosa no. Il Transparency Center di Meta è accessibile a chiunque. La domanda è: quei 350 annunci ci sono dentro? Con quali metadati? Con quale giustificazione per il mancato blocco? Se la risposta è ‘non ci sono’, allora il problema non è la tecnologia. È l’opacità.

C’è un aspetto che il dibattito pubblico tende a ignorare e che, da giornalista, mi preme segnalare. Le 350 AI ads non sono un episodio isolato: sono il sintomo visibile di un sistema in cui la moderazione è stata esternalizzata, automatizzata, e resa opaca al controllo umano. Un operatore umano che esamina un annuncio sospetto può riconoscere il volto di un bambino, il contesto, la grammatica della violenza. Un modello di machine learning no, o non abbastanza, o non quando il costo computazionale del ‘guardare meglio’ supera il budget allocato per ogni impressione. In altre parole: la sicurezza dei minori è un optional che si paga. E Meta, come ogni vendor, ha deciso che non valeva.

I legislatori che annunciano un’inchiesta lo sanno. E sanno anche che un’inchiesta, da sola, non blocca un annuncio. Serve una norma che obblighi la pubblicazione dei log di moderazione in tempo reale, che imponga un review umano obbligatorio per ogni contenuto che coinvolga minori, che renda l’azienda civilmente e penalmente responsabile non solo per il contenuto pubblicato ma per il contenuto che non ha intercettato. In Italia, il Garante della Privacy e l’AGCM hanno strumenti, ma li usano con la lentezza che conosciamo. Il rapporto annuale di UNICEF sui diritti digitali dei bambini non è un documento decorativo: è una lista di cose che non funzionano, e la moderazione degli annunci è in cima a quella lista da almeno tre cicli di pubblicazione.

Guardando avanti, la previsione è misurabile e non è ottimistica: entro la fine del 2026, la Commissione Europea dovrebbe aver aperto almeno un procedimento formale di infrazione contro Meta per violazioni dell’AI Act legate alla moderazione dei contenuti a rischio minori, con una sanzione indicativa che i mercati di Wall Street prezzano già nei modelli di rischio. Se questo procedimento non partirà entro dodici mesi, significherà che il quadro normativo europeo è un documento di facciata, e che la protezione dei minori resta, ancora una volta, una promessa da keynote. E in quel caso, la domanda non sarà più ‘perché Meta non ha bloccato 350 ads?’, ma ‘perché l’Europa non ha fatto niente, sapendo che non le avrebbe bloccate’.

Domande frequenti – Meta AI ads sui minori

Fonte: Wired