L’annuncio con il bambino è passato per giorni su Meta

L’inserzione è stata rimossa solo dopo l’intervento di una testata, mentre il Tech Transparency Project segnala un’eccezione per un partner

Un thumbnail video mostra un bambino seduto sul pavimento. Sopra l’immagine, una scritta che è già un manifesto: “Realizing Deep Fantasies with Generation AI. There is so much more than what is shown, use your imagination.” Non si tratta del messaggio criptico di un dark forum, ma di un’inserzione a pagamento distribuita sulle piattaforme Meta, rimossa soltanto ieri, dopo che WIRED ha contattato l’azienda. Il paradosso è tutto qui: un sistema che promette zero tolleranza verso lo sfruttamento minorile ha lasciato correre per giorni un annuncio palesemente illegale, intervenendo solo quando un giornalista ha chiesto spiegazioni. E se l’algoritmo non ha visto, o ha scelto di non vedere, quale porzione del fenomeno resta sommersa?

La tolleranza zero che non c’è

L’annuncio, segnalato dai ricercatori del Tech Transparency Project, utilizzava l’immagine di un minore per pubblicizzare contenuti generati dall’intelligenza artificiale. La sua circolazione, secondo i dati forniti da Meta, ha raggiunto almeno 2.563 account in otto Paesi europei, tra cui Italia, Francia, Germania e Spagna. Numeri apparentemente contenuti, che però raccontano solo l’esposizione diretta e non l’eventuale condivisione organica né il traffico inoltrato verso canali esterni. Il punto non è il volume grezzo, ma il meccanismo di revisione: l’inserzione è stata rimossa soltanto dopo l’intervento di una testata, esattamente lo schema già osservato a luglio, quando la BBC Eye ha documentato annunci su Instagram che usavano termini come “rape video” e “child video” per reindirizzare gli utenti su Telegram, dove il materiale veniva venduto a partire da 99 rupie indiane. In entrambi i casi, la policy di tolleranza zero è scattata a posteriori, su stimolo esterno, svuotando di credibilità l’intero impianto di moderazione preventiva.

A rafforzare il cortocircuito c’è un altro tassello: secondo il Tech Transparency Project, Meta concede di fatto un’eccezione al partner cinese GatherOne, consentendogli di promuovere app di nudificazione nonostante la dichiarata linea dura contro questo tipo di software. La forbice tra principi dichiarati e prassi operative non potrebbe essere più ampia, e rende difficile considerare i singoli episodi come incidenti isolati.

Il sistema che amplifica l’indicibile

Se ci fermassimo ai dati di reach, diremmo che il problema è marginale. Ma il cruscotto delle metriche pubblicitarie è cieco alla coda lunga dell’amplificazione. Lo scorso 3 luglio, l’inchiesta BBC Eye aveva già mappato un identico pattern: annunci a pagamento su Instagram che funzionavano come vetrina per canali Telegram dediti allo scambio di materiale pedopornografico. La catena è lineare quanto letale: un’inserzione apparentemente generica, una parola chiave studiata, e in pochi passaggi l’utente finisce in un ecosistema dove il CSAM viene comprato e venduto. La metrica dell’impression conta il primo anello, ma il danno si moltiplica ben oltre.

Nel frattempo, la stessa infrastruttura pubblicitaria si trova esposta a un’ondata di contenuti sintetici che nessun sistema di hashing tradizionale è in grado di riconoscere. Già nell’aprile 2024, Meta stessa spiegava che i malintenzionati utilizzano l’IA generativa per produrre AIG‑CSAM, materiale fotorealistico scalabile, capace di allargare ulteriormente il “pagliaio” in cui le forze dell’ordine cercano l’ago di una vittima reale. Quello che l’azienda descriveva come un rischio evolutivo oggi è un dato di fatto, mentre gli strumenti di rilevamento restano ancorati a un paradigma pre‑generativo. L’annuncio con il bambino non era un deepfake inafferrabile: era un’immagine statica e un testo esplicito, eppure è passato. Questo solleva una domanda scomoda per chiunque si occupi di brand safety e di misurazione: se il sistema inciampa sul contenuto più riconoscibile, quanta parte dell’AIG‑CSAM sta già scorrendo indisturbata sotto i radar delle metriche ufficiali?

Quello che ancora non sappiamo misurare

La questione non è solo tecnica, ma anche regolatoria. In caso di violazione confermata del Digital Services Act, Meta rischia sanzioni fino al 6 % del fatturato mondiale annuo, un moltiplicatore che trasforma ogni fallimento di moderazione in un rischio finanziario misurabile. Eppure, a oggi, non esiste una metrica pubblica che tracci quanti annunci AIG‑CSAM siano effettivamente circolati, né quante vittime generate dall’intelligenza artificiale restino senza nome perché i pixel non corrispondono a un bambino esistente. Il 17 luglio scorso, il procuratore di San Francisco David Chiu ha ordinato ad Apple e Google di rimuovere le app “nudify”, sostenendo che entrambi i negozi traggono profitto da tecnologie che sfruttano donne e ragazze generando deepfake non consensuali. L’iniziativa americana si aggiunge alle inchieste europee, ma l’orizzonte della misurabilità resta fermo: contiamo i singoli annunci rimossi, non l’effetto sostitutivo di un ecosistema che produce contenuti più rapidamente di quanto riusciamo a riconoscerli.

La vera minaccia non è nell’annuncio che abbiamo visto, ma in quelli che nessuno ha ancora contato. Finché le dashboard aziendali continueranno a raccontare un mondo di zero violazioni, senza confrontarsi con l’invisibilità dei nuovi materiali sintetici, ogni report sarà soltanto un esercizio di contabilità del visibile. E il costo reale, quello che nessuna metrica cattura per ora, è il prezzo di un’infanzia che l’IA può moltiplicare all’infinito, senza che un algoritmo alzi un alert.