I suggerimenti pubblicitari di Google hanno sfiorato il razzismo

Il test di BuzzFeed News del 2017 mostrò che Google accettava termini come “Jewish parasite” come target pubblicitario

Hai mai visto comparire nei suggerimenti di parole chiave termini che non avresti mai associato al tuo brand? Succede più spesso di quanto pensi, e a volte il risultato è peggiore di un semplice errore di segmentazione. Già nel 2017, un test di BuzzFeed News ha dimostrato che Google, la più grande piattaforma pubblicitaria al mondo, permetteva agli inserzionisti di indirizzare annunci verso frasi apertamente razziste, suggerite proprio dal suo sistema automatico di keyword suggestion. L’esperimento, condotto con una campagna reale, ha preso di mira termini come “Jewish parasite”, “blacks destroy everything” e altri epiteti discriminatori. Dopo la segnalazione, Google ha disabilitato quasi tutte quelle parole chiave, ma una – “blacks destroy everything” – è rimasta idonea per un periodo, segno che il filtro non era tempestivo né completo.

Nel 2016, Google aveva già rimosso 1,7 miliardi di annunci che violavano le sue policy, secondo il suo stesso report sugli annunci problematici. Eppure il sistema di suggerimento proponeva ancora espressioni offensive, dimostrando che la moderazione ex post non basta. Per chi gestisce campagne search, la lezione è chiara: gli algoritmi di suggerimento sono costruiti su pattern terminologici, non sul giudizio etico. Se non si bloccano a monte certe categorie, possono trasformarsi in trappole reputazionali.

Il test che ha smascherato il baco

BuzzFeed News ha lanciato una campagna pubblicitaria su AdWords (oggi Google Ads) utilizzando le parole chiave controverse. La campagna è andata effettivamente in onda, dimostrando che il sistema non solo suggeriva quei termini ma li accettava anche come target. Solo dopo l’intervento diretto della redazione, Google ha disabilitato “la stragrande maggioranza di quelle parole chiave”, come ha dichiarato l’azienda. Tuttavia, il fatto che anche una sola parola come “blacks destroy everything” sia rimasta attiva mostra una falla nel meccanismo di revisione automatica. Google ha riconosciuto il problema: “Il nostro obiettivo è impedire al nostro strumento di suggerimento di fare proposte offensive e bloccare qualsiasi annuncio offensivo. In questo caso, gli annunci non sono stati pubblicati per la maggior parte di queste parole chiave, ma non abbiamo intercettato tutti i suggerimenti offensivi. Non è accettabile e non cerchiamo scuse”. Le scuse, per chi lavora con budget pubblicitari, contano fino a un certo punto: serve che i controlli funzionino prima, non dopo un articolo di giornale.

Il dato di 1,7 miliardi di annunci rimossi nel 2016 dà la dimensione del problema: la piattaforma è abituata a gestire volumi enormi, ma l’eliminazione a posteriori non impedisce che annunci dannosi vedano la luce. Per chi pianifica campagne, questo significa che l’affidamento cieco ai sistemi di intelligenza artificiale può esporre il brand a rischi legali e di immagine. La raccomandazione pratica? Auditare regolarmente i suggerimenti di parole chiave, creare liste di esclusione personalizzate e non delegare completamente la scelta delle keyword all’algoritmo.

Un problema di sistema

Google non è l’unico colosso ad aver mostrato crepe nel controllo del targeting. Pochi mesi prima, nel 2016, il caso di esclusione per razza su Facebook aveva sollevato polemiche: l’inchiesta di ProPublica rivelò che Facebook permetteva agli inserzionisti di escludere utenti per etnia negli annunci immobiliari, una pratica potenzialmente illegale secondo il Fair Housing Act. E nel settembre 2017, un’altra inchiesta di ProPublica scoprì che Facebook consentiva di indirizzare annunci a quasi 2.300 persone interessate a temi come “Jew hater”, “How to burn jews” o “History of why jews ruin the world”.

Facebook reagì rapidamente: in un aggiornamento delle policy di Facebook, l’azienda annunciò la rimozione dei campi di targeting auto-segnalati per istruzione e datore di lavoro, dopo che ProPublica aveva mostrato che quegli stessi campi potevano essere usati in modo discriminatorio. “Li abbiamo rimossi immediatamente e li sospenderemo fino a quando non avremo i processi giusti per prevenire questo problema”, dichiarò Facebook. Il punto comune tra i due giganti è che i loro sistemi di targeting – costruiti per massimizzare la granularità – non avevano filtri sufficienti per individuare e bloccare termini chiaramente discriminatori. La lezione è trasversale: quando si progetta un’interfaccia pubblicitaria, ogni campo aperto all’input dell’utente può essere abusato, e l’uso di suggerimenti automatici amplifica il problema se non accompagnato da controlli semantici robusti.

Cosa cambia per chi fa advertising

La lezione per chi gestisce budget pubblicitari è chiara: non basta affidarsi agli algoritmi, serve un controllo umano costante. In pratica, ogni volta che si imposta una campagna, bisogna chiedersi: “Cosa potrebbe suggerire il sistema che non voglio vedere?”. Audit delle keyword suggerite prima del lancio, inserimento di una lista di esclusione completa, monitoraggio continuo delle campagne in esecuzione e richiesta di trasparenza alle piattaforme sono azioni minime ma necessarie. L’automazione non è un passe-partout: ogni strumento va stress testato prima di usarlo su larga scala. La prossima volta che imposti una campagna, ricordati che il suggerimento automatico non è la verità assoluta. A volte, tra una riga e l’altra, si nasconde un rischio reputazionale che nessun CPA vale la pena di correre.