Safiya Umoja Noble è una ricercatrice statunitense che si occupa di capire come la progettazione delle piattaforme digitali impatta sulla società. È un lavoro faticoso perché nessuno sa come sono progettati gli algoritmi di Facebook o Google e, quindi, il metodo da applicare è quello dell’osservazione dei comportamenti per poter indurre come sono fatte queste black‑box. È il tipico metodo delle scienze sociali: osservo e spiego i fenomeni. Ma, qualche volta, il metodo può portare a conclusioni sbagliate o, meglio, che non corrispondono alle reali cause di alcuni fenomeni.
È quello che, secondo noi, è accaduto nell’ultimo lavoro della Noble. Nel libro Algorithms of Oppression la ricercatrice americana ha teorizzato una sorta di propensione al razzismo, da parte di Google, nella progettazione degli algoritmi che forniscono i risultati del motore di ricerca. Questa propensione sarebbe il frutto della composizione dei team di sviluppo di Google formati tipicamente da giovani ragazzi bianchi e occidentali.
La teoria è basata sulle osservazioni del comportamento di Google. Sembra che la ricercatrice ed i suoi collaboratori abbiano provato ad effettuare ricerche sulle locuzioni “black girls” e “asian girls”: in entrambi i casi i risultati più rilevanti conducevano a siti pornografici.
La teoria, certamente basata anche su altre evidenze, sembra condannare la consapevole progettazione di Google. Invece, gli algoritmi sono studiati per far prevalere, prima di tutto ed a scopo pubblicitario, i siti più visitati o i siti che pagano. E non è colpa di Google se il mondo è pieno di voyeur a tempo perso.
Non riduciamo gli impatti di Google sulla società a strane teorie, altrimenti si perde in partenza.
ICS è l’acronimo di Industrial Control Systems, utilizzato nell’ambito del Rapporto