Donata Columbro
QUANDO I DATI DISCRIMINANO
Bias e pregiudizi in grafici, statistiche e algoritmi
I dati, percepiti come neutrali e oggettivi, possono essere invece fonte di discriminazione quando mettono in condizioni di scegliere cosa includere e cosa escludere mantenendo le strutture di potere attuali, che sono fonte di oppressione e ingiustizia sociale per milioni di persone. I dati sono infatti «situati», ovvero sono profondamente influenzati dal contesto in cui vengono raccolti.
Chi ha il potere di raccogliere e analizzare i dati? E chi non ce l’ha o non viene consultato? Sono domande che Donata Columbro, nel suo nuovo libro edito da Il Margine Quando i dati discriminano, invita lettrici e lettori a fare e a farsi per evitare che i dati, invece di aiutare, diventino amplificatori di discriminazioni a danno di soggetti come le minoranze.
«Lo dicono i dati»: ma siamo sicuri che quei dati così allettanti, che spesso confermano il nostro giudizio, non nascondano invece un pregiudizio? Quando si legge un articolo online o si apprezza un’infografica colorata è importante chiedersi chi trae beneficio da quella rappresentazione, e chi può esserne invece discriminato: i dati grezzi, infatti, cioè ancora non elaborati dagli esseri umani, oggettivi e neutrali, non esistono. I dati sono influenzati dal contesto in cui sono stati prodotti. Sono il risultato di un’indagine, non la sua premessa.
Nel tentativo di risultare obiettivi, incorruttibili e incontestabili, spesso si pensa che citare «i dati» porti in quella direzione. Ma la strada verso l’equità non passa dalla neutralità, quanto dalla consapevolezza della posizione che occupiamo nel mondo.
Nelle pagine del suo nuovo libro, Donata Columbro indaga a fondo il lato inconscio dei dati: universalizzando e standardizzando concetti come quello di “normalità”, si è infatti spesso più escluso che incluso, creando una rappresentazione del mondo che ha eliminato le anomalie. Stabilire però chi è dentro o fuori le statistiche non è un atto neutrale, ma una scelta, e come tale andrebbe insegnata e indagata.
Solo una persona consapevole che i dati sono costrutti umani e sociali e che la datificazione estrema – resa possibile e incentivata dall’intelligenza artificiale – può solo accelerare le dinamiche di oppressione, può impedire che questi siano usati per discriminare, invece che per lottare contro le disuguaglianze.
Collana: Annurca
Pagine: 128
Prezzo: 10€
In libreria da: 8 marzo 2024
*Donata Columbro è giornalista, divulgatrice e scrittrice. Collabora con «Internazionale» e «La Stampa», per cui cura la rubrica Data Storie. È docente a contratto per l’università IULM di Milano e per l’Università della Svizzera italiana di Lugano. Insegna data journalism al Master di giornalismo della LUISS di Roma e ogni mercoledì pubblica una newsletter su dati, algoritmi e tecnologia. È autrice dei libri Ti spiego il dato (2021) e Dentro l’algoritmo (2022).
