Sessismo, razzismo e disuguaglianze: una sfida anche per l’intelligenza artificiale

Basandosi su dati creati dagli esseri umani i sistemi di intelligenza artificiale possono incorporare (e di fatto incorporano) i pregiudizi radicati nella società. Con impatti non trascurabili in termini di rafforzamento delle disuguaglianze esistenti.

Sempre più istituzioni e aziende affidano i propri processi decisionali (come per esempio quelli relativi alla selezione del personale) a sistemi di intelligenza artificiale, nella convinzione che un algoritmo possa fornire una risposta scevra da qualsiasi condizionamento o influenza. Ma è proprio così?  

Il discorso sembrerebbe non fare una piega: gli algoritmi si limitano a fare ciò che si chiede loro e sono completamente indifferenti rispetto ai dati su cui sono chiamati a operare. Ma, c’è un ma: i dati su cui si basano sono infatti generati, raccolti e catalogati da persone in carne e ossa, le quali determinano anche da quali datasets gli algoritmi debbano attingere e su quali variabili e regole debbano fondarsi. E in entrambe queste fasi possono essere introdotti (e di fatto lo sono) pregiudizi e distorsioni, che in tal modo vengono incorporati nei sistemi di intelligenza artificiale.  

Studi e ricerche a conferma di ciò non mancano (raramente però superano i confini delle riviste specializzate, nonostante l’attenzione che il tema meriterebbe nelle nostre società sempre più tecnologizzate). In un recente articolo pubblicato su Stanford Social Innovation Review, Genevieve Smith e Ishita Rustagi (analiste del Center for Equity, Gender and Leadership dell’Università di Berkeley, California) hanno affrontato la questione prendendo le mosse da un’esperienza personale. Nel 2019, Genevieve e il marito hanno fatto richiesta per la stessa carta di credito: nonostante Genevieve avesse un punteggio di credito leggermente migliore e medesime entrate, spese e debiti del ma…

La democrazia non crede in Dio

Affinché la democrazia possa essere esercitata, la parola divina e l’esistenza stessa di qualsiasi entità mistica superiore devono essere assolutamente escluse dal dibattito pubblico. Pubblichiamo la seconda parte dell’intervento di Gérard Biard, caporedattore di Charlie Hebdo, alle Giornate della Laicità di Reggio Emilia.