A febbraio 2023, un’indagine del Guardian sugli algoritmi di intelligenza artificiale utilizzati dalle piattaforme di social media, ha scoperto che molti di questi – sviluppati da grandi aziende tecnologiche, tra cui Google e Microsoft – hanno un pregiudizio di genere e potrebbero “aver censurato o oggettivato le foto dei corpi delle donne”. Un chiaro esempio di come si possa provocare una distorsione nella lettura dei dati, spacciandola per reale.
Cosa potrebbero avere mai di osé – hanno esemplificato i due giornalisti che hanno co-condotto l’inchiesta per il quotidiano britannico – le immagini pubblicate dal National Cancer Institute, che dimostrano come fare un esame clinico del seno? Nulla. Non per gli algoritmi di Google che hanno, al contrario, attribuito loro il punteggio più alto, in quanto “immagini esplicitamente sessuali”.
“L’algoritmo lo scrive una persona o un pool”, osserva Guido Scorza, componente del Garante per la privacy, “e, siccome ci stiamo tutti interrogando sulla eticità dei processi di elaborazione degli algoritmi, la circostanza che chi li produce debba garantire che in quei pool lavori una composizione eterogenea di donne, uomini, minoranze, potrebbe avere un senso”. Dunque, innanzi tutto, è necessario aumentare la presenza delle donne a partire dall’educazione e dalla formazione, dallo studio delle materie Stem. Ma, accanto a questo, Scorza lancia una idea: “Si potrebbe pensare a una regolamentazione per cui le società con un fatturato superiore ad una certa soglia e che operano nel settore IA debbano garantire che nei pool di sviluppo degli algoritmi ci sia una rappresentanza delle diverse componenti della società”. Come dire: vorremmo che delle “quote rosa” non ci fosse più bisogno ma a quanto pare ci servono ancora!
Il problema è che i dati possono discriminare anche (e, spesso, soprattutto) quando non vengono raccolti: sono tanti gli ambiti in cui mancano informazioni aperte, trasparenti e disaggregate per genere. Ad esempio, non ci sono numeri precisi su quante siano le persone con disabilità in Italia. O su quali siano i costi nascosti dell’allattamento al seno.
Cosa resta fuori dai dati? “Non tutto ciò che conta può essere contato”, spiega la ricercatrice e giornalista Josephine Condemi durante la tre giorni di Reclaim The Tech, il festival su diritti digitali e giustizia sociale: “Siamo sempre più abituati a interagire con degli schermi, dove ci sono dei corpi icona, dei corpi avatar. Ma quando togliamo gli occhi dallo schermo, cosa vediamo? I corpi materiali, i corpi reali delle persone. Che non possono essere ridotti a un…
