Il maschilismo dei dati

La gran parte delle decisioni negli ambiti più disparati oggi viene presa a partire dai dati. Dati che però nella stragrande maggioranza riguardano solo ed esclusivamente gli uomini.

A febbraio 2023, un’indagine del Guardian sugli algoritmi di intelligenza artificiale utilizzati dalle piattaforme di social media, ha scoperto che molti di questi – sviluppati da grandi aziende tecnologiche, tra cui Google e Microsoft – hanno un pregiudizio di genere e potrebbero “aver censurato o oggettivato le foto dei corpi delle donne”. Un chiaro esempio di come si possa provocare una distorsione nella lettura dei dati, spacciandola per reale.

Cosa potrebbero avere mai di osé – hanno esemplificato i due giornalisti che hanno co-condotto l’inchiesta per il quotidiano britannico – le immagini pubblicate dal National Cancer Institute, che dimostrano come fare un esame clinico del seno? Nulla. Non per gli algoritmi di Google che hanno, al contrario, attribuito loro il punteggio più alto, in quanto “immagini esplicitamente sessuali”.

“L’algoritmo lo scrive una persona o un pool”, osserva Guido Scorza, componente del Garante per la privacy, “e, siccome ci stiamo tutti interrogando sulla eticità dei processi di elaborazione degli algoritmi, la circostanza che chi li produce debba garantire che in quei pool lavori una composizione eterogenea di donne, uomini, minoranze, potrebbe avere un senso”. Dunque, innanzi tutto, è necessario aumentare la presenza delle donne a partire dall’educazione e dalla formazione, dallo studio delle materie Stem. Ma, accanto a questo, Scorza lancia una idea: “Si potrebbe pensare a una regolamentazione per cui le società con un fatturato superiore ad una certa soglia e che operano nel settore IA debbano garantire che nei pool di sviluppo degli algoritmi ci sia una rappresentanza delle diverse componenti della società”. Come dire: vorremmo che delle “quote rosa” non ci fosse più bisogno ma a quanto pare ci servono ancora!

Il problema è che i dati possono discriminare anche (e, spesso, soprattutto) quando non vengono raccolti: sono tanti gli ambiti in cui mancano informazioni aperte, trasparenti e disaggregate per genere. Ad esempio, non ci sono numeri precisi su quante siano le persone con disabilità in Italia. O su quali siano i costi nascosti dell’allattamento al seno.

Cosa resta fuori dai dati? “Non tutto ciò che conta può essere contato”, spiega la ricercatrice e giornalista Josephine Condemi durante la tre giorni di Reclaim The Tech, il festival su diritti digitali e giustizia sociale: “Siamo sempre più abituati a interagire con degli schermi, dove ci sono dei corpi icona, dei corpi avatar. Ma quando togliamo gli occhi dallo schermo, cosa vediamo? I corpi materiali, i corpi reali delle persone. Che non possono essere ridotti a un…

Cannes 2024: lontano dal red carpet, i 10 film da non perdere

Nonostante i media diano più spesso spazio a quanto avviene sul red carpet, il Festival di Cannes rimane soprattutto cinema. Un cinema fatto anche di tanti gioielli che spesso sfuggono dai radar e che proprio per questo vi segnaliamo qui, con tanto di titoli, autori, trame e trailer.

Olga Karach, riscoprire il senso della lotta bielorussa per la democrazia

Cresce il numero di persone che dalla Bielorussia di Aleksandr Lukašenka fugge all’estero, con il risultato che buona parte dell’opposizione che spera in un cambiamento democratico si trova nei Paesi baltici, in Polonia o in altre nazioni europee, da dove prosegue la lotta per il rispetto dei diritti umani e per la fine del regime. È anche il caso di Olga Karach, candidata al Nobel per la Pace e vincitrice del premio Langer, che si occupa di sostenere i disertori bielorussi e in generale la diaspora del suo popolo.