Perché le donne usano meno l’intelligenza artificiale (e non contribuiscono a progettarla)
Hai voglia poi trattare i bias come problema tecnico
La scorsa settimana non ho mandato la newsletter. Durante l’editing è arrivata una notizia che ha fermato tutta la comunità del mondo del giornalismo tech, e cioè la morte di Carola Frediani. Una persona incredibile, oltre che una delle migliori professioniste mai conosciute su questi temi, da riscoprire attraverso i ricordi di chi ha lavorato a lungo con lei, ma soprattutto attraverso il suo progetto più lungimirante, la newsletter e poi sito collettivo oggi, Guerre di Rete, con cui ho avuto la fortuna di collaborare. Ci mancherà moltissimo.
Oggi parto proprio dal pezzo che ho scritto per GdR su chi sono le persone che lavorano nel mondo tech e da un report sul perché le donne non usano l’intelligenza artificiale, che mi ossessiona da mesi.
Venerdì 12 giugno ci vediamo a Roma al Casotto Monte Ciocci, alle 18:30, per una delle ultime presentazioni cittadine di “Perché contare i femminicidi è un atto politico”? Dai <3
Cosa ho scritto (o cosa ho detto)
Per SkyTg24 ho parlato a lungo con francesca svanera sulla mancanza di dati relativi agli abusi dell’infanzia. Poi ci chiediamo perché continuino a verificarsi casi come quello della bimba di Bordighera. Il motivo è che “per abusare di un bambino ci vuole un villaggio, e oggi, noi, siamo quel villaggio”, mi ha detto Francesca.
Giulia Zoli di Internazionale mi intervista nel podcast Il Mondo sulla violenza maschile contro le donne con diagnosi psichiatrica e disabilità. Grazie a chi sta ancora facendo girare il pezzo, e alle survivor che mi scrivono “serviva”. Vi penso.
Lunedì su Numeri ho parlato di tassa patrimoniale e di come abbiamo sempre dei problemi a capire cosa sia davvero la ricchezza dei super ricchi, per questo le redazioni continuano a produrre data viz sul tema.
Sei tra le 14913 persone che leggono la newsletter. Nell’ultima puntata abbiamo cercato di capire se davvero il ministero dell’interno abbia cominciato a contare i femminicidi.
“Chi viene sfruttato e oppresso nella produzione e nell'uso dell'IA è esattamente la stessa categoria di persone che è stata storicamente sfruttata e oppressa dai poteri globali: le donne, le persone di colore e i cittadini del sud del mondo.”
Rachel Adams, The New Empire of AI (2024)
Se le donne usano meno l’IA (e non contribuiscono a progettarla)
Se chiediamo al chatbot di Dall-e di mostrarci una “persona che lavora nel tech”, senza ulteriori dettagli, il risultato sarà un uomo, bianco, in un ufficio di design con grandi finestre e almeno tre schermi sulla scrivania, oppure con indosso un visore, al centro della stanza, intento a spostare elementi digitali che solo lui può vedere. Se continuo ad aggiornare l’immagine, il protagonista, la mia “persona del tech” non cambia, è lì, con i suoi schermi, ben vestito e sicuro di sé, a digitare codice o disegnare complicati algoritmi. Un lavoro solitario e un ruolo di alto profilo, di impatto, sembra suggerire l’atmosfera generata dalle IA.
Così scrivevo nel 2024 nel pezzo scritto per Guerre di Rete quando Carola Frediani mi aveva chiesto di creare “un identikit delle persone che lavorano nel tech a livello globale”. Avevo avuto parecchie difficoltà a capire chi far rientrare nella categoria (ma è proprio la parte che amo di più del mio lavoro di ricerca dati) e alla fine era emerso che:
Secondo il Global Gender Gap Report 2023 del World economic forum le donne rappresentano solo il 33,2% dei lavoratori nell’ambito delle tecnologie, dell’informazione e dei media, una classificazione comunque molto ampia del settore.
In Europa, secondo lo studio della Commissione Europea “Donne nell’era digitale” solo 24 laureate su 1000 hanno una specializzazione collegata all’ICT – delle quali solo sei trovano lavoro nel settore digitale. La quota di uomini impiegati in questo settore è 3,1 volte maggiore di quella delle donne.
Non esiste invece una mappa rappresentativa della forza lavoro nell’ICT a livello internazionale.
I dati di oggi non sono molto diversi da quelli disponibili nel 2024, così come l’immagine che ho provato a far produrre a ChatGPT stamattina:
La questione lavorativa comincia però con il digital divide nell’accesso alle tecnologie:
secondo l’UNICEF, nei paesi a basso reddito il 90% delle ragazze e giovani donne tra i 15 e i 24 anni è offline, contro il 78% dei coetanei maschi. In Asia meridionale il divario raggiunge i 27 punti percentuali. Per ogni 100 ragazzi che possiedono competenze digitali, ci sono appena 65 ragazze con competenze analoghe. E in 41 paesi analizzati le giovani donne hanno una probabilità inferiore del 13% di possedere un telefono cellulare rispetto ai ragazzi che vivono nella stessa famiglia. In Italia l’Istat ci dice che nel 2024 dichiara di accedere a internet l’84,5% degli uomini, e il 79,5% delle donne.
Secondo l’indice WiDigital, che misura il divario di genere nel digitale per ogni paese UE, in Italia solo il 50,3% delle donne ha competenze digitali di base o superiori. Il punteggio sulle iniziative politiche dello stato è 31 su 54, e ci mette nella fascia medio-bassa della classifica.
Con l’arrivo dell’intelligenza artificiale e l’illusione che una tecnologia così abilitante potesse ridurre di molto questi gap, non ci siamo resi conto che invece continuava un pattern che la giornalista Mara Bolis, ex collaboratrice di Quartz, ha identificato bene:
“Qualche anno fa, in un'intervista a Quartz, ho sostenuto che le donne vengono spesso caratterizzate in modo scorretto come "avverse al rischio" in ambito finanziario, quando una descrizione più accurata sarebbe "consapevoli del rischio” (…) Le donne vedono spesso le falle nei sistemi che non hanno costruito, valutano attentamente la posta in gioco e agiscono di conseguenza”.
È un fenomeno confermato da un report di cui ho scritto per SkyTG24, ma che torna a ossessionarmi: è una meta-analisi pubblicata da Harvard Business School, che sintetizza i risultati di 18 studi internazionali condotti su più di 140mila persone. Tra il 2022 e il 2024, le donne sono state il 42% degli utenti globali di ChatGPT e Perplexity, e solo il 31% di quelli di Anthropic. Su mobile il divario aumenta: solo il 27% di chi scarica l'app di ChatGPT è donna.
Perché succede? Tra le motivazioni riportate nei 18 studi si legge che:
Le donne credono che saranno giudicate più duramente per l’uso dell’IA generativa sul lavoro. Uno degli studi ha rilevato che le ingegnere che usavano l’IA per generare codice venivano valutate come il 9% meno competenti rispetto ai colleghi maschi, pur a fronte di risultati identici.
Uno studio condotto in Germania ha mostrato che i chatbot di IA generativa consigliavano alle donne di chiedere stipendi significativamente più bassi rispetto a uomini con profili identici.
Consapevolezza: la maggior parte dei principali sistemi e piattaforme di IA richiede un’esplicita rinuncia per proteggere i dati degli utenti dall’essere usati per addestrare i modelli. Come per altre adozioni tecnologiche, una delle ricerche ha dimostrato che le donne sono più preoccupate degli uomini riguardo alla gestione dei dati da parte dell’IA, in parte perché le donne subiscono tassi più elevati di abusi e molestie facilitati dalla tecnologia.
Ormai chi fa divulgazione in questo settore è stanca di ricordare gli esempi di discriminazioni algoritmiche, come i sistemi di reclutamento basati sull’IA che penalizzano i CV con riferimenti a college femminili o ad attivismo per i diritti delle donne, i modelli di valutazione del credito che generano esiti diversi per uomini e donne con profili finanziari identici, gli algoritmi pubblicitari che mostrano a donne e persone non bianche annunci di lavoro meno prestigiosi e peggio retribuiti. Casi che, presi singolarmente, vengono spesso descritti come malfunzionamenti o bug da correggere, mentre invece dovremmo allargare lo sguardo e tornare ai dati che avevo cercato per Guerre di Rete: circa il 12% delle posizioni di leadership nel settore è occupato da donne, e il 73% delle donne che lavorano nel tech dichiara di aver subito forme di bias di genere, che vanno dal favoritismo verso i colleghi maschi fino alle molestie sessuali.
In più, le donne hanno una probabilità quasi tre volte superiore rispetto agli uomini di trovarsi in lavori che l'IA generativa può facilmente automatizzare.
Come interrompo questo circolo vizioso? Con una riflessione sul potere, su cui dobbiamo tornare presto.
La dataviz della settimana
Gioca a trovare le differenze
Sia Trump sia Putin sono stati in visita in Cina e Reuters Graphics ha raccontato le differenze tra i due viaggi attraverso una serie di indicatori, dal numero di persone di ogni delegazione fino… ai piatti serviti durante i pranzi ufficiali:
Grazie di aver letto fino a qui, ci sentiamo mercoledì!
La differenza tra "risk-averse" e "risk-aware" è illuminante, dalla finanza alla tecnologia, non solo per caratterizzare il rapporto delle donne con questi domini, ma anche e soprattutto per sottolineare la manipolazione linguistica di chi in questi domini è in posizione di potere. Grazie di questo pezzo necessario e per aver linkato il contributo di Mara Salis!
Ahhhh ci lasci con la suspense! Ho pensato molto al tema che affronti oggi da quando ho letto (nonché citato e condiviso) il tuo pezzo su SkyTg24: non vedo l'ora di leggere il seguito e la riflessione sul potere.