Nel (lungo) viaggio dei dati digitali siamo tuttə data worker

Per esempio, da dove arrivano le immagini stereotipate delle IA? Dal nostro sguardo

In questo numero: cosa può dirci il viaggio dei dati personali (digitali) sulle ingiustizie e le discriminazioni algoritmiche, perché il nostro problema non può essere solo “la privacy” e qual è il ruolo del design.

Torna a sostenere la newsletter il servizio dello Psicosoccorso, e il team del Nuovo Centro Clinico di Torino ci spiega cosa sono le crisi emotive e come vengono gestite dopo una chiamata.

E ora, la newsletter.

L'uso quasi onnipresente di software guidati da algoritmi, sia visibili che invisibili alle persone comuni, richiede un'analisi più approfondita dei valori a cui viene data priorità in tali sistemi di decisione automatizzati.

Safiya Umoja Noble (Algorithms of Oppression, 2018)

Da dove arrivano le immagini stereotipate delle IA?

Dal nostro sguardo.

Visto che uso il viaggio dei dati come metafora fatemi partire da lontano.

Forse ricorderete il caso del fotografo Massimo Sestini, che qualche settimana fa avrebbe alterato in modo molto visibile l’immagine della sciatrice Sofia Goggia scelta per la copertina del magazine Sette, inserto del Corriere della Sera a lei dedicato, duplicando il piede sinistro e incollandolo al posto di quello destro. Il fotografo si è poi scusato sui social dando la colpa al post producer, cioè alla persona che lavora con lui nella post produzione delle fotografie, alimentando le critiche nei confronti del suo lavoro. In una delle tante discussioni online sul tema, tra i vari commenti c’è stato quello di chi ha fatto notare che anche il braccio della sportiva sembrava modificato dopo lo scatto, e che, in più, Sestini avrebbe copiato l’idea della posa da un’altra foto di copertina dello stesso magazine, a firma di Maki Galimberti, con la pluripremiata nuotatrice olimpica Federica Pellegrini:

Le due copertine del magazine Sette, la prima con Sofia Goggia e la seconda con Federica Pellegrini

Una vicenda che, davvero, da qualsiasi parti la si guardi, offre un sacco di spunti di dibattito.

Ma in un altro commento su Facebook, come nella favola del re nudo, una persona, una donna, fa notare un elemento che nessuno aveva ancora nominato: il male gaze, cioè lo sguardo maschile con cui in entrambi i casi sono state rappresentate due persone, due donne, di notevole prestigio e posizione sociale e di potere. Sono sdraiate, in una posizione di resa, nude, su un letto. Non solo una posizione che le sessualizza, ma che in qualche modo toglie quel potere e quel privilegio duramente conquistato a forza di gare, sacrifici, allenamenti, vittorie.

La donna di potere in copertina va bene se è sdraiata, ferma, a letto, pronta a… fare cosa? Lasciarsi sopraffare?

Ho controllato - velocemente, per carità, pronta a essere smentita - ma non ci sono foto equivalenti che rappresentino uomini sportivi in quella posa sulle copertine di Sette.

Nel (lungo) viaggio dei dati digitali siamo tuttə data worker

Cosa c’entra il viaggio dei dati?

In meno di cinque giorni ho parlato davanti a due sale - una online e l’altra offline - piene di designer, cioè di persone che progettano case, città, siti internet, materiali alternativi, oggetti, algoritmi.

Per trovare un terreno comune ho usato il concetto di “viaggio dei dati” così come definito dalle ricercatrici Sabina Leonelli e Anne Beaulieu e dal loro libro Data & Society:

Il movimento dei dati dal loro luogo di produzione a molti altri luoghi dove sono processati, mobilitati e riutilizzati.

È fondamentale toglierci dalla testa l’idea che il dato sia immutabile, eterno, dato una volta per tutte e non cambi: oltre non essere neutro e oggettivo, il valore del dato e il suo significato possono mutare a seconda delle persone che ne entrano in relazione o in base al punto del viaggio in cui si ferma per essere usato, analizzato, rappresentato.

Seguire il viaggio dei dati personali digitali, come ho fatto nel primo talk¹, ci può insegnare non solo qualcosa sulla nostra privacy e su come proteggerci per evitare che il viaggio subisca deviazioni che la compromettano, ma anche sulle possibili discriminazioni e ingiustizie che un uso diverso da quello previsto inizialmente possono produrre.

Tra i dati personali che lasciamo in rete ci sono i testi che scriviamo sulle piattaforme social, le foto caricate, ma anche le parole chiave digitate nei motori di ricerca come Google. Probabilmente moltə di noi usano questi software in maniera consapevole, e quindi sappiamo che questi oggetti digitali saranno usati dalle piattaforme per imparare dal nostro comportamento e migliorare l’esperienza d’uso, e anche che saranno venduti agli inserzionisti.

Ma cosa succede in caso di deviazioni non previste?

Per esempio quando la localizzazione su Facebook viene inclusa nelle ricerche demografiche per comprendere gli spostamenti delle popolazioni nelle situazioni di crisi? Oppure quando i contenuti di social come Twitter (X) sono usati per fare “sentiment analysis” sui prodotti, o, ancora, in ambito accademico, per studiare l’insorgere di epidemie o le modalità degli utenti di parlare di alcune patologie (google scholar ne è pieno di paper simili)? Lo raccontano molto bene Leonelli e Beaulieu facendo notare i gap invisibili di queste scelte, le persone che sono escluse da queste raccolte dati (gli utenti di twitter sono un gruppo specifico di una popolazione e sicuramente non rappresentativo) e quali sono gli effetti, anche sulla salute pubblica, per esempio, se un governo decidesse di fare investimenti sulla sanità in base a queste ricerche.

Se il viaggio dei dati personali in Europa è normato dal GDPR per proteggere la nostra privacy, e quindi la nostra identità, non ci sono leggi che prevedano di progettare le piattaforme pensando al viaggio di un dato e al suo sviluppo fuori dai sentieri previsti.

Safya Noble nel suo Algorithms of Oppression racconta che le ricerche degli utenti Google associate alle donne nere negli Stati Uniti (e nessun intervento regolatore da parte dell’azienda) hanno contribuito a plasmare l’immagine delle persone nere tramite le correlazioni che emergevano tra i termini sessualmente espliciti e le fotografie delle donne che comparivano come risultati.

Le foto che abbiamo pubblicato online, quelle con cui abbiamo popolato i siti di stock, le copertine delle riviste, sono tutti i contenuti alla base dei dataset per fornire dati di allenamento ai modelli di intelligenza artificiale generativa.

Dati che però non erano stati prodotti con quello scopo.

Nelle mie presentazioni ho una slide dove dico che “siamo tuttə data worker” nel momento in cui la lingua che usiamo, lo sguardo che abbiamo per produrre immagini (anche quelle delle copertine dei giornali), plasmano i contenuti che ritroviamo nei risultati statistici delle intelligenze artificiali.

Cercare le discriminazioni e le ingiustizie sociali nel codice, solo nel codice, o solo nei dati, ci fa perdere di vista la società in cui viviamo e in cui si producono quelle discriminazioni.

Nel viaggio dei dati, quindi, il ruolo deə designer è cruciale, perché sono il punto di raccordo tra la comunità che produce il dato e la comunità che userà il luogo/prodotto/servizio plasmato da quel dato.

Com’era? Da grandi poteri, ecc :)

Lo storyboard disegnato da Yobiscribes durante il mio talk per Tangible.

Questa newsletter è sostenuta da: Nuovo Centro Clinico

Come lo Psicosoccorso risponde alle crisi emotive?

Lo Psicosoccorso è un servizio di Nuovo Centro Clinico che offre un intervento per un supporto immediato durante un crisi emotiva, anche in orari serali e nei weekend (lun-ven 9-24, sab-dom 9-20).

Ma cosa sono le crisi emotive? Il ministero della salute ci dice che nel 2022 gli accessi al pronto soccorso sono stati per disturbi d’ansia, disturbi da stress, disturbi dell’adattamento (in totale 21.354), ma anche per tanti altri disturbi psichici, per esempio alcolismo-tossicomanie (4.013) e disturbi di personalità (3.098).
Allo Psicosoccorso l’operatore accoglie tempestivamente e ascolta la crisi. Propone e fa insieme alla persona alcune tecniche in grado di portare verso una regolazione emotiva, che possano aiutare a sviluppare risorse interne per affrontare la difficoltà. Nelle stanze dello Psicosoccorso, per questo obiettivo, si possono utilizzare luci, odori e temperature per creare un ambiente rassicurante e calmo.

La dataviz della settimana

Una delle sfide nel comprendere l'impatto del cambiamento climatico è che si tratta di un processo lento. Julia Janicki e Daisy Chung hanno creato una visualizzazione interattiva per confrontare la linea temporale della nostra vita con quella di altri illustri personaggi per mostrare come il tuo futuro e quello di persone vissute in epoche diverse (o che devono ancora nascere) sono molto diversi in termini di impatto ambientale.

Il tour di maggio

L’Aquila, 9 maggio: alle 18:15 presentazione di “Quando i dati discriminano” alla Rassegna del libro scientifico in collaborazione con il GSSI.

Torino, 11 maggio: presento il libro al Salone del libro alle 10:30, bisogna prenotarsi qui.

Pinerolo, 11 maggio: alle 15.00 al Festival della Comunicazione di Pinerolo, in Sala Bonhoeffer intervengo in un panel sui pregiudizi nell’intelligenza artificiale. Ci sono crediti per giornalistə e insegnanti.

Al Senato e online, 16 maggio: dalle 16:30 intervengo alla plenaria organizzata dall’Intergruppo parlamentare sui diritti fondamentali della persona sul tema dell’antirazzismo, si potrà seguire online. Intanto è possibile contribuire alla realizzazione di un manifesto antirazzista lasciando la propria frase qui.

Milano, 18 maggio: sono al Festival di WeWorld insieme ad altre bravissime giornaliste, scrittrici ed esperte per raccontare le disuguaglianze nel mondo e qual è il ruolo di chi fa giornalismo.

Questa newsletter è stata mandata a 7334 persone, cresce grazie al passaparola e può pagare i contributi esterni grazie agli abbonamenti. Vuoi anche tu l’accesso a tutto l’archivio e sentirti parte della comunità? Pensa a un upgrade della tua iscrizione

1. Si può recuperare l’intervento che ho fatto online per Tangible in questo link, 1 ora e mezza di formazione gratis :)