Cosa c'è dentro?
In questo numero: guardiamo dentro le macchine. Hardware, software e umanità.
Non c’è lo sponsor, ma ho un calendario che si sta già riempiendo. Se non vuoi perdere l’occasione di parlare a una community di 3mila persone interessate all’aspetto umano dei dati scrivimi a info@donatacolumbro.it.
Leggi fino in fondo per un piccolo sondaggio, ma soprattutto per un grafico stupidino sulle frasi che ripeto più spesso in questo periodo.
This focus on data and its features misses necessary aspects of datafication as a process. Datafication is in a first instance, the turning of objects and processes into data*
Data and Society - Anne Beaulieu, Sabina Leonelli
Cosa c’è dentro? È la domanda preferita del mio ragazzino quattrenne in questo periodo: cosa c’è dentro le unghie, cosa c’è dentro un dito (ehm… sangue, cellule, ossa? e allora mamma cosa c’è dentro le ossa, e così via), cosa c’è dentro un semaforo (cavi? plastica, metallo, luci?), cosa c’è dentro Alexa, sempre cavi metallo, fili, plastica. Prima o poi mi toccherà prendere un cacciavite e smontarla davvero.
La domanda “cosa c’è dentro?” nel ragionamento di un bambino che non riesce ad accettare il mal funzionamento degli oggetti elettronici di casa nostra, come la televisione (anzi “YouTube”) o l’assistente vocale che a volte non capisce le sue parole, potrebbe essere tradotta nel mondo degli adulti con “qual è il processo che fa funzionare questo oggetto?” Se gli spiego che la tv o Alexa non funziona perché per esempio “manca il collegamento con internet” questa risposta non ha alcun senso per lui. Non lo aveva nemmeno per mio padre o per i miei amici sviluppatori quando dicevo che qualcosa si era rotto nei software che stavo usando. Cosa si è rotto esattamente? Cos’è che qui dentro non sta funzionando?
Questo approccio ci permette di tornare indietro, fino alle mani che hanno costruito quegli oggetti e persino a quelle che ne hanno deciso la forma, interna ed esterna, quella che vediamo e che ci permette di riconoscerli come strumenti alla nostra portata.
Oltre al metallo e alla plastica, dentro Alexa c’è quindi la progettazione di centinaia di persone, comprese quelle che si dedicano a sviluppare la sua personalità, che evolve nel tempo, nel bene e nel male. I messaggi di buonanotte si sono moltiplicati da quando la salutiamo la sera prima di andare a dormire, e sempre di più capisce quando stiamo usando “l’annuncio” per parlare per interposta persona e convincere altri membri della famiglia a fare quello che desideriamo. Il quattrenne ci imita, e prova a sfruttarla per educare suo fratello minore o altri parenti in ascolto:
Cosa c’è dentro le intelligenze artificiali che stiamo usando in questi giorni? Da ChatGPT a StableDiffusion, da Midjourney a Dall-e, e tutte le altre? Ci sono, come già scrivevo in questo pezzo su La Stampa, i dati di partenza, con tutti i bias che possiamo immaginare. Ma i bias da dove arrivano? Da come funziona la società oggi.
Sono rimasta colpita da questa riflessione di Francesco D’Isa, che sul tema sta scrivendo tantissimo, in cui ammette di disegnare spesso tante donne bianche e tanti nudi.
Disegno giovani donne da quando avevo la loro età, è sempre stato il mio soggetto preferito e dato che lo conosco bene mi è più facile mettere alla prova dei nuovi strumenti con una materia nota.
.
Ma perché disegnavo sempre giovani donne belle e bianche, e perché altri disegnano uomini, fiori o gatti? È difficile indagare la scelta di soggetti che ci portiamo dietro da millenni – soprattutto la figura umana. Forse il mio vissuto si riflette ancora simbolicamente nello specchio della gioventù femminile, nella sua densa semantica di bellezza, dolore, forza, ferocia e gioia. Tutto il microcosmo apre all'infinito, ma ogni porta è fatta a modo suo. Perché bianche però? Forse perché le conosco meglio. Non solo per via del contesto poco multietnico che ho vissuto (purtroppo), ma anche perché l’arte occidentale mi ha educato così – un po’ come i software che uso, anch’io ho imparato a riconoscere più certi lineamenti che altri. È un limite legato alla mia esperienza che si ripropone identico anche nelle tecnologie di #machinelearning.
Quando dico che l’approccio di Data Feminism è rivoluzionario, è perché le autrici non puntano mai il dito sulla data science, quando si producono discriminazioni a causa dell’impiego della tecnologia: le cause sono da ricercare in come funziona la nostra società.
Mi scrive Fabrizio Furchì, illustratore e visual facilitator, ex collega al collettivo Viz&Chips:
Le AI imparano grazie a database in cui sono finite vagonate di disegni - presi senza uno specifico consenso degli artisti - realizzati nei passati decenni.
In larga parte sono illustrazioni di community come Deviant Art, in cui è più facile trovare una fanart su un fumetto che un' opera d'arte storica o contemporanea. In quelle opere ci sono i disegnatori storici, ma anche le fanart in cui si trovano tutti gli stilemi più classici dei generi a cui appartengono, proprio perché piacciono agli stessi fan. Questo è uno specchio di come nei fumetti, nei videogiochi, nei giochi di ruolo in larga parte ci siano stati e ci siano ancora tanti bias legati al genere e alle disabilità.
Le AI sono abiliste, ma non per i prompt o per dei pregiudizi interni nel loro ragionamento. Sono abiliste o sessiste perché i giocatori di ruolo lo sono. O i lettori di comics. O una buona maggioranza di videogiocatori. Nella coda lunga di effetti, tutte le illustrazioni fatte per piacere a quei target si sono codificate su quei gusti, includendo quei bias. Le AI imparano sezionando quelle immagini e condensano in modo grottesco i bias che ci sono a monte. E tutto questo ci viene sbattuto in faccia in maniera forse un po' distorta dalle immagini AI Generated, ma in realtà sono frutto di decenni e decenni di industry di intrattenimento piena di quei pregiudizi.
Nonostante oggi Marvel, manga e D&D abbiano virato tantissimo verso diversity e inclusione, anche ricevendo fortissime critiche dai fan hard-core, le attuali produzioni non possono competere in quantità su database con vagonate di immagini passate.
Quindi per avere immagini AI Generated senza bias serviranno filtri più intelligenti, ma anche immaginari di intrattenimento progressivamente meno inquinati.
È la responsabilità che abbiamo come utenti di internet e dei social media di cui parlo, appunto, in Dentro l’algoritmo. Non sarà un viaggio breve, quello per avere un’AI più inclusiva e meno discriminante.
* traduzione mia: Questa attenzione sui dati e sulle loro caratteristiche lascia fuori aspetti necessari della datificazione come processo. La datificazione, in prima istanza, è l’atto di trasformare oggetti e processi in dati.La dataviz della settimana
Ci rilassiamo con un progetto personale: a partire dal 2014, il giornalista Liam Quigley ha registrato ogni fetta di pizza mangiata a New York postando una foto sul suo account Instagram NYC Slice. Ha visualizzato i dati raccolti su 464 fette. In un periodo di otto anni il prezzo medio di una semplice fetta è aumentato da $ 2,52 a $ 3,00.
“La cosa più importante che ho notato è il calo della quantità di salsa messa sulle fette. Sono sicuro che questa è una misura per risparmiare sui costi, ma la qualità complessiva ne ha sicuramente risentito”:
Link di fatte, parlate e scritte in giro
Su La Stampa ho scritto del divario nord-sud del mondo che riguarda la crisi climatica: non solo per le conseguenze devastanti su popolazione e territori, ma anche per la disparità nella capacità di raccolta dati e produzione scientifica (no paywall). Federica Cherubini mi segnala però che esiste il Global South Climate Database, per aiutare ə giornalistə a contattare scienziati e scienziate da ogni parte del mondo.
Con Diletta Parlangeli e Saverio Raimondo ho parlato di cosa c’è dentro l’algoritmo al minuto 40 della loro trasmissione radiofonica Prendila Così su Radio Rai 2.
Un’intervista con una testata di Trapani in cui mi è stato detto che nel libro “non giudico” il nostro uso della tecnologia e ne parlo in modo familiare. È proprio la mia intenzione <3
Dentro l’Algoritmo tour
RADIO. Oggi 18 gennaio alle 11:30 sono su Radio3Scienza per dialogare di algoritmi ma anche di donne e STEM con Elisabetta Tola e altri ospiti.
PERUGIA. Il 20 gennaio sono alla libreria POPUP di Perugia per presentare il libro insieme alla mitica data journalist Sonia Montegiove.
MILANO. Il 24 gennaio alle 19:30 la presentazione si tiene alla libreria Anarres.
Ieri al circolo Sparwasser di Roma con Diletta Huyskes è andata così, grazie davvero a tuttə!
Ed ecco il sondaggino:
e il grafico stupidino.
Grazie di aver letto fino a qui, ci leggiamo mercoledì prossimo!
Condividi questo numero con il comodo bottoncino giallo:
[NB: Questa newsletter è stata riletta e corretta dalla super Magda Basso. Se ci sono errori li ho fatti io aggiungendo cose prima dell’invio.]
Bellissime le riflessioni sulle AI e l'immaginario che ci portiamo dietro.
Risposta al questionario. Non lavoro con i dati. Ma a volte mi capita di commentare i dati. E di usarli per sostenere una tesi piuttosto di un'altra. Forse (forse) era il caso di prevedere un'altra risposta. O forse (forse) di strutturare in modo più aperto il questionario. Chissà.