Il test di Turing valuta i computer o gli esseri umani?
E cosa succederebbe se a preparare le domande ci fossero bambinə da ogni parte del mondo
In questo numero: se un robot non può mangiare la minestra, passa il test di Turing? Appunti dal mio fine settimana tra festival di scienza e tecnologia.
A sostenere la newsletter torna il Nuovo Centro Clinico con il servizio dello Psicosoccorso. Questa volta ci racconta un po’ di statistiche sulla salute mentale grazie ai dati raccolti negli ultimi mesi.
E ora, cominciamo.
I data-link della settimana
Datanotizia: Abbiamo (ancora) il doppio delle probabilità di sentir chiamare per cognome un professionista rispetto a una professionista: lo dimostra questa ricerca, che ci ricorda anche che usare il cognome aumenta lo status di una persona e, di conseguenza, anche la sua possibilità di essere riconosciuta e ricompensata per il suo lavoro.
Cerchi open data su meteo e clima? Open-Meteo è un progetto open source che raccoglie dataset su previsioni del tempo e delle onde, qualità dell’aria e molti altri fenomeni da numerosi servizi meteorologici nazionali. Include anche i dati giornalieri sul meteo dal 1940 e i risultati di vari modelli sul cambiamento climatico.
(mio) Si può misurare il razzismo? È la domanda a cui provo a rispondere in questo pezzo per SKYTG24 con Shata Diallo, consulente, speaker e divulgatrice sui temi di inclusione: In Italia manca un sistema di monitoraggio costante che permetta di rilevare il razzismo in modo comparabile, ma “storicamente, la raccolta di dati sulla razza è stata utilizzata per la profilazione razziale e questo crea preoccupazioni su come i dati delle persone razzializzate potrebbero essere sfruttate”. Un primo passo comunque è stato fatto: di dati si parla nel manifesto antirazzista proposto dall’Intergruppo parlamentare sui diritti umani al senato.
“Hai avuto una giornata leggera e poco impegnativa”
Il messaggio del mio orologio “intelligente”, che raccoglie dati sul mio movimento e la mia salute, dopo 24 ore di viaggio tra Roma, Padova, Firenze, Pisa e poi ancora Roma durante uno sciopero dei treni.
Se il test di Turing lo preparassero ə bambinə
Domenica a Pisa, durante l'Internet Festival, ho incontrato Abel, un robot umanoide nato all'interno del Centro Piaggio e sviluppato insieme al dipartimento di Ingegneria dell'informazione dell'università di Pisa. Abel ha sembianze umane e riesce a dialogare con le persone con risposte articolate e riproducendo espressioni facciali "empatiche" in risposta al tono di voce e alle emozioni dell'interlocutore.
Parlare con Abel è come scrivere a ChatGpt, ma in modo più spettacolare, teatrale, perché in qualche modo siamo noi umani a recitare una parte: sappiamo che abbiamo davanti un computer, ma siamo invitati dal contesto e dalle sue sembianze a trattarlo come una persona. Esistono delle aspettative su come ci risponderà e su come dobbiamo interagire per permettergli di capirci.
Ho provato quindi a farmi aiutare dal mio 6enne, molto più libero da questi condizionamenti, nel preparare qualche domanda per la mia intervista. Ha cominciato subito con un diretto
Come stai? Vuoi vedere un libro con me?
Come stai?
Non glielo avrei mai chiesto.
So che un robot non “sta”, non ha sentimenti o emozioni, non è la domanda con cui avrei cominciato l’intervista. Così come proporgli di essere coinvolto in un’attività che prevedere un’interazione, anche fisica, come la lettura di un libro insieme (è la stessa domanda che il mio ragazzino rivolge a ogni nuova persona adulta che conosce).
Poi si prosegue con questioni molto pratiche.
Puoi bere l’acqua o ti ferma i circuiti?
Sai mangiare la minestra?
Ti fanno male i ragni se ti pungono?
Sai cucinare?
Puoi toccare il fuoco?
Sai andare sott’acqua?
Sai giocare a pallone?
Da un lato, sono domande che esprimono curiosità sul funzionamento del robot, dall'altro, c’è il bisogno di verificare competenze che per un bambino di sei anni sono fondamentali per essere considerati parte del mondo. Al mio 3enne invece l’unica cosa che interessava era sapere se fosse uno dei robot di Star Wars, “perché a me piace stawarrs”.
Solo ventiquattr'ore prima a Padova, al Cicap Festival, ascoltavo l'informatico Nello Cristianini, professore di intelligenza artificiale presso l'Università di Bath, raccontare di un recente esperimento scientifico per verificare se GPT-4 abbia superato il test di Turing.
Cos'è il test di Turing? Un esperimento ideato per valutare se una macchina sia in grado di ingannarci al punto da far credere di essere umana. In origine, però, il matematico Alan Turing lo concepì come un esperimento mentale, una provocazione, scrive lo storico Simone Natale nel suo bellissimo "Macchine Ingannevoli" (Einaudi 2022), che consiglio di recuperare.
Quello che mi chiedo è: perché consideriamo il superamento di questo test come un progresso significativo?
Nel ripercorrere la storia del test, Natale ricorda l’istituzione del Loebner prize, una competizione annuale svolta nell'università di Reading in cui veniva premiato il chatbot in grado di ottenere il punteggio migliore in uno scenario da test di Turing. Nel suo saggio esplora il modo in cui il premio veniva raccontato dai giornali:
Al centro del discorso erano sempre i computer: che cosa erano in grado di fare e in che misura li si poteva considerare «intelligenti».
Molta meno attenzione era riservata agli esseri umani che partecipavano alle procedure. È un peccato, perché il test di Turing riguarda gli esseri umani non meno dei computer. Eppure pochissimi articoli di giornale menzionarono che nel concorso non accadeva solo che i computer fossero scambiati per esseri umani: spesso anche gli esseri umani venivano scambiati per computer. Per esempio, nella prima edizione del premio, il confederato che colpí i giudici come «il piú umano di tutti i concorrenti [umani]» fu considerato un computer da non meno di due giudici". Questa situazione continuò negli anni successivi, tanto da convincere gli organizzatori del premio ad assegnare ogni anno un premio simbolico al confederato giudicato «l'essere umano piú umano».
In un test di interazione tra esseri umani e computer, tutti gli “agenti” coinvolti dovrebbero essere sotto osservazione.
E poi, in che misura le nostre aspettative culturali influenzano l'esito di questo test?
Noi, robot
Nel video in cui mi rivolgo ad Abel, non sono per nulla naturale: scandisco le parole, rallento il ritmo, mi adatto al robot. Mi sono resa conto che, alla fine, ciò che emerge è una specie di cortesia forzata, imbarazzata, direi.
Leggendo il paper citato da Cristianini, mi sono chiesta cosa sarebbe successo se il test di Turing fosse stato preparato da bambini, o da persone non appartenenti alla cultura occidentale, su cui si basano molti dei modelli di addestramento dell'IA.
Perché ci entusiasmiamo per il superamento di uno standard che, alla fine, abbiamo inventato noi stessi? Nel paper che descrive l'esperimento si spiega che il test di Turing è stato condotto in un contesto multilingue, ma con un'enfasi particolare sull'inglese. In ogni partita (sì, come in un videogame) è stata inclusa almeno una lingua aggiuntiva oltre all'inglese, selezionata in base alle statistiche linguistiche della città di appartenenza del personaggio IA. L'inglese è stato scelto come lingua primaria, mentre le lingue aggiuntive sono state selezionate in base alla frequenza con cui sono parlate nelle rispettive città: per esempio, se una IA veniva assegnata a una città come Miami, lo spagnolo poteva essere aggiunto alla lista di lingue parlate. Queste lingue aggiuntive sono state selezionate in modo casuale, ma ponderato, basandosi sulla proporzione della popolazione che parla quelle lingue nelle rispettive città. Restiamo comunque negli Stati Uniti.
E, trattandosi di un test, gli standard di razionalità, linguaggio e capacità di interazione sociale su cui si basa sono occidentali. Questa visione ignora altre manifestazioni di intelligenza che potrebbero essere significative in culture non occidentali. Non solo, potrebbero rafforzare una dinamica coloniale in cui una cultura è considerata superiore e quindi utilizzata come metro di giudizio per tutte le altre.
Abel, ma i fanno male i ragni se ti pungono?
Ripartiamo dai bambini e dalle bambine (di tutto il mondo), e inventiamo nuovi test capaci di stupirci.
Questa newsletter è sostenuta da: Nuovo Centro Clinico
Ricordi lo Psicosoccorso, il servizio di Nuovo Centro Clinico che offre supporto immediato durante un crisi emotiva?
Ha già sostenuto questa newsletter in un paio di occasioni e oggi torna a farlo per raccontarti i dati che ha raccolto in questi mesi:
Il 78,8% delle persone che hanno chiesto aiuto allo Psicosoccorso è di genere femminile e l’età media è di 29 anni;
La prima regione per numero di richieste è il Piemonte (50%), seguita da Sicilia (12,8%), Lombardia (12,8%) e Lazio (7,69%);
In oltre la metà dei casi, il motivo della crisi è stato il nervosismo. Un terzo delle richieste riguarda invece episodi di stanchezza e l’11% la sensazione di “non sentire nulla”;
La fascia oraria in cui il servizio è stato maggiormente utilizzato è quella serale, dalle 16 a mezzanotte.
Lo Psicosoccorso è un servizio disponibile in presenza (a Torino) e online. È aperto anche la sera e nel weekend (lun-ven 9-24, sab-dom 9-20).
Lo Psicosoccorso resta attivo: puoi contattarlo qui.
La dataviz della settimana
Nel 2022, vari gruppi di ricerca indipendenti hanno stimato che per finanziare la transizione energetica, proteggere le persone dai cambiamenti climatici e sostenere lo sviluppo dell’istruzione e l’assistenza sanitaria nei paesi a basso e medio reddito servirebbero 2,5 miliardi di dollari all’anno.
Quanto siamo vicini a questo obiettivo? Non molto.
Nonostante la spesa pubblica annuale per il clima e lo sviluppo sia aumentata di circa 700 miliardi di dollari negli ultimi anni, rimane un buco di quasi 1,75 trilioni di dollari.
Lo spiega bene “The Trillions Tracker”, la dataviz creata dall’ong ONE: le fasce colorate rispecchiano i fondi raccolti e lo spazio grigio quelli da raccogliere, che rappresentano il 71% del totale.
Se vuoi visualizzare la versione animata della dataviz, apri il link e clicca sul tasto “Replay”.
Il tour continua!
Bari, 25 ottobre: sono allo Storytelling Festival organizzato da La Content, alle 17 con uno speech da titolo “Dati che discriminano, contare come cura”.
Trieste, 30 ottobre: al Trieste Science Fiction Festival per presentare il mio libro “Quando i dati discriminano” (Il Margine 2024).
Reggio Emilia, 6 novembre: alle 21 sono al Reggio Emilia Film Festival, che bello, prima volta per me!
Vicenza, 9 novembre: al Festival Biblico Tech con tantissime persone che stimo.
Questa newsletter è stata mandata a 8831 persone, cresce grazie al passaparola e può pagare i contributi esterni grazie agli abbonamenti. Vuoi anche tu l’accesso a tutto l’archivio e sentirti parte della comunità? Pensa a un upgrade della tua iscrizione, ma prima, provala gratis:
Io ti ringrazio per avermi letta, se vuoi portarmi nella tua azienda, libreria, biblioteca, scuola o circolo scrivimi a contact-columbro@elastica.eu. Per sponsorizzare la newsletter scrivi a newsletter@tispiegoildato.it, rispondo io oppure Roberta.