Per il secondo anno consecutivo ho portato le intelligenze artificiali a Reggio Emilia, al festival di Internazionale Kids. Per il secondo anno consecutivo ho avuto la dimostrazione che abbiamo bisogno esattamente delle curiosità e delle domande di quel pubblico “dagli otto anni in su” (anche se “sono benvenute le persone di ogni età”, dice la presentazione ufficiale del festival). A quell’età sembra inevitabilmente più facile avvicinarsi alle tecnologie sconosciute con quella che Shunryu Suzuki, buddista zen, ha definito la mente del principiante. Senza pregiudizi e senza troppe paure, a otto anni o poco più si sperimenta e si fanno domande che, molto spesso, centrano perfettamente il cuore dei problemi.

“Come faccio a fidarmi?”, chiede qualcuna. “Penso di non aver capito niente”, dice un altro bambino che, invece, appena comincia a parlare dimostra di aver capito tutto. Ho raccolto un po’ di esempi perfetti per bambine e bambini ma anche per gli adulti, a cui troppo spesso le intelligenze artificiali vengono presentate come qualcosa da dare per scontato.

Uno degli esempi di cui abbiamo parlato al festival si chiama Ai for oceans (ia per gli oceani) ed è un gioco perfetto per illustrare concetti molto importanti: il tagging, l’addestramento e i pregiudizi.

Leggi anche
I legislatori della Silicon valley

Dopo una breve introduzione, il gioco propone di insegnare a un’intelligenza artificiale se quelli che incontra sott’acqua sono pesci o spazzatura. Funziona così: sullo schermo compare un’immagine di un pesce o di un rifiuto e si può cliccare sulla parola corrispondente. In questo modo si addestra l’ia a distinguere gli abitanti del mare dagli ospiti indesiderati.

L’ia non sa distinguere tra pesci e rifiuti. O almeno, non sa farlo come noi umani. Ma può imparare a farlo, se glielo insegniamo. Così, se per scherzo o per errore invertiamo completamente la classificazione, oppure ogni tanto identifichiamo come pesce una bottiglietta di plastica, avremo, alla fine, un’ia che può commettere errori, anche gravi. Li commette perché l’errore è a monte, nell’operazione di addestramento. In altre parole: se lavoriamo con un’intelligenza artificiale e facciamo scelte sbagliate, la macchina replicherà le nostre scelte.

Il gioco continua facendo vedere quel che succede quando l’addestramento è finito: la macchina decide se ciò che vede può rimanere in acqua perché è un pesce o se va eliminato perché è spazzatura. La dimostrazione aiuta a capire che se si investe poco in questa parte del processo le ia possono commettere molti errori. E, se non sappiamo come è stato fatto il loro addestramento, potrebbe essere impossibile correggerle.

Poi si va un po’ oltre: in un altro segmento di Ai for oceans viene chiesto di attribuire a ciascun pesce una caratteristica, che si può scegliere in un insieme di aggettivi diversi. Per esempio: bellissimo, spaventoso, fantastico, affamato. A questo punto, il gioco propone un pesce alla volta e si deve decidere se corrisponde o meno a quell’aggettivo. Siamo di nuovo alle prese con il tagging, ma in una forma ancor più pericolosa, perché si basa su opinioni personali e non su dati oggettivi.

Una bottiglia di plastica non è un pesce, ed è molto facile capire se una macchina confonde una bottiglia di plastica con un pesce. Ma come la mettiamo con giudizi di merito? Un pesce che per me è spaventoso potrebbe non esserlo per altre persone. Infatti, insieme al giovane pubblico di Internazionale Kids, abbiamo fatto tagging a maggioranza: non eravamo tutti d’accordo.

Il mondo che un’intelligenza artificiale impara a conoscere dipende dai nostri giudizi e dalle nostre opinioni. Così, prima di iniziare, forse dovremmo chiederci: è giusto che una macchina possa giudicare un pesce – o altro – dal suo aspetto? È giusto che lo facciano le persone? La macchina ci dà quest’illusione di neutralità che è completamente sbagliata: tutto quel che le macchine fanno dipende dal nostro addestramento, che può introdurre al loro interno errori o pregiudizi non voluti. Oppure potrebbe introdurre al loro interno una visione del mondo. Non necessariamente la migliore per tutti.

Ecco perché il gioco Ai for oceans è molto importante e dovremmo giocarci tutti, dagli otto anni in su. A proposito: il bambino che, a Reggio Emilia, pensava di non aver capito niente aveva già giocato a questo gioco e aveva capito molto più di tante persone adulte. Persino quelle che, in teoria, dovrebbero prendere decisioni sulle ia.

Da sapere
Tagging

Il tagging è un processo attraverso cui si assegnano etichette, parole chiave o metadati a un contenuto – come un testo, un’immagine, un video o un insieme di dati – per identificarlo, classificarlo o facilitarne l’organizzazione e la ricerca. Proprio come nell’esempio di Ai for oceans. Nell’ambito delle intelligenze artificiali, il tagging è fondamentale per l’annotazione dei dati, una fase fondamentale per l’addestramento degli algoritmi: serve a insegnare alla macchina cosa sta vedendo, leggendo o analizzando. Per esempio, si possono etichettare immagini con oggetti o animali diversi, o indicare se un suono è il rumore di un treno o la melodia di un sassofono. La parola tagging si usa anche in discipline come la linguistica computazionale, dove si assegna a ogni parola la sua funzione grammaticale (come verbo, sostantivo, aggettivo, avverbio): in questo caso, facilita l’analisi del linguaggio da parte dei modelli. Il tagging, infine, è anche una pratica comune nei social network: si usano i tag per collegare contenuti a temi specifici o a persone, teoricamente migliorando la reperibilità, la categorizzazione e la distribuzione delle informazioni [quando parliamo di miglioramenti bisognerebbe sempre pensare a chi beneficia davvero di questi miglioramenti, ndr].

Questo testo è tratto dalla newsletter Artificiale.

Internazionale pubblica ogni settimana una pagina di lettere. Ci piacerebbe sapere cosa pensi di questo articolo. Scrivici a: posta@internazionale.it