Le macchine imparano? È un interrogativo intrigante, molto attuale e che crea evidentemente suggestioni da molti punti di vista. Per secoli, infatti, la domanda principale, rispetto alle macchine di cui ogni generazione di uomini si è nel tempo circondata, è stata: “L’uomo ha bisogno delle macchine e degli strumenti in genere? Può non farne più a meno?”. Forse, almeno istintivamente, stiamo dando per acquisita una risposta affermativa a quest’ultima domanda, altrimenti non ci porremmo quella di partenza.
Cosa è cambiato o sta cambiando nella nostra relazione con le macchine che ci porta a rinnovare ed estendere la formulazione di questo tipo di domande? “Se” qualcosa è cambiato, chiaramente.
Il punto centrale della discussione, a mio giudizio, è che stiamo conferendo alle macchine ruoli e compiti sempre più ampi. Non si tratta semplicemente di compiti meccanici o per compensare e amplificare le nostre capacità fisiche, basti pensare a quello che può fare un trattore meccanico rispetto all’uso di una vanga o all’uso delle nude mani per dissodare un terreno. Le macchine – o meglio, certi tipi di macchine – ci aiutano sempre più a decidere. Quindi amplificano non solo le nostre capacità fisiche ma anche quelle decisionali, ci sembra quasi che imparino a svolgere i nostri lavori in autonomia.
Pensiamo a un sistema ormai molto diffuso e comunemente usato come il navigatore GPS. Quando impostiamo una destinazione su questo tipo di sistemi nelle nostre auto o andiamo su siti web specializzati, riceviamo delle indicazioni precise sul percorso da fare o su possibili alternative. In questo caso l’aiuto che ci viene fornito dalla macchina/navigatore ci appare sempre più naturale ma, nello stesso tempo, se ci pensiamo, è qualcosa di profondo: ci aiuta a decidere, nello specifico, quale strada prendere.
Il secondo esempio riguarda un oggetto che non ho in casa ma ho visto funzionare: si chiama Roomba, ed è una scatola nera domestica, è un’aspirapolvere che gira per la casa e raccoglie la polvere in autonomia, si ricarica anche da sé quando è scarico. In questo caso la macchina/aspirapolvere non solo ci sta supportando nel decidere se spazzare, anzi, stiamo delegando a qualcuno il decidere dove spazzare o meno.
Sono due esempi semplici nei quali le macchine ci appaiono quasi intelligenti, e nel bene o nel male ci aiutano a decidere o decidono su nostra delega.
Come fa un sistema di navigazione o un robot aspirapolvere a imparare? In generale, come fanno le macchine a imparare, a suggerire possibili decisioni?
Esse imparano considerando dati che provengono dal mondo esterno e applicano semplicemente degli algoritmi, che noi stessi formuliamo e forniamo, per valutare i dati e mutare i loro comportamenti o suggerire qualcosa. L’elemento di novità degli ultimi anni è che le modalità con cui forniamo gli algoritmi comportamentali si stanno raffinando e sempre più spesso è possibile fornire alle macchine non solo una classica lista di istruzioni, che potrebbe essere molto lunga e complessa da formulare, ma esempi di situazioni da considerare, per poi lasciare che la macchina derivi da sé l’algoritmo. Tecnicamente questo processo si chiama Machine Learning o Apprendimento delle Macchine, ed è una branca dell’Intelligenza Artificiale.
Letteralmente quello che facciamo in questo caso è addestrare una macchina a svolgere un compito fornendo esempi di buone pratiche da imitare e lasciando che la macchina derivi in autonomia l’algoritmo più opportuno da seguire, considerando gli esempi forniti. Lo stato dell’arte di queste tecniche informatiche richiede, perché le macchine imparino efficacemente, la disponibilità di tanti dati e tanti esempi di addestramento.
Evidentemente questa modalità di istruire le macchine non è generalmente applicabile a qualsiasi situazione, eppure, quando ciò è possibile, non solo le macchine vengono addestrate molto più rapidamente ma i loro comportamenti ci lasciano stupiti. Usiamo tanti strumenti realizzati in questo modo e abbiamo imparato ad apprezzarne l’utilità e l’efficacia, pensiamo ad esempio agli strumenti di traduzione automatica, o agli strumenti in grado di comprendere la nostra voce, o a quelli in grado di riconoscere il contenuto di un’immagine.
Le macchine, i computer in particolare, stanno cominciando ad aiutarci in tanti compiti quotidiani ed è questo il punto fondamentale. Fino a ieri i computer non sono stati altro che delle grosse agende elettroniche che ci aiutavano a conservare tante informazioni, tanti dati. Adesso le macchine stanno cominciando ad aiutarci a prendere delle decisioni e a fare meno errori nella vita professionale, che significa in molti casi essere più precisi.
Ci sono esempi di professioni in cui i computer cominciano a dare una mano seriamente. La professione medica, ad esempio, è tra quelle in cui il supporto delle macchine è sempre più fondamentale. Diventare un medico non è semplice, il percorso è articolato e lungo, la quantità di conoscenze da acquisire è rilevante. Quando si è raggiunto un livello di conoscenza adeguato e ci si trova dinnanzi ai problemi di salute da valutare, è solo un nuovo punto di inizio nell’acquisire ulteriori dati da considerare per prendere decisioni. È un lavoro sempre più complesso, in cui inevitabilmente occorre essere aiutati da macchine per essere precisi nelle decisioni. Un radiologo, ad esempio, deve guardare ogni giorno migliaia di immagini, e dopo 5-6 ore di lavoro qualche problema di stanchezza potrebbe averlo, allora potrebbe essere utile aiutarlo a individuare determinati segnali all’interno di una radiografia per concentrarsi su spunti rilevanti da considerare, e non solo fornire un aiuto ad acquisire una radiografia in modalità digitale. Oppure si pensi al lavoro di un oncologo o ad altre specializzazioni mediche: un medico deve essere continuamente aggiornato, pensate a quanti articoli scientifici escono ogni giorno e producono nuove conoscenze potenzialmente da considerare per le proprie valutazioni. Abbiamo il tempo di leggere tutta la letteratura scientifica anche di una sola specializzazione che viene prodotta ogni giorno?
Sono esempi per aiutarci a riflettere sul ruolo dei computer, che possono essere facilmente trasposti in tutti i settori professionali. Il punto fondamentale è che abbiamo bisogno di macchine che imparino ad aiutarci per farci prendere decisioni sempre più precise.
Perché dobbiamo essere a livello professionale più precisi e fare meno errori? Ci sono margini di miglioramento? Perché abbiamo bisogno dell’aiuto di macchine sempre più sofisticate? Rimanendo sempre nell’alveo della professione medica, conviene citare un paio di osservazioni scientifiche che possono aiutare a fornire elementi utili e a riflettere su queste domande.
L’anno scorso sono stati pubblicati due articoli molto interessanti sul British Medical Journal, un’importante rivista medica, che contenevano due risultati: il primo articolo dal titolo Medical error—the third leading cause of death in the US (http://www.bmj.com/content/353/bmj.i2139) e apparso in primavera – proposto da Martin Makary e da Michael Daniel della Johns Hopkins University School of Medicine di Baltimore negli USA – stima che le morti per errore medico negli Stati Uniti ammontino a oltre 250 mila unità ogni anno.
Qualche mese dopo è stato pubblicato, sulla stessa rivista, un altro studio firmato da due ricercatrici, Kaveh G. Shojania e Mary Dixon-Woods (http://qualitysafety.bmj.com/content/qhc/early/2016/10/12/bmjqs-2016-006144.full.pdf), che hanno proposto una differente stima delle morti per errore medico in USA: 25.000. Nel primo caso, l’errore medico sarebbe la terza ragione di morte negli Sati Uniti, nel secondo la quattordicesima. Indipendentemente dalle due stime prodotte dagli studi citati, l’errore esiste e non è trascurabile. Abbiamo solo una strada possibile per ridurlo, nella professione medica come in qualsiasi altro settore professionale: essere più precisi, e le macchine possono imparare ad aiutarci.
Immaginate di avere in una mano un termometro che misura la temperatura corporea proponendo solo i gradi interi: 35, 36, 37 e così via, e dall’altra un altro termometro che segna anche i decimi di grado: 36,1, 36,4, 36,9. I due strumenti misurano la stessa grandezza ma con precisioni diverse. Evidentemente il secondo termometro, essendo più preciso, ci aiuterà a valutare con maggiore cognizione di causa il da fare: 36.9 non è febbre ma si sta avvicinando alla soglia critica. Disporre di maggiore precisione è fondamentale, vista la maggiore complessità dei problemi che affrontiamo e la quantità di dati da considerare.
Le macchine diventano “intelligenti” sintetizzando i dati di addestramento forniti, ma se questo addestramento viene fatto male, le macchine ci possono far commettere paradossalmente errori più grandi e compiere cose insensate.
Un paio di esempi: in un articolo scientifico apparso nel 2016 un gruppo universitario raccontava di aver addestrato una macchina a comprendere da una foto se un individuo è un potenziale criminale o meno (Automated Inference on Criminality using Face Images, https://arxiv.org/abs/1611.04135v1). Un altro gruppo ha inventato un algoritmo da utilizzare ai concorsi di bellezza: se tu fai vedere all’algoritmo la fotografia delle ragazze, esso dice quale è la più bella e quale la meno bella. Ovviamente alla fine l’algoritmo ha cominciato a funzionare così bene (o male), che ha discriminato le ragazze, in particolare le ragazze con la pelle nera.
In entrambi i casi il problema di fondo qual era? Che questi algoritmi erano stati addestrati con dei dati sbagliati o erano stati addestrati in modo improprio.
In conclusione – e ritornando alla domanda iniziale “le macchine imparano?” – la mia risposta è evidentemente no, non imparano. Le macchine restano macchine e continuano a fare i mestieri per cui sono state addestrate.
www.pieroleo.com
Il testo riprende un intervento svolto nello Spazio “WHAT?Macchine che imparano” al Meeting per l’amicizia fra i popoli, Rimini, 22 agosto 2017.
