📚 Introduzione
Incoscienza artificiale: come fanno le macchine a prevedere per noi di Massimo Chiriatti parte da una provocazione lessicale: forse dovremmo smettere di parlare di “intelligenza” artificiale e iniziare a parlare di “incoscienza” artificiale. Gli algoritmi, per quanto sofisticati, eseguono regole apprese dai dati e producono risultati senza alcuna comprensione o consapevolezza di ciò che stanno facendo. Chiriatti chiama questa entità “Iasima” e la usa come filo conduttore per attraversare storia, filosofia e tecnica: dal Perceptron di Rosenblatt alla “stanza cinese” di Searle, da Kahneman a Polanyi, fino alle domande più scomode su cosa significhi davvero prevedere, decidere ed essere coscienti. Il libro non è un trattato tecnico sul machine learning, ma una riflessione su dove finisce il calcolo e dove inizia (o non inizia ancora) qualcosa che somigli a una mente.
🚀 Cosa mi porto a casa da questa lettura
-
Previsione non è decisione
”Una previsione non è una decisione. Per prendere una decisione è necessario applicare il giudizio a una previsione e poi agire.” Il compito dell’IA si ferma alla previsione: il giudizio e la responsabilità restano umani. -
Il Sistema 0, oltre Kahneman
Estendendo il modello di Pensieri lenti e veloci, Chiriatti propone un Sistema 0: qualsiasi software che fa da intermediario tra noi e la realtà, filtrando e riducendo lo spazio delle scelte prima ancora che intervengano intuito (Sistema 1) e ragionamento (Sistema 2). -
Classificazione e previsione, non causa-effetto
L’IA si concentra sulla correlazione tra dati e sull’automazione della previsione, non sul rapporto causale. Trovare correlazioni è relativamente semplice; spiegarle richiede teorie e contesto: serve il Sistema 2, cioè noi. -
Il futuro scritto nel passato
Ogni sistema predittivo assume implicitamente che il futuro sia già contenuto nel passato da cui ha imparato. È “come guidare guardando solo nello specchietto retrovisore”: utile, ma pericoloso se non si pratica un continuo re-training e testing. -
Coscienza come proprietà biologica
Richiamando Searle e il suo esperimento della stanza cinese, il libro sottolinea che la coscienza potrebbe emergere solo da un supporto biologico, non da un aumento di potenza di calcolo. Iasima non sa perché calcola: esegue, non comprende. -
I dati sono il padrone dell’IA
”La stella polare dell’IA sono i dati con i quali è stata addestrata: sono quelli i suoi ordini e il suo padrone.” Un promemoria utile ogni volta che deleghiamo una decisione a un modello: la qualità e i bias dei dati sono la vera governance. -
La conoscenza inespressa resta umana
Il concetto di tacit knowledge di Michael Polanyi, trasmesso solo attraverso l’interazione diretta tra persone, è un territorio che l’IA non può ancora toccare: non può fornire spiegazioni su fenomeni mai visti, perché servono creatività e autocritica. -
Interpretabilità vs spiegabilità
Due concetti distinti e spesso confusi: l’interpretabilità riguarda la capacità di prevedere cosa accadrà, la spiegabilità la possibilità di spiegare in termini umani l’architettura interna di una macchina. -
La vera pandemia è la disinformazione
Non il virus, ma la velocità e la scala con cui l’IA può amplificare contenuti falsi è, secondo l’autore, il rischio sistemico più serio dei prossimi anni. -
Nel futuro conteranno le domande, non le risposte
Se le macchine diventano sempre più brave a rispondere, il valore umano si sposta a monte: nel saper porre la domanda giusta.
🔗 Un punto di incontro con altre letture
Incoscienza artificiale non nasce isolato, ed è un libro che dialoga apertamente con altre letture che avevo già fatto.
Il più esplicito è Daniel Kahneman e Pensieri lenti e veloci: Chiriatti non si limita a citarlo, ma usa il suo Sistema 1 (intuitivo) e Sistema 2 (razionale) come fondamenta su cui innestare il proprio Sistema 0, cioè il software che oggi si frappone tra noi e la realtà, filtrando a monte lo spazio delle scelte prima ancora che intuito e ragionamento entrino in gioco. È un’estensione naturale: se Kahneman descrive come decidiamo, Chiriatti si chiede cosa succede quando qualcuno decide per noi, ancora prima che ce ne accorgiamo.
C’è poi un filo che lega questo libro al primo di Chiriatti, #Humanless: l’algoritmo egoista (2019): già nel titolo di quel lavoro compare un’eco diretta de Il gene egoista di Richard Dawkins, che avevo letto proprio in occasione di quel post. Dawkins descrive i geni come replicatori “egoisti” che non sanno né capiscono nulla, ma si propagano semplicemente perché sono più efficaci a farlo: non c’è intenzione, c’è solo selezione. È esattamente la stessa non-comprensione che Chiriatti attribuisce a Iasima in Incoscienza artificiale: un algoritmo minimizza una funzione di errore sui dati di addestramento senza “sapere” cosa sta facendo, proprio come un gene non sa di essere egoista. L’autore sembra aver sostituito, nel passaggio da un libro all’altro, “egoista” con “incosciente”: due parole diverse per descrivere lo stesso fenomeno, un’ottimizzazione cieca priva di un soggetto che la comprenda.
Il terzo punto di contatto è con Yuval Noah Harari e Homo Deus. Harari sostiene che, se accettiamo che anche gli esseri umani siano in fondo “algoritmi biochimici”, allora l’autorità nel mondo si sposterà progressivamente dall’uomo a sistemi esterni capaci di leggere i nostri dati meglio di quanto riusciamo a fare noi stessi: è la sua idea di Dataismo, dove decidere viene delegato a chi ha più dati, non a chi ha più coscienza. È praticamente lo stesso allarme lanciato da Chiriatti quando scrive che viviamo nello spazio delle scelte e che quello spazio si riduce ogni volta che una macchina ha già deciso per noi una versione ridotta e arbitraria delle alternative possibili. Harari guarda al fenomeno su scala di civiltà, Chiriatti lo porta a terra, nel singolo algoritmo che smista un prestito o raccomanda un contenuto — ma la domanda di fondo è la stessa: chi detiene davvero l’autorità, quando a decidere (o a prevedere, come direbbe Chiriatti) è un sistema che non capisce nulla di ciò che fa?
🍷 Conclusione
Chiriatti non nega i progressi dell’IA, anzi ne riconosce la portata per classificazione e previsione in ambiti dove prima non era nemmeno pensabile farlo. Ma insiste su una distinzione netta: calcolare non è capire, prevedere non è decidere, correlazione non è causa. Finché manca un corpo, un’esperienza e una storia evolutiva, Iasima resta un’incoscienza che lavora per noi, non con noi nel senso pieno del termine. È una lettura utile a chi, come me, lavora ogni giorno con sistemi che “prevedono” qualcosa: un richiamo a non confondere l’output di un modello con un giudizio, e a tenere ben saldo in mano il Sistema 2 quando c’è da decidere davvero.
🤓 Riferimento
Massimo Chiriatti. Incoscienza artificiale: come fanno le macchine a prevedere per noi, Luiss University Press, ottobre 2021.
“Sarebbe meglio, quindi, sostituire ‘intelligenza’, che ha un’accezione positiva, con ‘incoscienza’, poiché gli algoritmi, eseguendo regole che imparano autonomamente dai dati, producono risultati senza alcuna comprensione e coscienza di ciò che stanno facendo.” (Massimo Chiriatti)