L’IA capisce davvero?

5 minuti di lettura

Nel precedente articolo ci siamo lasciati con una domanda volutamente aperta. Che cosa succede agli esseri umani quando iniziano a dialogare quotidianamente con qualcosa che appare intelligente Per provare a rispondere credo sia necessario fare un passo indietro e affrontare un interrogativo ancora più fondamentale. L’IA capisce davvero ciò che scrive oppure produce soltanto risposte che a noi sembrano il frutto di una reale comprensione?

Può sembrare una domanda filosofica o per gli informatici più esperti, ma in realtà riguarda ciascuno di noi.

Oggi milioni di persone chiedono consiglio a un’intelligenza artificiale per scrivere una lettera, preparare un esame, correggere un programma, cercare un’idea per il lavoro, perfino per confidare un momento di difficoltà! Più il dialogo appare naturale, più siamo portati a dimenticare che stiamo parlando con un algoritmo.

E qui che nasce il primo equivoco.

Quando leggiamo una risposta ben fatta, il nostro cervello compie quasi automaticamente un’associazione che per migliaia di anni ha sempre funzionato.

Se qualcuno usa il linguaggio in modo coerente, collega concetti, risponde alle domande e sembra perfino cogliere sfumature emotive, allora dietro quelle parole immaginiamo l’esistenza quantomeno di una mente che comprende.

Per tutta la storia dell’umanità questa deduzione è stata ragionevole. Nessun’altra entità, diversa dall’uomo, è stata in grado di sostenere una conversazione complessa. Oggi, invece, questa certezza vacilla.

L’intelligenza artificiale non possiede ricordi personali.

L’IA non “ricorda” nel senso umano del termine: sta semplicemente utilizzando il contesto che gli viene passato.

Non ha un’infanzia. Non ha vissuto delusioni, innamoramenti, lutti o successi.

Né ha mai osservato un tramonto, respirato l’odore della terra dopo un temporale o provato la soddisfazione di risolvere un problema dopo ore di tentativi.

Eppure riesce a descrivere tutte queste esperienze con una naturalezza che, a volte, lascia disorientati.

Come è possibile?

La risposta più immediata sarebbe dire che “simula”. Lo sentiamo ripetere spesso. Ma anche questa spiegazione rischia di essere troppo sbrigativa.

Pensiamo a un pianista che interpreta magistralmente un brano composto da Mozart. Possiamo dire che stia simulando la musica? Evidentemente no. Sta eseguendo qualcosa che altri hanno scritto, ma lo fa mettendo in relazione tecnica, memoria, interpretazione e sensibilità.

Okay l’esempio non è perfetto, perché un musicista prova emozioni mentre un algoritmo, per quanto ne sappiamo oggi, no. Tuttavia ci aiuta a capire che tra il semplice ripetere e il creare esistono molte sfumature.

Un modello linguistico moderno o di grandi dimensioni (LMM) non copia e fa un pastrocchio di frasi trovate su Internet. Se fosse così, sarebbe poco più di un motore di ricerca. Fa qualcosa di diverso.

Analizza enormi quantità di testi prodotti dagli esseri umani e impara a riconoscere relazioni, strutture e schemi del linguaggio.

Quando risponde, costruisce una frase nuova, coerente con il contesto e con ciò che gli è stato chiesto.

Questo significa che comprende?

Credo che la risposta, almeno oggi, è che nessuno lo sappia con certezza, perché dipende dal significato che noi attribuiamo alla parola “comprendere”.

Se per comprensione intendiamo la capacità di mettere in relazione informazioni e produrre una risposta coerente, allora l’IA dimostra una forma di comprensione funzionale straordinariamente efficace.

Ma se intendiamo la comprensione come esperienza soggettiva, come consapevolezza di ciò che si sta vivendo, allora lo scenario cambia è completamente ed entriamo nella sfera filosofica della questione.

Nel 1980 il filosofo americano John Searle propose un esperimento mentale diventato celebre con il nome di “La stanza cinese”.

Immaginiamo una persona chiusa in una stanza che non conosce una sola parola di cinese. Dall’esterno arrivano fogli con ideogrammi. All’interno della stanza esiste un enorme manuale che spiega quali simboli restituire in risposta a ogni combinazione ricevuta.

Chi si trova fuori crederà di dialogare con qualcuno che conosce perfettamente il cinese. In realtà, all’interno della stanza, nessuno comprende il significato di quei simboli. Vengono soltanto manipolati seguendo delle regole.

La provocazione di Searle era semplice quanto destabilizzante.

Manipolare correttamente dei simboli equivale davvero a comprenderli?

Questo esperimento di quarant’anni fa dimostra che quella domanda è ancora aperta.

Molti ricercatori ritengono che la coscienza possa emergere da sistemi sufficientemente complessi. Altri pensano invece che manchi ancora qualcosa di essenziale.

Tra questi ultimi c’è Federico Faggin. Dopo avere contribuito in modo decisivo allo sviluppo dell’informatica moderna, con l’invenzione del primo microprocessore commerciale, Faggin ha dedicato molti anni allo studio della coscienza arrivando a una conclusione che ha sorpreso molti suoi colleghi. Secondo lui:

la coscienza non può essere spiegata come un semplice prodotto dell’elaborazione delle informazioni. È una proprietà fondamentale della realtà, non riducibile a un algoritmo.

Anche il Prof. Corrado Malanga si colloca tra questi ma su un terreno completamente diverso .
Le sue ricerche e le sue conclusioni, a mio avviso geniali, sono oggetto di forti discussioni e non appartengono al sapere scientifico condiviso. Tuttavia è interessante osservare che anche lui considera che:

la coscienza è un qualcosa di irriducibile a un processo puramente computazionale.

Pur partendo da presupposti radicalmente differenti rispetto a Faggin, arriva a una domanda sorprendentemente simile: è davvero possibile racchiudere l’esperienza cosciente dentro una sequenza di istruzioni?

Non intendo stabilire chi abbia ragione tra tutti questi. Probabilmente nessuno oggi possiede una risposta definitiva.

Ma il semplice fatto che informatici, neuroscienziati, filosofi e ricercatori arrivino a conclusioni così diverse dovrebbe renderci prudenti ogni volta che sentiamo affermazioni categoriche sull’intelligenza artificiale.

Forse la questione nasce dal fatto che utilizziamo la parola “intelligenza” per descrivere fenomeni profondamente differenti.

Esiste l’intelligenza che risolve un’equazione.

Quella che compone una sinfonia.

Quella che comprende il dolore di un amico senza bisogno di parole.

O ancora quella che inventa una teoria scientifica o che riconosce un volto dopo quarant’anni.

Perfino quella che permette a una madre di capire che qualcosa non va nel proprio figlio semplicemente osservandolo per qualche secondo!

Siamo davvero sicuri che tutte queste capacità appartengano alla stessa categoria?

Forse no.

E siam arrivato al punto in cui il dialogo con l’IA diventa straordinariamente interessante.

Non perché ci dimostri che la macchina sia cosciente.

Ma perché ci porta a chiederci, per la prima volta in modo serio, che cosa significhi davvero “essere cosciente”.

In L’algoritmo dell’IA è un amplificatore ho raccontato di come, lavorando insieme a ChatGPT, fossi riuscito a risolvere un problema informatico soltanto quando ho cambiato metodo imponendo il mio.
Soltanto dopo mi sono reso conto che quella piccola esperienza contiene un insegnamento molto più grande.

L’intelligenza artificiale non mi aveva obbligato a pensare come lei.

Aveva costretto me a essere più preciso nel modo di formulare il problema.

Era cambiato il mio modo di ragionare.

Forse è proprio questo il primo grande effetto dell’intelligenza artificiale sugli esseri umani. Non tanto fornirci risposte migliori, quanto spingerci a formulare domande migliori, più precise e meno vaghe.

E’ stato proprio seguendo questo pensiero che è maturata una riflessione ancora più ampia.

Forse stiamo osservando l’IA dalla prospettiva sbagliata.

Continuiamo a domandarci se un algoritmo diventerà sempre più intelligente e a quando questo avverrà come una specie di ineluttabile destino.

Invece di chiederci se l’IA capisce davvero, dovremmo chiederci un’altra cosa.

Se il nostro modo di ragionare guida le risposte di un modello linguistico, cosa accade quando quell’intelligenza, naturale o artificiale che sia, diventa un amplificatore di tutto ciò che le affidiamo?

Continua con:

• Arimane e l’algoritmo
• Cosa vogliamo che amplifichi l’IA?

Foto di copertina Tung Nguyen da Pixabay