Arimane e l’algoritmo

6 minuti di lettura

Confesso che, fino a qualche settimana fa, avrei faticato ad accostare queste due parole nello stesso titolo: Arimane e l’algoritmo. Eppure, dopo aver scritto i primi due articoli di questa quadrilogia, mi sono reso conto che il vero nodo della questione non riguarda l’intelligenza artificiale in sé, ma il rapporto che gli esseri umani stanno costruendo con essa.

La pubblicazione dei primi due articoli:

• L’algoritmo dell’IA è un amplificatore
• L’IA capisce davvero?

ha generato sul forum e del canale Telegram di Dubito Ergo Sum una discussione ricchissima di spunti. Molti di voi hanno portato riflessioni profonde, altri preoccupazioni, altri ancora punti di vista molto diversi tra loro. Si è parlato di coscienza, di anima, di etica, di lavoro, di controllo sociale, di uso militare dell’intelligenza artificiale e perfino del rischio che, dialogando con questi strumenti, siano loro a modificare lentamente il nostro modo di pensare.

C’è però un aspetto che mi ha colpito più di tutti.

Quasi nessuno ha cercato di rispondere alla domanda con cui si concludeva il secondo articolo:

cosa accade quando quell’intelligenza, naturale o artificiale che sia, diventa un amplificatore di tutto ciò che le affidiamo?

In compenso, quasi tutti hanno espresso una posizione molto netta sull’intelligenza artificiale, tanto che ho iniziato a chiedermi se non stessimo osservando il fenomeno dalla prospettiva sbagliata.

Continuiamo a chiederci fin dove arriverà la tecnologia, quando la domanda più importante dovrebbe essere:

cosa accade a noi esseri umani quando uno strumento così potente entra nella società?

È proprio inseguendo questi ragionamenti che mi è tornato alla mente il pensiero di Rudolf Steiner e, in particolare, la figura di Arimane.

Se ci pensate non è più la macchina sotto esame.

Siamo noi.

Qualunque sia il giudizio che ciascuno può dare sul pensiero di Steiner, una cosa è certa: oltre un secolo fa Steiner sviluppò una riflessione molto profonda sul rapporto tra l’essere umano, la tecnica e le forze che orientano la civiltà.

Vorrei chiarire subito un punto importante.

Non sto dicendo che Steiner ha previsto ChatGPT, i modelli linguistici o l’intelligenza artificiale. Sarebbe un’affermazione oltre che storicamente infondata, anche sminuente, a mio avviso, dell’immenso lavoro di una delle menti più elevate spiritualmente degli ultimo 150 anni.

Ciò che trovo interessante – ne parlo al presente e ciò dovrebbe farci riflettere – è che

Steiner descrive Arimane come il principio che spinge l’essere umano verso una visione della realtà sempre più dominata dal calcolo, dalla quantità, dall’efficienza, dalla tecnica e dal controllo.

Non considerava queste qualità un male in sé. Al contrario, riconosceva che esse hanno avuto un ruolo fondamentale nello sviluppo della civiltà.

Il problema nasce quando l’equilibrio si rompe e la dimensione quantitativa finisce per occupare tutto lo spazio disponibile, relegando in secondo piano la coscienza, l’intuizione, l’etica e la responsabilità.

Letta oggi, questa immagine assume una forza sorprendente.

Viviamo in un’epoca nella quale quasi tutto viene tradotto in numeri.

Le nostre amicizie diventano follower.

L’autorevolezza diventa numero di visualizzazioni.

La reputazione si misura attraverso like e commenti.

La salute viene monitorata da sensori, la produttività da grafici.

Perfino le emozioni iniziano a essere classificate, analizzate e trasformate in dati.

L’intelligenza artificiale rappresenta forse il punto più avanzato di questo processo.

Ma è davvero questo il problema? Credo di no.

Sostengo che l’IA – a prescindere di chi l’abbia creata, come per internet – sia uno strumento neutro. Come un coltello può preparare una cena oppure diventare un’arma.

Un microscopio può curare una malattia oppure essere utilizzato per sviluppare nuove armi biologiche.

La tecnica, di per sé, non possiede un’intenzione.

L’intenzione appartiene sempre a chi la utilizza.

Eppure l’intelligenza artificiale introduce una novità che nessuna tecnologia precedente aveva portato con questa intensità.

Le macchine del passato hanno moltiplicato la forza delle braccia. L’intelligenza artificiale moltiplica la capacità di elaborare informazioni. Non moltiplica la forza del corpo, ma quella della mente.

Amplifica il pensiero. Amplifica la produzione di conoscenza, la comunicazione, la creatività!

Ma, allo stesso tempo, può amplificare anche la propaganda, la manipolazione, la superficialità e perfino i nostri pregiudizi.

Per cui stiamo più attenti noi che siamo degli anticonformisti per natura, come molti lettori di Dubito Ergo Sum, che ci focalizziamo subito sui pericoli e rischi di queste novità, che ci vengono sempre spacciate come la panacea di tutti mali anche se poi immancabilmente si “scopre” che ci avevamo “azzeccato” (semi cit.)

Ed è qui che la figura simbolica di Arimane torna prepotentemente attuale.

Non perché l’intelligenza artificiale sia “arimanica”.

Ma perché rischiamo di diventarlo noi!

Seguitemi. Il pericolo non è costruire macchine sempre più potenti.

Il pericolo è iniziare a ragionare come se tutto ciò che conta fosse ciò che una macchina riesce a misurare.

Se un algoritmo assegna un punteggio, quel punteggio diventa una verità.

Se una piattaforma decide che un contenuto è rilevante, iniziamo a considerarlo automaticamente importante.

Se un modello statistico prevede un comportamento, rischiamo di trattare quella previsione come un destino o peggio una profezia!

Il paradosso è che molti finiscono per attribuire alle risposte di un modello linguistico un’autorità quasi scientifica, dimenticando che ogni risposta nasce dall’interazione tra dati di addestramento, prompt, contesto e probabilità statistiche.

Non è una verità rivelata, né una dimostrazione scientifica: è una previsione plausibile costruita sulla base delle informazioni disponibili.

Eppure, più questa distinzione si affievolisce, più aumenta la tentazione di delegare il giudizio allo strumento. Poco alla volta la logica dello strumento rischia di diventare la nostra logica.

È questo il punto che continua a farmi riflettere.

Grazie al mio lavoro, ma anche per natura, sono portato a frequentare trasversalmente tutti gli strati sociali e certe volte davvero resto avvilito quando ho a che fare con persone che non distinguono un albicocca da un culo. Perdonate lo sfogo.

Per cui mi chiedo: quando uno strumento potentissimo entra nella società, siamo noi a dominarlo oppure, poco alla volta, iniziamo a ragionare secondo la sua logica?

È una domanda che va ben oltre l’intelligenza artificiale. È già accaduto con i social network.

All’inizio erano semplicemente strumenti per comunicare. Poi hanno modificato il nostro modo di informarci. Successivamente hanno cambiato il modo di discutere. Infine hanno iniziato a influenzare perfino il modo in cui costruiamo la nostra identità pubblica o digitale che sia.

Lo strumento non si è limitato a essere utilizzato. Ha modificato il comportamento di chi lo utilizza e questo è stato chiaramente notato subito da chi ha interesse nel gestire questi strumenti potentissimi.

Proprio per questo l’intelligenza artificiale il rischio potrebbe essere ancora più subdolo.

Se ci abituiamo a delegare la scrittura, smetteremo di scrivere? Molti non sanno già più come usare una penna.

Se deleghiamo il ragionamento, smetteremo di ragionare?

OK, molti hanno il cervello come soprammobile e per quelli cambierà poco o nulla. E se si continua su questa strada e deleghiamo anche la memoria, smetteremo di ricordare? Non sto divagando o dicendo che accadrà, ma credo che valga la pena porsi la domanda.

E’ proprio osservando ciò che sta accadendo nel mondo dell’intelligenza artificiale che questa riflessione assume un significato ancora più concreto.

Qualche mese fa Anthropic, una delle aziende più importanti nel settore dell’IA, è finita al centro dell’attenzione per avere dichiarato – per bocca del suo CEO Dario Amodei, Chapeau – di non voler rimuovere alcuni limiti relativi all’impiego dei propri modelli nella sorveglianza di massa e nelle armi autonome, anche a costo di entrare in contrasto con importanti interessi economici e militari.

Al di là delle opinioni che ciascuno può avere su questa vicenda, essa mette in evidenza un fatto fondamentale.

L’etica non è dentro l’algoritmo; è nelle persone.

E questa, probabilmente, è la notizia più rassicurante di tutto l’articolo.

Perché significa che siamo ancora noi a decidere. È un gruppo di esseri umani che decide quali limiti imporre. È un altro gruppo di esseri umani che può chiedere di rimuoverli.

L’algoritmo, da solo, non prende posizione. Esegue. Amplifica.

Per questo motivo continuo a pensare che il dibattito pubblico stia guardando nella direzione sbagliata. O magari siamo portati a guardare da un’altra parte. Vedi il problema dei Data Center, di cui le IA hanno bisogno per il loro funzionamento.

Ci chiediamo continuamente se l’intelligenza artificiale diventerà troppo potente.

Molto più raramente ci chiediamo se gli esseri umani saranno abbastanza maturi da utilizzarla con saggezza.

Forse è proprio qui che il pensiero di Steiner conserva tutta la sua attualità.

Non nell’idea di una lotta contro la tecnologia. Ma nell’invito a non lasciare che la tecnica diventi l’unico criterio con cui interpretiamo il mondo.

Una civiltà capace di costruire strumenti straordinari, ma incapace di interrogarsi sul loro scopo, rischia di diventare immensamente efficiente ma anche profondamente disumana e spiritualmente più impoverita.

E allora ritorno alla domanda con cui si è aperta questa riflessione.

Quando uno strumento così potente entra nella società, siamo noi a guidarlo oppure, quasi senza accorgercene, iniziamo a farci guidare dalla sua logica?

Forse è proprio qui che si gioca la vera partita dell’intelligenza artificiale.

Non nei processori, nei data center o negli algoritmi.

Ma nella coscienza degli esseri umani che decidono ogni giorno come utilizzarla.

Perché un amplificatore, da solo, non sceglie mai la musica.

Fa solo suonare più forte quella che gli viene affidata.

Continua e finisce con:

• Cosa vogliamo che amplifichi l’IA?

Foto Di Dario Amodei di TechCrunch, CC BY 2.0 https://commons.wikimedia.org/w/index.php?curid=185801188