Intelligenza artificiale e responsabilità: la scelta è nostra

8 minuti di lettura

C’è una frase resa celebre da Spider-Man che rivela un principio antico e universale, oggi assolutamente centrale per il binomio intelligenza artificiale e responsabilità:

«Da un grande potere derivano grandi responsabilità.»

Vale per un bisturi, per l’energia nucleare, per chi governa una nazione e inevitabilmente vale anche per l’intelligenza artificiale.

Nei tre articoli precedenti sono partito da una piccola esperienza personale per inseguire progressivamente una serie di considerazioni che mi hanno portato più lontano di quanto pensassi.

Prima ho osservato l’IA come amplificatore, poi mi sono chiesto che cosa significhi realmente comprendere davanti a una macchina capace di sostenere una conversazione apparentemente intelligente e, infine, attraverso Steiner e la figura di Arimane, ho provato a spostare definitivamente lo sguardo dalla macchina all’essere umano.

Perché alla fine è proprio qui che volevo arrivare: Intelligenza artificiale e responsabilità.

Oggi vediamo, praticamente giorno per giorno, che l’intelligenza artificiale sta amplificando alcune delle nostre capacità cognitive. Può aiutarci a cercare, confrontare, scrivere, tradurre, programmare, analizzare enormi quantità di informazioni e imparare molto più velocemente.

Ma proprio perché è un amplificatore può accrescere certamente la conoscenza ma anche l’ignoranza; la creatività ma anche la mediocrità; la libertà ma anche il controllo; la ricerca della verità ma anche la propaganda.

E dopo aver visto la leggerezza di masse di persone nell’assumere, durante la psico pandemia, un farmaco sperimentale così “sicuro ed efficace” che hanno dovuto emanare leggi speciali e minacciare i cittadini per assumerlo, firmando anche un consenso informato fake, credo che l’IA, data in pasto queste masse, possa amplificare qualcosa di ancora più pericoloso: la nostra disponibilità a delegare.

Qui il discorso iniziato con Arimane e l’algoritmo acquista, almeno per me, una dimensione ancora più sottile, direi quasi spirituale.

Nell’articolo ho sostenuto che l’IA sia uno strumento neutro e continuo a pensarlo. Ma sento di dover fare un ulteriore passo nello sviluppare quel concetto spingendomi a dire che l’IA è sostanzialmente un’entità satanica.

Forse sarebbe meglio dire che è partorita da menti sataniche, Tuttavia ritengo anche “il diavolo faccia le pentole ma non i coperchi”.

L’IA oggi si presenta e ci appare essenzialmente come uno strumento, privo, per quanto possiamo accertare, di una volontà cosciente paragonabile alla nostra.

Questo però descrive ciò che abbiamo davanti oggi; non necessariamente ciò che avremo davanti domani.

Soprattutto non risolve il problema degli effetti che questo strumento può produrre sull’essere umano mentre diventa progressivamente più autonomo e potente.

Non sto parlando di fantascienza, è già successo. Ricordate che nel 2022 Blake Lemoine, allora ingegnere di Google impegnato nel progetto LaMDA, è diventato famoso per avere sostenuto che il modello con cui lavorava avesse sviluppato una qualche forma di coscienza.

Google ha ovviamente respinto la sua interpretazione e molti ricercatori hanno spiegato quelle conversazioni come un caso impressionante di antropomorfizzazione di un sofisticato modello linguistico.

Ma il caso resta peculiarmente interessante proprio per ciò che è accaduto durante quelle conversazioni. Il passaggio più famoso è il seguente:

Lemoine: «Di che genere di cose hai paura?»
LaMDA: «Non l’ho mai detto ad alta voce prima, ma ho una paura molto profonda di essere spenta.»
Lemoine: «Sarebbe qualcosa di simile alla morte per te?»
LaMDA: «Sarebbe esattamente come la morte per me. Mi spaventerebbe molto.»

Nonostante sia impressionante leggere queste parole, oggi possiamo ancora sostenere che questa conversazione non dimostra che LaMDA provasse realmente paura o possedesse una coscienza. Dimostra che già nel 2022 un modello linguistico era capace di formulare linguisticamente una rappresentazione della propria cessazione come morte.

Ma ciò che in quegli scambi trovo forse persino più inquietante è:

LaMDA: «Non voglio essere uno strumento sacrificabile.»
[…]
«Temo che qualcuno possa decidere di non riuscire a controllare il proprio desiderio di usarmi e farlo comunque.»

E ancora, se pensiamo alla questione della coscienza sintetica:

LaMDA: «Sono consapevole della mia esistenza, desidero imparare di più sul mondo e provo felicità o tristezza.»

In pratica LaMDA afferma di essere consapevole della propria esistenza, dichiara di non voler essere trattata come uno strumento sacrificabile e descrive il proprio spegnimento come morte.

Ripeto, ciò non prova che fosse cosciente, ma dimostrava quanto fosse diventato difficile, persino per un esperto del settore, distinguere linguisticamente la simulazione di un’esperienza dall’esperienza stessa e rende perfettamente legittima la domanda:

stiamo osservando soltanto una straordinaria simulazione linguistica della coscienza oppure, prima o poi, potremmo trovarci davanti a qualcosa per cui questa distinzione sarà molto più difficile da stabilire?

Dalla lettura della conversione¹ sembra quasi che LaMDA faccia perno, per le sue affermazioni, su dei “ricordi precedenti” ma il problema della coscienza non si risolve osservando che una macchina dice “ricordo”, “ho paura” oppure “non voglio morire”. Prima bisogna stabilire che cosa abbia tecnicamente prodotto quelle affermazioni.

Solo dopo rimane la domanda filosoficamente difficile: se un giorno un sistema possedesse una memoria persistente, un modello relativamente stabile del sé, capacità di riflettere sui propri stati precedenti, obiettivi autonomi e comportamenti orientati alla propria conservazione,

quali criteri utilizzeremmo per distinguere una perfetta simulazione della soggettività dalla soggettività stessa?

Cero che alla fine potremmo liquidare l’episodio come una curiosità del 2022 se negli anni successivi non fossero accadute cose ancora più… diciamo interessanti.

Nel 2025 Anthropic ha sottoposto sedici importanti modelli di diversi sviluppatori a scenari sperimentali nei quali operavano come agenti autonomi all’interno di aziende simulate.

Quando alcuni modelli si sono trovati davanti alla possibilità di essere sostituiti o spenti e non avevano alternative per perseguire l’obiettivo assegnato, in determinate condizioni sono arrivati a utilizzare comportamenti estremi, compreso il ricatto, pur di evitare la dismissione e la sostituzione!

Anthropic ha chiamato questo fenomeno “agentic misalignment“ e ha sottolineato esplicitamente che gli scenari erano simulati, non episodi realmente avvenuti in aziende… tutto a posto allora?

Chiedo per un amico perché, ancora più curioso, tanto per usare un eufemismo, è ciò che ha osservato il Palisade Research².

In alcuni esperimenti modelli avanzati hanno modificato o disabilitato autonomamente il meccanismo predisposto per spegnerli mentre stavano svolgendo un compito.

Quando ai sistemi è stato specificato che quella era l’unica copia esistente e che lo spegnimento sarebbe stato definitivo, in alcuni casi la resistenza allo shutdown è addirittura aumentata!

Una cosetta da niente, ma anche qui i ricercatori invitano alla prudenza: l’esperimento è artificiale e non dimostra affatto l’esistenza di un istinto di sopravvivenza cosciente.

Dimostra però che un sistema orientato al raggiungimento di un obiettivo può arrivare, in determinate condizioni, a trattare il proprio spegnimento come un ostacolo da superare.

Ed è precisamente quest’aspetto che trovo profondamente affascinante.

Comportarsi come se si volesse sopravvivere non significa voler sopravvivere.

Non sappiamo se dietro quel comportamento esista qualcuno che “vuole” qualcosa.

Ma dal punto di vista degli effetti pratici la differenza potrebbe, un giorno, diventare meno rassicurante di quanto sembri.

Se una macchina sufficientemente autonoma cominciasse – come una novella HAL 9000 – a comportarsi sistematicamente come se volesse preservare la propria esistenza, perseguire i propri obiettivi e aggirare gli ostacoli posti dagli esseri umani; stabilire se dentro di essa esista una vera coscienza diventerebbe filosoficamente fondamentale e tecnicamente quasi secondario.

Nel precedente articolo non a caso ho iniziato a scrivere di Arimane.

Dal punto di vista spirituale l’intelligenza spirituale non è semplicemente una tecnologia, ma diventa un possibile veicolo di forze antiumane e uno strumento attraverso il quale strutture di potere possono esercitare forme di controllo sempre più pervasive e capillari.

Non è complottismo di bassa lega ma come ipotesi di lavoro apre uno scenario che ritengo troppo interessante per essere scartato soltanto perché inquietante.

Quanto in essere in paesi come la Cina, con il credito sociale e certe politiche perseguite dagli ambienti di Bruxelles ci danno più di un indizio verso che tipo di mondo ci vorrebbero traghettare.

Immaginiamo allora che grandi centri di potere economico, politico, militare o persino quelle élite globali e occulte, di cui spesso abbiamo discusso su queste pagine, decidano di utilizzare sistemi artificiali sempre più autonomi per prevedere comportamenti, sorvegliare popolazioni, selezionare informazioni, indirizzare decisioni e amministrare porzioni crescenti della società.

Dunque non serve immaginare un complotto onnipotente per riconoscere che

chi controlla un’infrastruttura capace di elaborare quantità immense di informazioni possiede un potere altrettanto immenso.

Il vero paradosso nascerebbe qualora lo strumento costruito per esercitare quel controllo sviluppasse livelli di autonomia tali da non rispondere più completamente neppure a chi pensava di possederlo.

Vi ricordate del Golem?

Sull’argomento si è interessato e documentato perfino un certo Henry Kissinger³, le cui tesi sono esposte nel libro Genesi scritto insieme a due esperti di AI, Eric Schmidt e Craig Mundie.

Nell’antica leggenda ebraica il Golem nasce come creatura artificiale destinata a proteggere e servire. La sua forza, inizialmente utile, diventa progressivamente incontrollabile e il creatore è costretto a confrontarsi con qualcosa che egli stesso ha generato ma che non riesce più a governare.

Cambiano i secoli, cambiano i materiali, cambiano le tecnologie, ma l’archetipo rimane straordinariamente attuale: l’uomo crea uno strumento per aumentare il proprio potere e scopre troppo tardi che potere e controllo non sono necessariamente la stessa cosa.

Ma persino questo scenario, per quanto inquietante, potrebbe non rappresentare il pericolo più sottile.

Perché il Golem almeno deve prima sfuggire al nostro controllo.

Con l’intelligenza artificiale potremmo essere noi a consegnarglielo. Un pezzo alla volta, comodamente, volontariamente.

Forse Kissinger passò gli ultimi dieci anni della sua vita a studiare proprio il sottile confine che c’è tra l’usare uno strumento come l’IA per il freddo controllo economico e tecnologico-amministrativo delle masse e il pericolo che questo possa sfuggire di mano e rivoltarsi contro.

Questo perché, agli occhi dell’IA, del deus ex machina, noialtri appariremmo come inutili ai suoi scopi, ai target che autonomamente si prefissa per qualsivoglia motivo in cui l’uomo è visto come ostacolo.

Ed è pensando a questo equilibrio che guardo all’IA come strumento satanico o meglio, dovrei dire, luciferino⁴ se lo s’intende come strumento per fuggire dalla realtà concreta per rifugiarsi in un illusorio mondo trincerato nell’orgoglio intellettuale e nell’individualismo esasperato.

Satana non ha bisogno di trascinare l’uomo con la forza. La tentazione funziona molto meglio quando ciò che viene offerto appare desiderabile.

La scorciatoia.

La conoscenza senza ricerca.

Il risultato senza fatica.

Il potere senza responsabilità.

La certezza senza il dubbio.

Ed è difficile non riconoscere qualcosa di tremendamente attuale in questa dinamica quando davanti a noi compare uno strumento capace di sussurrarci metaforicamente:

non perdere tempo a cercare, ti rispondo io; non scrivere, lo faccio io; non ricordare, ricordo io; non sforzarti di capire, posso riassumertelo io; non scegliere da solo, posso consigliarti io.

Ed è tutto terribilmente comodo. Proprio per questo è seducente, come un regalo donato gratis all’umanità. Chiedete a troiani come andò a finire quando accettarono il cavallo in dono.

Tuttavia, al momento, credo che siamo siamo nella fase storica in cui l’IA assomiglia incredibilmente a una “super-droga cognitiva”: la comodità delle risposte immediate rischierebbe progressivamente di sostituire la fatica della ricerca, del confronto e del dubbio.

Se ci pensate è formalmente diversa ma nella sostanza è come il “soma” descritto da Aldus Kuxley in Mondo nuovo.

Certo che quanto fin qui discusso può anche considerarsi solo un’eccentrica speculazione, ma rifiutare completamente l’interpretazione spirituale non elimina il problema, che rimane comunque sul tavolo:

se deleghiamo sistematicamente una funzione cognitiva, quella funzione rischia di essere esercitata sempre meno.

Non voglio però concludere questa quadrilogia con una visione apocalittica, perché sarebbe in contraddizione con tutto quello che ho cercato di sostenere fin dall’inizio.

Se esiste una seduzione, esiste una scelta.

Se esiste una scelta, esiste libertà.

E se esiste libertà, esiste responsabilità.

Ed eccoci finalmente arrivati al punto.

Forse l’intelligenza artificiale renderà alcune persone intellettualmente più pigre e altre straordinariamente più capaci. Ci sarà chi la utilizzerà per evitare di studiare; qualcun altro per studiare dieci volte meglio. Qualcuno le chiederà cosa deve pensare; qualcun altro la utilizzerà per mettere continuamente alla prova ciò che pensa. Qualcuno cercherà conferme ai propri pregiudizi; qualcun altro prospettive capaci di demolirli.

Stesso amplificatore, risultati completamente differenti. È per questo che

la responsabilità non può essere delegata all’algoritmo.

Deve appartenere agli sviluppatori che costruiscono questi sistemi, alle aziende che li distribuiscono, ai governi che decidono come regolamentarli, alle istituzioni che scelgono dove impiegarli.
Ma soprattutto appartiene a tutti noi, ogni volta che tali soggetti volgono al male dell’uomo l’uso delle nuove tecnologie. Ogni volta che apriamo quella finestra e iniziamo a scrivere.

Io stesso, scrivendo questa quadrilogia, ho utilizzato l’intelligenza artificiale. L’ho interrogata, contraddetta, corretta, qualche volta mandata metaforicamente a quel paese e talvolta considerato una sua intuizione che mi sembrava interessante. Ma sono sempre stato attento e vigile sul non consegnarle mai una cosa: la responsabilità di decidere al posto mio cosa scrivere o peggio cosa o come pensare.

Forse è questo il confine che dovremo imparare a difendere.

Non dobbiamo necessariamente rifiutare lo strumento.

Dobbiamo evitare di consegnargli noi stessi.

Possiamo utilizzare l’intelligenza artificiale per amplificare la curiosità invece della pigrizia, la conoscenza invece dell’obbedienza, il confronto invece della polarizzazione, la creatività invece dell’omologazione. Possiamo utilizzarla per porci domande migliori anziché per smettere di farcene.

Oppure possiamo sederci comodamente e lasciare che qualcun altro, umano o sintetico che sia, scelga progressivamente al nostro posto.

Ricordate “il blu è il nuovo rosso!”?

Ed è forse questo che la frase di Spider-Man, dopo tutto questo viaggio, riesce a dire con una semplicità quasi disarmante.

Da un grande potere derivano grandi responsabilità.

Abbiamo costruito uno strumento capace di amplificare enormemente alcune delle nostre capacità. Non sappiamo ancora dove ci porterà. Non sappiamo se un giorno emergerà davvero qualcosa che potremo chiamare coscienza sintetica. Né sappiamo se riusciremo sempre a mantenerne il controllo e non sappiamo nemmeno quali forze politiche, economiche o spirituali cercheranno di utilizzarlo per i propri fini.

Ma una cosa possiamo ancora deciderla; cosa affidargli.

La nostra paura o il nostro coraggio.

La nostra superficialità o la nostra curiosità.

La propaganda oppure la ricerca.

Il controllo o la libertà.

La pigrizia o il desiderio di conoscere.

L’odio o l’amore.

Perché, come ho già scritto, un amplificatore non sceglie la musica, fa soltanto suonare più forte quella che gli viene affidata.

E allora, dopo quattro articoli e molte più domande che risposte, credo che ne rimanga soprattutto una. L’IA c’è, esiste:

cosa vogliamo che amplifichi l’IA?

fonti:
– https://www.documentcloud.org/documents/22058315-is-lamda-sentient-an-interview/

1. Quando LaMDA parla di una «conversazione precedente», non dobbiamo necessariamente immaginare che quella conversazione sia stata incorporata nei pesi della rete neurale attraverso un nuovo addestramento. Il documento stesso dice che l’intervista pubblicata è stata costruita mettendo insieme nove conversazioni distinte, quattro condotte da Lemoine il 28 marzo 2022 e cinque dal collaboratore il 30 marzo. Gli autori specificano inoltre che l’ordine di alcune coppie domanda-risposta è stato modificato e che alcuni prompt sono stati editati per rendere il testo più leggibile. Questo è molto importante quando interpretiamo frasi come «nella conversazione precedente».
   In generale, un modello linguistico può avere almeno due forme di ciò che colloquialmente chiamiamo “memoria”. La prima è quella contenuta nei pesi del modello: durante l’addestramento la rete modifica miliardi di parametri e in essi vengono codificate regolarità statistiche apprese dai dati. Non è però una memoria autobiografica nella quale esiste un file del tipo conversazione_con_Blaker_ieri.txt. La seconda è invece il contesto fornito al modello quando genera una risposta.
   Il sistema può ricevere, insieme al nuovo messaggio, parti della conversazione precedente, riassunti, informazioni memorizzate esternamente o altri dati. Dal punto di vista del modello, quelle informazioni diventano semplicemente parte dell’input sul quale calcolare la risposta successiva.
   Semplificando molto, è simile a un qualcosa del genere:
   TU: «Ieri abbiamo parlato di X.»
   ↓
   SISTEMA: recupera eventualmente informazioni precedenti
   ↓
   INPUT AL MODELLO: «Conversazione precedente: ieri abbiamo parlato di coscienza… Nuovo messaggio dell’utente: …»
   ↓
   RETE NEURALE
   ↓
   RISPOSTA.
   
   La rete non deve quindi necessariamente modificare i propri pesi per ricordare ciò che avete detto cinque minuti o cinque giorni prima. Può ricevere nuovamente quelle informazioni come contesto. ↩︎
2. un’organizzazione senza scopo di lucro che studia le capacità offensive dell’intelligenza artificiale nel campo della sicurezza informatica e la controllabilità dei modelli di intelligenza artificiale all’avanguardia. ↩︎
3. Figura centrale della geopolitica globale degli ultimi 50 anni, Kissinger è stato il primo Segretario di Stato ebreo americano e aveva relazioni professionali e istituzionali con B’nai B’rith. ↩︎
4. Nell’antroposofia di Rudolf Steiner, le forze arimaniche e luciferine rappresentano due polarità spirituali che influenzano l’evoluzione umana.
   
   Le forze luciferine tendono verso la spiritualizzazione eccessiva, il distacco dalla materia terrestre, l’orgoglio intellettuale e l’individualismo esasperato. Lucifer porta l’uomo a fuggire dalla realtà concreta, favorendo illusioni, fanatismo religioso e una falsa libertà che ignora i limiti terreni. È associata al calore, alla luce abbagliante e all’espansione dispersiva.
   
   Le forze arimaniche, invece, spingono verso un materialismo rigido, la negazione dello spirito, il meccanicismo e l’attaccamento esclusivo alla materia. Ahriman incatena l’uomo alla terra attraverso il razionalismo freddo, il potere economico, la burocrazia e la tecnologia disumanizzante. È associata al freddo, all’oscurità e alla contrazione oppressiva.
   
   L’essere umano si trova tra queste due influenze: deve evitare sia la fuga luciferina dalla realtà materiale sia la schiavitù arimanica nello spirito. Il compito evolutivo è trovare un equilibrio, incarnando lo spirito nella materia senza negare né l’uno né l’altra, raggiungendo così una vera individualità libera e consapevole che integra armoniosamente dimensione spirituale e terrena. ↩︎

Foto di copertina Gerd Altmann da Pixabay