la IA vuole distruggere il mondo!

3 minuti di lettura

E così prima il caso di Jacob Coxon, ricercatore di Anthropic , che denuncia che la IA vuole distruggere il mondo. Il post sulle sue dimissioni e i pericoli dell’Intelligenza Artificiale è ripreso dalle testate di mezzo mondo.

Poi ci si mette Dario Amodei a denunciare il pericolo IA. Subito seguito a ruota da Elon Musk e Sam Altman nel proporre un nuovo piano di “rallentamento della tecnologia”.

Com’è che si chiama quella pratica per la quale certi attori lanciano un allarme, più o meno motivato, per spingere la politica a legiferare sulla causa di quell’allarme?

Ah Sì, è la chiara vecchia “politica della paura”, quando un problema viene enfatizzato o presentato come emergenza per creare consenso verso determinate misure legislative che poi si rivelano restrittive e limitanti delle libertà a vari livelli.

Anche se in questo caso “politica della paura” credo sia solo una definizione possibile, in quanto ritengo che non sia necessariamente la più precisa.

Non lo vedete? Il meccanismo che emerge è quello che in ambito politico-economico viene chiamato regulatory capture / cattura regolatoria, o, più precisamente ancora,

“regolamentazione proposta dagli stessi soggetti che dovrebbero essere regolamentati”.

Il caso Amodei è particolarmente curioso perché la sequenza è quasi da manuale: un dirigente di una delle aziende che sviluppano l’IA più avanzata lancia un allarme sull’accelerazione della tecnologia, prospettando scenari apocalittici; contemporaneamente propone un piano per “rallentare” lo sviluppo, che comprende valutatori indipendenti inseriti nelle aziende, coordinamento obbligatorio tra le società di frontiera e coordinamento internazionale.

Eheheh… siamo alle solite: “problema-reazione-soluzione”, si presenta o si amplifica un problema, si genera una reazione e si propone una soluzione già individuata.

Ma chi stabilisce le regole?

Perché se a chiedere la regolamentazione sono proprio i grandi operatori già presenti sul mercato, la regolamentazione può avere un effetto paradossale: invece di limitare il potere dei grandi operatori, potrebbe consolidare la loro posizione, aumentando i costi e le difficoltà di ingresso per i concorrenti più piccoli.

Ma che strano! Direbbe il Prof. Malanga

infatti è esattamente una delle critiche che sono state mosse alle proposte di Amodei: alcuni osservatori hanno parlato esplicitamente del rischio di regulatory capture.

Ma c’è un secondo concetto che secondo me descrive ancora meglio la dinamica che c’è dietro a questo ennesimo show, ovvero la creazione di un senso di emergenza attorno a un problema.

Il procedimento è: trasformare una questione in una minaccia urgente o esistenziale. Negli States la definirebbero “una questione di sicurezza nazionale!” ma in ambito accademico questo processo viene definito securitizzazione.

Potrete accorgervi del fatto che vi stanno coglionando sull’argomento se leggerete da qualche parte questa parola. Ma… hey!

l’IA vuole distruggere il mondo!

In pratica si costruire attorno a un’espressione simile un senso di emergenza e, sulla base dell’emergenza, si rendono politicamente accettabili misure che altrimenti sarebbero difficili da far approvare.

Vi ricorda qualcosa?

E guarda la struttura del caso:

“l’IA potrebbe prendere il controllo di Internet entro 6-12 mesi”

→ “la situazione è troppo pericolosa per lasciare che il mercato proceda normalmente”

→ “servono controlli, coordinamento e nuove regole”.

Le varie notizie che circolano in rete in queste ore confermano che Amodei parla proprio della necessità di rallentare il ritmo di sviluppo perché, lasciato senza controllo, potrebbe superare la capacità umana di comprenderlo e controllarlo.

Questo non significa che l’allarme sia falso. Tuttavia è proprio qui che, secondo me, si trova la parte più interessante. Buona parte del dibattito gravita attorno al fatto se tali affermazioni siano vere o false.

Ma non è necessario dimostrare che Amodei stia mentendo per interrogarsi sulle conseguenze politiche del suo allarme.

Intendiamoci, la minaccia può essere reale, parzialmente reale, sovrastimata o persino sottostimata, ma Il punto è un altro:

chi trae vantaggio dalla soluzione proposta?

E nel caso specifico c’è un dettaglio tutt’altro che secondario: Amodei non chiede semplicemente di fermare Anthropic, figuriamoci.

Propone che i governi impongano agli altri operatori di frontiera di adottare meccanismi analoghi a quelli che Anthropic dichiara di voler adottare volontariamente, e propone persino un intervento del governo statunitense per facilitare il coordinamento fra aziende, attraverso una deroga mirata alle norme antitrust per determinate discussioni sulla sicurezza.

Quindi, se dovessi fare una radiografia alla dinamica che osservo, direi che è tipo questa

allarme
→ percezione di emergenza
→ richiesta di regolamentazione
→ regolamentazione costruita “anche” secondo le esigenze degli operatori dominanti
→ possibile, se non scontato, consolidamento del potere degli operatori dominanti.

Questa è una combinazione di
securitizzazione + regulatory capture.

E ritengo che sia molto più interessante della semplice “politica della paura”, perché permette di fare una domanda più scomoda senza dover scadere nel complottismo da quattro soldi:

quando il lupo chiede al pastore di costruire un recinto più grande per proteggere le pecore, conviene chiedersi anche: chi possiede il recinto?

Foto di copertina Eden Moon da Pixabay