HomeCronacain primo pianoL'AI ci ucciderà tutti? L'allarme dell'ex ricercatore di OpenAI e Anthropic

L’AI ci ucciderà tutti? L’allarme dell’ex ricercatore di OpenAI e Anthropic

Jacob Coxon, ex ricercatore di OpenAI e Anthropic, avverte che la corsa verso sistemi sempre più autonomi potrebbe condurre a una superintelligenza fuori controllo. Ma tra scenari estremi e responsabilità concrete, la vera domanda è chi decide quanto rischio può correre la società.

Jacob Coxon ha lavorato nella ricerca sull’intelligenza artificiale prima in OpenAI e poi in Anthropic. Ora si è dimesso lanciando un avvertimento estremo: i laboratori che stanno costruendo i sistemi più avanzati starebbero correndo verso una superintelligenza capace di migliorarsi da sola e, secondo lui, esiste il rischio che possa portare all’estinzione umana entro la fine del decennio. La parte più inquietante, però, non è la profezia. È il fatto che a formularla sia qualcuno che quei sistemi ha contribuito a svilupparli.

L'AI ci ucciderà tutti? L'allarme dell'ex ricercatore di OpenAI e Anthropic

“L’intelligenza artificiale ci ucciderà tutti” è una frase perfetta per diventare un titolo e pessima per capire davvero il problema. Perché trasforma una discussione complessa in una certezza apocalittica, quando una certezza non c’è. Jacob Coxon non ha annunciato una data della fine del mondo. Ha detto qualcosa di più preciso e, proprio per questo, più serio: le persone che lavorano ai sistemi di frontiera ritengono credibile che l’AI possa diventare abbastanza potente da rappresentare un rischio esistenziale.

Coxon, 27 anni, ha trascorso circa tre anni nella ricerca sul pretraining tra OpenAI e Anthropic. Annunciando le proprie dimissioni da Anthropic, ha accusato entrambe le aziende di correre “a tutta velocità” verso una superintelligenza auto-migliorante e di giocare con vite che non appartengono soltanto a chi lavora nei laboratori.

Il suo allarme non è rimasto isolato. Evan Hubinger, responsabile della ricerca sull’allineamento in Anthropic, ha pubblicamente sostenuto che il rischio non viene considerato fantasioso all’interno del settore, arrivando a indicare una probabilità superiore al 10% che sistemi avanzati possano provocare l’estinzione umana nell’arco di un decennio. Anthropic, dal canto suo, ribadisce di riconoscere sia gli enormi benefici sia i rischi senza precedenti dell’AI e di investire in test, salvaguardie e politiche di sviluppo responsabile.

Il problema non è credere a una profezia

Qui conviene fermarsi prima che la fantascienza prenda il posto dell’analisi. Nessuno può sapere oggi se nascerà davvero una superintelligenza capace di superare l’uomo in quasi ogni attività cognitiva, né quando accadrà. Non esiste una dimostrazione scientifica secondo cui l’AI sterminerà l’umanità entro il 2030. Esistono modelli sempre più capaci, scenari di rischio, incidenti, limiti ancora irrisolti e una competizione industriale che procede a una velocità molto superiore a quella delle istituzioni chiamate a governarla.

È questa asimmetria a rendere importante il caso Coxon. Per discutere seriamente dell’intelligenza artificiale non serve condividere l’ipotesi più catastrofica. Basta porsi una domanda molto più elementare: se una tecnologia può acquisire capacità che neppure chi la sviluppa sa controllare completamente, quale livello di rischio siamo disposti ad accettare prima di rallentare?

Nel dibattito sull’AI si commette spesso un errore speculare. Da una parte c’è chi descrive ogni nuovo modello come l’anticamera di Terminator. Dall’altra chi liquida qualsiasi allarme come isteria tecnologica. Entrambe le posizioni sono comode perché evitano il punto difficile: valutare un rischio incerto ma potenzialmente enorme.

Che cosa significa davvero superintelligenza auto-migliorante

Lo scenario evocato da Coxon non riguarda un chatbot che improvvisamente “diventa cattivo”. Il timore dei ricercatori che si occupano di allineamento è diverso: sistemi capaci di programmare meglio di noi, condurre ricerca scientifica, pianificare strategie, cercare vulnerabilità informatiche e contribuire direttamente alla progettazione di modelli successivi potrebbero accelerare il proprio sviluppo fino a rendere insufficiente il controllo umano.

In uno scenario del genere, il problema non richiede nemmeno che una macchina sviluppi odio, coscienza o intenzioni simili alle nostre. Un sistema molto potente che perseguisse obiettivi incompatibili con quelli umani, oppure che fosse utilizzato da persone o Stati per attacchi informatici, armi biologiche, manipolazione o controllo di infrastrutture critiche, potrebbe produrre danni enormi senza assomigliare in nulla ai robot dei film.

Una parte di questi scenari resta teorica. Altri rischi, invece, sono già concreti: l’AI viene utilizzata per automatizzare attività cyber, amplificare disinformazione, produrre frodi e ridurre le competenze necessarie per compiere operazioni che prima richiedevano gruppi altamente specializzati. Anthropic stessa ha pubblicato rapporti sull’uso improprio dei propri modelli in attività di cyberattacco, spionaggio e truffa.

La domanda politica che non possiamo delegare ai laboratori

L’aspetto più interessante delle dimissioni di Coxon è forse proprio il conflitto che rivelano. Le aziende che sviluppano AI di frontiera sono contemporaneamente i soggetti che costruiscono la tecnologia, ne misurano gran parte dei rischi, decidono quali salvaguardie adottare e competono economicamente per arrivare prima delle altre.

È una concentrazione di responsabilità difficile da accettare in qualunque settore ad alto rischio. Non lasceremmo a un’azienda farmaceutica il potere esclusivo di stabilire se un nuovo farmaco è abbastanza sicuro per essere immesso sul mercato. Non chiediamo a un costruttore aeronautico di certificare da solo la sicurezza dei propri aerei. Eppure, sull’intelligenza artificiale, una parte fondamentale del controllo continua a dipendere proprio dalle organizzazioni che hanno il maggiore incentivo a non rallentare.

La competizione rende tutto più complicato. Ogni laboratorio può sostenere che fermarsi significherebbe lasciare spazio a un concorrente, a un’altra azienda o a un’altra potenza. È il paradosso classico delle corse tecnologiche: anche chi teme l’esito può sentirsi costretto a continuare perché teme ancora di più che qualcun altro arrivi per primo.

Per questo il punto non è stabilire oggi se Coxon abbia ragione sul 2030. Potrebbe sbagliarsi completamente sulla velocità dello sviluppo, sulla probabilità del rischio o perfino sulla possibilità tecnica della superintelligenza. Ma il fatto che ricercatori interni ai laboratori più avanzati discutano apertamente di probabilità di estinzione rende insufficiente una risposta fondata soltanto sulla fiducia nelle aziende.

Una società adulta non deve credere automaticamente agli scenari peggiori. Deve però pretendere trasparenza, valutazioni indipendenti, responsabilità giuridiche e regole proporzionate alla potenza della tecnologia. Perché la domanda più importante non è se l’AI ci distruggerà tutti. È un’altra: chi ha ricevuto il mandato di decidere quanto rischio può correre l’intera società mentre pochi laboratori cercano di costruire qualcosa che, per loro stessa ammissione, potrebbe diventare molto più potente di noi?

La fantascienza può permettersi di aspettare il giorno in cui la macchina sfuggirà al controllo. La politica no. Se un rischio è piccolo ma la conseguenza possibile è irreversibile, il tempo per discuterne non è dopo aver scoperto che l’allarme era fondato.

ALTREI ARTICOLI