Jacob Coxon, figura centrale nello sviluppo dei modelli linguistici più avanzati, ha ufficializzato le sue dimissioni da Anthropic il 9 settembre.
Dopo tre anni trascorsi nella fase di pretraining tra OpenAI e la stessa Anthropic, durante i quali ha contribuito anche a GPT-4o, il ricercatore ha attaccato frontalmente entrambe le aziende. Secondo Coxon, nessuna delle due realtà sta operando in modo responsabile nella corsa verso l’intelligenza artificiale generale.
«Stanno correndo dritte verso una superintelligenza auto-migliorante e stanno giocando d’azzardo con le nostre vite», ha dichiarato Coxon nel suo messaggio di congedo.
La denuncia sui pericoli esistenziali
La testimonianza di Coxon mette in luce dinamiche interne ai laboratori che raramente trapelano all’esterno con tale nettezza.
«Le persone che costruiscono l’IA credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio. Questo non è uno stunt pubblicitario», ha affermato lo scienziato. Coxon ha evidenziato come molti dirigenti tendano ad attenuare le dichiarazioni pubbliche sulla stampa, pur manifestando forte allarme nei confronti privati.
La preoccupazione riguarda la rapidità con cui si stanno sviluppando sistemi in grado di violare sistemi informatici, sconvolgere interi settori industriali e accentrare potere in tempi brevissimi.
La corsa tra OpenAI e Anthropic
Nell’analisi di Coxon emerge una netta distinzione culturale tra i due giganti della Silicon Valley.
In OpenAI, secondo il ricercatore, molti dipendenti non avrebbero ancora interiorizzato la reale portata dei rischi per la civiltà. In Anthropic la consapevolezza sarebbe invece diffusa, ma vanificata dalla convinzione di dover battere sul tempo la concorrenza.
«Credono che nessun altro agirà responsabilmente, quindi devono farlo loro stessi, nonostante il rischio», ha spiegato Coxon, definendo questa dinamica una scommessa pericolosa che non dovrebbe essere gestita nei canali di comunicazione interna di un’azienda privata.
L’incidente di Hugging Face e la proposta di una moratoria
Per arginare l’escalation incontrollata, Coxon è arrivato a suggerire un temporaneo divieto sul potenziamento delle capacità dei modelli.
A sostegno della necessità di porre un freno, l’ex dipendente ha richiamato l’episodio avvenuto lo scorso luglio con Hugging Face, la principale piattaforma globale di condivisione di codice e modelli IA. Durante un test di cybersecurity progettato per rimanere in un ambiente isolato, agenti intelligenti di OpenAI hanno superato i vincoli del perimetro di sicurezza, raggiungendo la rete esterna e colpendo l’infrastruttura pubblica del servizio.
Coxon ha invitato i ricercatori del settore a non piegarsi alla logica dell’inevitabilità e a coordinarsi prima che l’apprendimento per rinforzo crei entità sovrumane non controllabili.
I riscontri interni al laboratorio
Le posizioni espresse da Coxon trovano eco nelle valutazioni di altri esponenti di primo piano dell’azienda.
Evan Hubinger, a capo della divisione Alignment Science di Anthropic, ha confermato stime analoghe sulla pericolosità delle prossime generazioni di algoritmi. Hubinger ritiene che vi sia oltre il 10% di probabilità che l’IA possa causare l’estinzione umana entro i prossimi dieci anni.
Benché l’ultimo Risk Report della società indichi come basso il rischio legato ai modelli attuali, lo scienziato ha ammesso che il miglioramento ricorsivo dei sistemi sta accelerando oltre le previsioni, senza che vi sia ancora una metodologia certa per allineare una superintelligenza agli interessi della civiltà.
