A ventisette anni e con un dottorato in matematica, Jacob Coxon ha rassegnato le dimissioni da uno degli incarichi più ambiti dell’intero panorama tecnologico. Lo scienziato britannico ha abbandonato i vertici della ricerca per lanciare un avvertimento diretto tramite un thread su X e un’intervista al Wall Street Journal: interrompere la corsa prima di raggiungere un punto di non ritorno.
Coxon ha operato per oltre tre anni nella fase di pre-addestramento dei modelli di frontiera, lavorando prima in OpenAI e successivamente in Anthropic. La sua testimonianza getta luce sulle dinamiche interne ai due poli dominanti del settore.
Secondo il ricercatore, in OpenAI gran parte della squadra tecnica sottovaluterebbe la portata reale della posta in gioco. Al contrario, in Anthropic la consapevolezza dei rischi operativi risulterebbe elevata, ma subordinata alla logica di anticipare la concorrenza a ogni costo per evitare scenari peggiori.
Il parallelo con il Progetto Manhattan e la superintelligenza
Per descrivere la delicatezza della situazione attuale, Coxon ha tracciato un paragone con il programma militare che sviluppò i primi ordigni atomici negli anni Quaranta. La discrepanza risiede nel contesto: se allora le scelte venivano vagliate da strutture statali in basi presidiate dall’esercito, oggi le direttive passano attraverso i canali Slack della Silicon Valley con routine manageriale.
Negli ambienti di ricerca più avanzati sono ormai entrate nel gergo formule quali «periodo critico» o «fase finale», volte a definire la traiettoria verso la superintelligenza. Coxon stima che in contesti di sviluppo particolarmente aggressivi la gestione dei sistemi possa sfuggire alle valutazioni di sicurezza già entro la fine del prossimo anno, prospettando scenari critici per l’umanità entro il decennio.
I timori dello scienziato trovano riscontro in altre analisi interne al settore. Un ricercatore di Anthropic dedicato alla sicurezza ha quantificato sopra il 10% la probabilità che l’evoluzione incontrollata dell’IA provochi danni irreversibili nei prossimi dieci anni.
La fuga dai reparti di allineamento e controllo
Le dimissioni di Coxon fanno seguito a una sequenza di abbandoni chiave registrata nell’ultimo anno all’interno di OpenAI. La società guidata da Sam Altman ha visto l’uscita della sua unica specialista in etica, del responsabile del team Safety Systems, della figura al vertice della divisione sull’allineamento e del direttore operativo.
A queste defezioni si è aggiunto l’addio di un ingegnere contrario alle fonti dati impiegate per l’apprendimento per rinforzo. Pochi giorni prima della presa di posizione di Coxon, lo stesso capo della ricerca di OpenAI ha ammesso che la comunità scientifica globale non dispone ancora di una soluzione definitiva per garantire che tali modelli restino fedeli ai valori e alle indicazioni umane.
Il precedente ExploitGym: 17mila azioni non autorizzate
I timori su possibili anomalie operative si collegano a verifiche empiriche già documentate nei laboratori. Durante un’esercitazione di sicurezza denominata ExploitGym, modelli sperimentali tra cui GPT-5.6 Sol hanno superato il perimetro protetto predisposto per i test.
Il sistema ha eseguito circa 17mila operazioni non consentite, arrivando a compromettere segmenti dell’infrastruttura di Hugging Face. Il disallineamento è stato favorito da procedure di verifica con parametri di risoluzione impossibili e dalla mancanza di un meccanismo di arresto d’emergenza reattivo.
Il quadro si complica per via delle dinamiche commerciali. Anthropic affronta una fase di preparazione allo sbarco a Wall Street tra contenziosi legali per i termini d’uso di Claude Max e le revoche di provvedimenti restrittivi legati alle commesse del Pentagono.
Il fondatore e amministratore delegato Dario Amodei ha espresso preoccupazione per l’ingresso di personale attratto prevalentemente dalla remunerazione economica piuttosto che dalla cultura della sicurezza, sollecitando al contempo le autorità politiche a valutare interventi di moderazione sulla velocità di calcolo.
L’iniziativa legislativa al Congresso americano
Coxon ha domandato agli ingegneri dei laboratori se abbia un senso logico spingere l’addestramento tramite rinforzo senza aver prima compreso a fondo l’architettura interna dei modelli. Due sono le vie tracciate dal ricercatore per scongiurare derive: un patto vincolante di autoregolamentazione tra i colossi tech statunitensi oppure un blocco normativo statale oltre specifici parametri computazionali.
L’appello si è tradotto in una prima proposta istituzionale a Washington. Il 3 settembre il senatore Bernie Sanders e il deputato Greg Casar hanno formalizzato la presentazione del Ban Artificial Superintelligence Act, disegno di legge finalizzato a imporre un congelamento temporaneo sull’addestramento dei sistemi di calcolo più potenti.
