Jacob Coxon, ricercatore britannico di 27 anni con un background matematico, ha rassegnato le proprie dimissioni da Anthropic con una dura presa di posizione pubblica. L’esperto contesta apertamente la direzione intrapresa dalle aziende leader del settore tecnologico, accusandole di procedere a ritmi insostenibili verso la superintelligenza.
Dopo tre anni trascorsi nella ricerca sul pre-addestramento dei modelli tra OpenAI e Anthropic, Coxon sostiene che le due realtà stiano mettendo a repentaglio la sicurezza globale. Secondo il ricercatore, lo sviluppo incontrollato di sistemi capaci di auto-migliorarsi potrebbe trasformarsi in una minaccia diretta per l’umanità entro la fine del decennio.
La rottura con Anthropic e l’allarme sulla superintelligenza
“Oggi mi sono dimesso da Anthropic. Ho trascorso gli ultimi tre anni a svolgere ricerche di pre-addestramento sia presso OpenAI che presso Anthropic. Nessuna delle due aziende si sta comportando in modo responsabile”, ha dichiarato Coxon nel suo annuncio formale.
Il nodo centrale della denuncia riguarda la rapidità con cui vengono rilasciate nuove iterazioni algoritmiche senza garanzie adeguate. “Stanno correndo a perdifiato verso la superintelligenza auto-migliorante e stanno giocando con le nostre vite”, ha ribadito lo scienziato britannico.
Coxon ha spiegato di aver abbandonato l’incarico per non rendersi complice di una competizione industriale che rischia di sfuggire al controllo degli stessi creatori. Il timore principale è che l’evoluzione esponenziale delle reti neurali impedisca ai team tecnici di comprendere a fondo le dinamiche interne dei modelli.
La paura nei laboratori: “Credono che possa ucciderci tutti”
All’interno delle aziende, secondo Coxon, il gergo tecnico riflette l’urgenza di una corsa ormai vicina a un punto di non ritorno. Termini come “fase finale” e “periodo critico” vengono impiegati regolarmente nelle comunicazioni interne per descrivere l’avvicinamento a sistemi che supereranno le capacità cognitive umane.
Coxon respinge l’idea che questa traiettoria sia obbligata solo perché la concorrenza procede nella stessa direzione. “Accettare questa gara e entrare nella ‘fase finale’ è una scommessa arrogante che non dovrebbe essere lanciata da Slack di un’azienda privata”, ha affermato, contestando la gestione del problema dell’allineamento dei modelli in tempi compressi.
Il ricercatore ha svelato inoltre che il pessimismo sulle conseguenze estreme dell’intelligenza artificiale non appartiene solo a osservatori esterni. Le preoccupazioni esistenziali sarebbero ampiamente diffuse tra chi progetta direttamente queste architetture computazionali.
“Le persone che sviluppano l’intelligenza artificiale credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio”, ha denunciato Coxon. “Non si tratta di una trovata di marketing. Molti dirigenti e ricercatori cercano di usare un linguaggio rassicurante con la stampa, ma sento le stesse persone esprimere timore lontano dai microfoni”.
L’appello ai colleghi dei laboratori
La presa di posizione arriva mentre gli investimenti globali convergono verso modelli dotati di abilità di ragionamento autonomo avanzato, rendendo cruciale la disciplina dell’allineamento ai valori umani.
Nel congedarsi, Coxon si è rivolto direttamente alla comunità scientifica che opera nei laboratori della Silicon Valley e a livello internazionale. “Se sei un ricercatore di laboratorio, ti esorto a riflettere su come ti sembreranno davvero i prossimi anni”, ha incalzato.
“Vuoi avviare un esperimento di apprendimento per rinforzo superintelligente senza una comprensione rigorosa della sua mente? Dovresti abbassare la testa perché ‘tanto succederà comunque’ o cogliere questo momento?”, ha concluso Coxon.
