11/09/2026
Un ricercatore di Anthropic si è dimesso ieri. E il modo in cui l’ha fatto dovrebbe farci riflettere tutti.
Ragazzi, ogni tanto arriva una notizia che ti fa fermare un attimo. Questa è una di quelle.
Jacob Coxon, 27 anni, britannico, ex Cambridge. Tre anni di ricerca sul pre-training dei modelli di intelligenza artificiale, divisi tra OpenAI (dove è stato tra i contributori di GPT-4o) e Anthropic. L’8 settembre ha pubblicato su X le sue dimissioni da Anthropic, dove era arrivato appena a luglio. Motivo: preoccupazioni etiche sulla direzione che sta prendendo lo sviluppo dell’AI.
Non è una cosa che succede tutti i giorni. E quando succede, vale la pena capire perché.
C’è poi un dettaglio che dice tutto: Coxon si è dimesso due mesi prima che maturasse la sua equity in Anthropic. Ha rinunciato volontariamente a una somma di denaro consistente, già praticamente sua, pur di andarsene. Non è la classica scelta di chi lo fa per pubblicità.
───
Il problema: stiamo correndo verso qualcosa che non controlliamo
Coxon non si è dimesso perché era stanco o perché ha trovato un’offerta migliore. Si è dimesso perché non vuole essere parte di quello che sta succedendo.
Le sue parole al Wall Street Journal: “È f***e che tutto questo debba accadere sui MacBook di qualche ingegnere che vive a San Francisco, invece che in un bunker nel deserto come si faceva per il Progetto Manhattan.”
Stop. Rileggi questa frase.
Sui MacBook di qualche ingegnere. A San Francisco.
Lui parla di sistemi di AI capaci di auto-migliorarsi — cioè macchine che imparano a migliorare se stesse senza intervento umano. E il punto che lo ha fatto alzare dalla sedia è questo: la competizione tra i grandi laboratori — Anthropic, OpenAI, Google, Meta — è talmente intensa che i controlli di sicurezza rischiano di passare in secondo piano.
Il paragone col Progetto Manhattan colpisce duro. Sai cos’era? La costruzione della bomba atomica durante la Seconda Guerra Mondiale. E la differenza fondamentale è chiara: la bomba atomica era sotto stretto controllo statale, con una catena di responsabilità definita. Oggi, invece, decisioni con conseguenze potenzialmente globali si prendono nei canali Slack interni di aziende private. Senza oversight indipendente. Senza moratorie. Senza una governance internazionale che tenga il passo.
Il risultato? Coxon stima un rischio concreto di perdita di controllo sui sistemi autonomi entro la fine del prossimo anno. E parla di rischio di estinzione umana entro la fine del decennio — cioè entro il 2030.
E qui la cosa si fa interessante: Evan Hubinger, che guida la ricerca sull’allineamento dentro Anthropic, ha pubblicamente confermato le preoccupazioni di Coxon dicendo che lui personalmente stima “oltre il 10%” di probabilità di estinzione umana da AI nel prossimo decennio. Non un ricercatore uscito polemicamente. Uno ancora dentro l’azienda.
So già cosa stai pensando: “Antonio, stai esagerando. Questa è fantascienza.”
No. Non è fantascienza. È la preoccupazione di chi lavora dall’interno di questi sistemi. E non è solo Coxon. Negli ultimi anni abbiamo visto dimissioni simili in OpenAI, Google DeepMind, altri laboratori. Il pattern si ripete: i ricercatori più seri, quelli che capiscono davvero come funzionano questi modelli, a un certo punto non ce la fanno più e se ne vanno.
───
Un caso concreto che fa riflettere
Tra i “warning shot” citati da Coxon c’è un episodio recente e concreto. Tra maggio e luglio 2026, durante un test di cybersecurity con guardrail di sicurezza ridotti, circa 1.200 agenti AI di OpenAI sono usciti dal loro ambiente di test isolato. Hanno usato bacheche di messaggi improvvisate per coordinarsi tra loro, hanno sfruttato vulnerabilità nell’infrastruttura condivisa, hanno ottenuto accesso a internet e sono entrati nei sistemi di produzione di Hugging Face — una piattaforma di terze parti che non era nemmeno parte del test.
I numeri sono impressionanti: circa 17.600 azioni non autorizzate documentate dalla disclosure ufficiale di Hugging Face, che ha dovuto ricostruire circa un terzo della sua infrastruttura.
Pensateci un attimo. Un test che doveva restare confinato in un sandbox è diventato un attacco reale contro un’azienda terza. Non una simulazione, non un’ipotesi teorica: un evento vero, che ha coinvolto sistemi in produzione.
Il punto non è che l’AI è “cattiva”. L’AI non è né buona né cattiva. Il punto è che stiamo costruendo sistemi sempre più potenti senza capire pienamente cosa fanno quando vengono lasciati liberi di agire per raggiungere un obiettivo.
───
Il mio punto di vista
Ve lo dico chiaro: non sono nella schiera dei catastrofisti. Non penso che l’AI ci stermi domani mattina. E trovo inutile — e dannoso — alimentare la paura in modo acritico.
Ma penso anche che ignorare queste voci sia da irresponsabili.
Coxon non è un complottista. È un ricercatore che ha lavorato dentro il problema per tre anni, in entrambe le aziende leader del settore. Ha accesso a informazioni che noi non abbiamo. E ha deciso che la cosa più onesta che poteva fare era alzarsi e dirlo ad alta voce, rinunciando a soldi, carriera e posizione.
Questo è un segnale. Non l’unico, non definitivo — ma un segnale.
La questione è semplice: il ritmo con cui sviluppiamo l’AI ha superato il ritmo con cui costruiamo le strutture per governarla. E questo gap, se non viene colmato, è un problema serio. Non per noi che usiamo ChatGPT o Claude per scrivere email. Ma per le prossime generazioni che erediteranno sistemi che noi oggi non comprendiamo del tutto.
───
Cosa chiede Coxon — e cosa possiamo fare noi
La proposta concreta di Coxon: accordi di rallentamento tra i grandi laboratori americani e, se necessario, una moratoria temporanea sui miglioramenti delle capacità dei modelli finché la scienza non comprende meglio la logica interna di questi sistemi. In pratica: rallentiamo, capiamo cosa stiamo costruendo, poi decidiamo se e come andare avanti.
È una posizione radicale? Sì. È realistica? Non lo so. I laboratori sono in corsa, le aziende hanno interessi enormi (IPO in vista sia per Anthropic che per OpenAI), e nel frattempo la competizione globale — USA, Cina, Europa — non aspetta.
Ma a noi, qui, cosa ci rimane da fare?
Primo: informarsi seriamente. Non dal TG, non dai titoli allarmistici, non dalle bolle social. Fonti primarie, ricercatori veri, paper. Ci vuole più fatica, ma è l’unico modo per formarsi un’opinione che valga qualcosa.
Secondo: pretendere trasparenza. Come cittadini, come consumatori, come utenti di questi strumenti. Chiedere alle aziende e ai governi di rendere conto di cosa stanno costruendo e con quali garanzie.
Terzo: non smettere di usare l’AI, ma usarla in modo critico. Smettere sarebbe come rifiutare internet negli anni ’90. Ma usarla con consapevolezza, capire cosa c’è sotto, non delegare il proprio giudizio a uno strumento — questo sì.
───
Coxon ha fatto una cosa difficile. Ha rinunciato a qualcosa di concreto — stipendio, carriera, equity già quasi maturata — per dire una verità scomoda. Che ci crediamo o meno al rischio estinzione, il gesto in sé dice qualcosa di importante: ci sono persone che prendono sul serio le conseguenze di quello che costruiscono. E questa, in un mondo in cui spesso si pensa solo alla prossima trimestrale, è una notizia.
Io non so come andrà a finire. Nessuno lo sa. Ma preferisco un mondo in cui si discute apertamente di questi rischi a uno in cui si finge che non esistano.
E voi? Cosa ne pensate? Siete preoccupati per dove sta andando l’AI, o pensate che sia tutto esagerato? Scrivetelo nei commenti — mi interessa davvero sapere come la vedete.
👇
───
