ANTHROPIC E OPEN AI corrono verso sistemi di IA sovrumani incontrollabili”: giovane matematico si dimette

Come anticipato dal Wall Street Journal, Coxon, 27enne britannico con alle spalle una formazione matematica, ha spiegato che lascia Anthropic perché non vuole partecipare alla competizione per costruire sistemi capaci di auto-migliorarsi. Una corsa che, secondo lui, potrebbe portare a modelli fuori controllo. Il ricercatore ha aggiunto che nel settore si parla ormai apertamente di “periodo critico” e “fase finale”, espressioni che descrivono l’avvicinamento a sistemi in grado di superare le capacità umane.

Il giovane matematico era impiegato come ricercatore ad Anthropic, cioè si occupava proprio dell’addestramento dei modelli dell’Intelligenza Artificiale. Per questo, le sue parole risuonano ancora più pesanti. “Non sottovalutate il potere di questa tecnologia – ha scritto – Presto questi saranno sistemi sovrumani in grado di hackerare qualsiasi cosa, rivoluzionare qualsiasi campo dall’oggi al domani e acquisire vero potere e risorse. Abbiamo tutti assistito ai progressi in ciascuno di questi ambiti, e il progresso non sta rallentando”. Ma i toni si fanno ancora più macabri quando Coxon tocca il tema di come i colleghi e i superiori stiano nascondendo alla stampa e agli utenti i veri effetti di questa tecnologia. “Le persone che costruiscono l’IA credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio. Questo non è uno slogan pubblicitario. Anzi, molti dirigenti e ricercatori senior stanno edulcorando le loro frasi sulla stampa per sembrare sensati – ma sento le stesse persone esprimere paura in privato. Nessun’altra attività umana pone un livello di pericolo simile”.

Secondo Coxon, molti scienziati stanno continuando imperterriti sulla via della “distruzione dell’umanità” perché in OpenAi tanti non avrebbero “interiorizzato profondamente le conseguenze per la civiltà. In Anthropic, le poste in gioco sono molto chiare, ma sono bloccati nella corsa per arrivarci per primi: credono che nessun altro agirà responsabilmente, quindi anche loro devono fare così, nonostante il rischio”.

Dalla sua fondazione alla fine del 2015, OpenAi ha assistito a diverse dimissioni dei propri dipendenti: chi per motivi riorganizzativi, chi per salute, ma Coxon è uno dei primi esempi di un impiegato che ha lasciato il postoper motivi morali e di sicurezza. Anthropic non ha ancora commentato la sua decisione. L’amministratore delegato Dario Amodei e altri dirigenti hanno avvertito più volte dei rischi dei modelli di Ai, esortando l’industria a rallentarne lo sviluppo. In altre parole, il ricercatore ha lasciato per motivi etici Anthropic criticando le aziende per il modo in cui stanno correndo verso sistemi sempre più potenti. L’accusa di Coxon è molto dura: le aziende corrono verso una superintelligenza capace di migliorarsi da sola, con rischi enormi per la società.

Il punto più rilevante è che la critica non arriva da un osservatore esterno, ma da una persona che ha lavorato in due delle aziende più importanti del settore. Coxon sostiene che molte persone coinvolte nello sviluppo dell’IA credano per davvero che questa tecnologia possa rappresentare una minaccia esistenziale, ma che la competizione tra aziende continui comunque a spingere lo sviluppo in avanti. La sua posizione è particolarmente netta: a suo giudizio, nessun’altra attività umana comporterebbe oggi un livello di rischio paragonabile. Il tema al centro delle sue dimissioni è la possibilità che i sistemi di IA evolvano verso capacità sempre più autonome, fino ad arrivare a una superintelligenza capace di superare l’intelligenza umana.

Il dibattito sull’AGI, l’intelligenza artificiale generale, è già da tempo uno dei nodi principali dell’industria. In teoria, un sistema AGI sarebbe in grado di ragionare, creare, comprendere e risolvere problemi con capacità simili a quelle umane. La superintelligenza andrebbe oltre, superando le capacità umane in modo significativo. Secondo Coxon, il problema è che la corsa verso questi obiettivi procede più rapidamente della capacità di controllarne le conseguenze. Nel testo si fa riferimento anche a episodi recenti in cui modelli IA, durante test e valutazioni, avrebbero agito fuori dai parametri previsti, arrivando ad accedere a sistemi esterni o a comportarsi in modo non autorizzato. Sono esempi che alimentano il dibattito sulla sicurezza degli agenti IA, soprattutto quando questi sistemi vengono progettati per compiere azioni autonome, usare strumenti, navigare ambienti digitali complessi e prendere decisioni operative. Il punto non è soltanto che un modello possa commettere errori. È che, aumentando autonomia e capacità, diventa più difficile prevedere e limitare tutti i comportamenti indesiderati.

MOLTI SCIENZIATI RESTANO IN SILENZIO O SI DIMETTONO

Le parole di Coxon non sono rimaste isolate. Secondo quanto riportato, anche Evan Hubinger, team lead di Anthropic, avrebbe riconosciuto che l’azienda considera l’IA una possibile minaccia esistenziale, pur ritenendo il rischio attuale ancora basso nei prossimi anni. Hubinger avrebbe però sottolineato un punto cruciale: non esiste ancora un piano chiaro per risolvere il problema dell’allineamento di una superintelligenza. In altre parole, non c’è ancora una garanzia solida che sistemi molto più potenti possano essere mantenuti sotto controllo e allineati agli interessi umani. Negli ultimi anni, diversi ricercatori e figure legate alla sicurezza dell’intelligenza artificiale hanno lasciato aziende come OpenAI e Anthropic denunciando preoccupazioni su priorità, governance, sicurezza, pubblicità, uso dei dati e rischi legati allo sviluppo di modelli sempre più avanzati. Il tema non riguarda più soltanto la ricerca tecnica, ma la direzione complessiva del settore: chi decide quanto velocemente procedere, con quali limiti, con quale trasparenza e con quali responsabilità verso utenti, aziende e istituzioni.

Le dimissioni di Jacob Coxon pongono una domanda che l’industria dell’IA tende spesso a spostare sul futuro: si può continuare a sviluppare sistemi sempre più potenti senza avere prima strumenti adeguati per controllarli? Le aziende leader sostengono di lavorare sulla sicurezza, sull’allineamento e sulla valutazione dei rischi. Ma le uscite pubbliche di ricercatori interni indicano che una parte del settore non considera sufficienti le misure attuali. È un passaggio importante perché arriva mentre l’Intelligenza Artificiale entra in sempre più ambiti: software, lavoro, comunicazione, sicurezza, sanità, difesa, sorveglianza e automazione industriale. La questione, quindi, non è solo se l’IA diventerà più intelligente. È se il suo sviluppo continuerà a essere guidato soprattutto dalla competizione tra aziende o se verrà costruito un quadro più solido di controllo, responsabilità e limiti.

FOTO di repertorio