Anthropic, il ricercatore Jacob Coxon si dimette: l’allarme sull’IA che potrebbe sfuggire al controllo umano

La corsa verso sistemi di intelligenza artificiale sempre più potenti riapre il dibattito sulla sicurezza dopo le dimissioni di Jacob Coxon, ricercatore di Anthropic con una precedente esperienza in OpenAI. Coxon, specializzato nel pre-training dei modelli, ha deciso di abbandonare l’azienda e, più in generale, il lavoro diretto allo sviluppo delle tecnologie di frontiera, sostenendo che la competizione tra i principali laboratori stia procedendo troppo rapidamente rispetto alla capacità di garantire il controllo dei sistemi futuri. La sua posizione è particolarmente significativa perché arriva dall’interno di Anthropic, società che ha costruito una parte importante della propria identità proprio sulla ricerca dedicata alla sicurezza e all’allineamento dell’IA.

Coxon ha lavorato negli ultimi tre anni tra OpenAI e Anthropic, partecipando allo sviluppo e all’addestramento dei modelli. Secondo il ricercatore, entrambe le aziende starebbero correndo verso forme di superintelligenza auto-migliorante senza disporre ancora di strumenti sufficientemente solidi per garantire che sistemi molto più capaci di quelli attuali rimangano sotto il controllo umano. La questione non riguarda quindi i chatbot disponibili oggi, ma la possibilità futura di costruire modelli capaci di migliorare autonomamente le proprie prestazioni, pianificare strategie complesse e operare con livelli crescenti di indipendenza. Coxon ritiene che, in assenza di adeguati meccanismi di sicurezza, la competizione industriale possa spingere le aziende ad accelerare anche quando i rischi non sono stati completamente compresi.

Il suo allarme ha assunto ancora maggiore rilievo dopo l’intervento di Evan Hubinger, responsabile dell’Alignment Science di Anthropic. Hubinger ha riconosciuto pubblicamente la serietà del problema e ha affermato di attribuire una probabilità superiore al 10% alla possibilità che sistemi di intelligenza artificiale estremamente avanzati possano provocare una catastrofe per l’umanità nel prossimo decennio. Si tratta di una valutazione personale, non di una previsione scientificamente accertata, ma provenendo da uno dei ricercatori impegnati direttamente nello studio dell’allineamento, cioè delle tecniche attraverso le quali si cerca di mantenere il comportamento dell’IA coerente con gli obiettivi e i valori umani, ha alimentato un confronto che supera ormai i confini delle aziende tecnologiche.

Il nodo centrale è il rapporto tra sicurezza e competizione. Le imprese statunitensi sono impegnate in una corsa che coinvolge enormi capitali, infrastrutture di calcolo e talenti scientifici, mentre parallelamente cresce la pressione derivante dalla competizione con i laboratori cinesi. Nessuna società vuole rallentare unilateralmente rischiando di perdere il vantaggio tecnologico accumulato. Questo meccanismo può però creare un incentivo ad aumentare rapidamente le capacità dei modelli prima che siano disponibili procedure condivise per controllarne gli effetti. Proprio per questo Coxon sostiene la necessità di una maggiore cooperazione tra i laboratori e di un intervento pubblico capace di stabilire regole comuni, evitando che la sicurezza dipenda esclusivamente dalle decisioni volontarie delle singole aziende.

Le preoccupazioni sull’IA avanzata non sono comunque condivise con la stessa intensità da tutta la comunità scientifica. Una parte degli esperti considera troppo speculative le ipotesi di estinzione o perdita completa del controllo umano e ritiene più urgente concentrarsi sui problemi già osservabili: disinformazione, frodi, cyberattacchi, sostituzione di alcune attività lavorative, discriminazioni algoritmiche e concentrazione del potere tecnologico. Altri ricercatori sostengono invece che proprio l’incertezza sulle capacità future imponga di affrontare anticipatamente anche gli scenari estremi, perché intervenire quando sistemi realmente autonomi fossero già disponibili potrebbe risultare molto più difficile. Il confronto riguarda quindi non soltanto la probabilità dei rischi, ma anche il livello di precauzione da adottare davanti a una tecnologia in rapida evoluzione.

Le dimissioni di Coxon si inseriscono inoltre in una sequenza di tensioni interne ai principali laboratori dell’intelligenza artificiale. Negli ultimi anni diversi ricercatori hanno lasciato aziende di primo piano contestando il rapporto tra velocità dello sviluppo e investimenti nella sicurezza dei modelli. Anthropic continua a presentare l’allineamento come una componente centrale della propria attività e gli stessi ricercatori che esprimono preoccupazione riconoscono gli sforzi compiuti dalla società. Il problema sollevato è però più ampio: anche un’azienda fortemente orientata alla sicurezza opera all’interno di un mercato nel quale la pressione competitiva può rendere difficile rallentare autonomamente.

Il caso porta così al centro della discussione una domanda destinata ad accompagnare la prossima fase dell’intelligenza artificiale: chi deve stabilire fino a quale punto sia accettabile aumentare le capacità dei sistemi e quali condizioni debbano essere soddisfatte prima di sviluppare modelli potenzialmente più autonomi? Governi, imprese e comunità scientifica sono chiamati a definire standard verificabili, sistemi di valutazione e forme di supervisione capaci di evolvere insieme alla tecnologia. L’uscita di un ricercatore direttamente coinvolto nella costruzione dei modelli più avanzati rende questa discussione ancora più concreta, trasformando il tema del controllo dell’IA da interrogativo teorico a questione di governance tecnologica internazionale.