TV7 NEXT - INTELLIGENZA ARTIFICIALE ALLO SPECCHIO

L’intelligenza artificiale sta cambiando il modo in cui si scrive codice, si sviluppano prodotti digitali e si progettano nuovi sistemi. Fin qui, nulla di sorprendente: è una delle promesse principali della tecnologia generativa. Il nuovo allarme lanciato da Anthropic, però, sposta il dibattito su un livello più delicato. Non riguarda soltanto l’AI che aiuta gli esseri umani a lavorare meglio. Riguarda l’AI che inizia a partecipare alla costruzione delle versioni future di se stessa.
Nel report pubblicato dall’Anthropic Institute con il titolo “When AI Builds Itself”, l’azienda affronta il tema del recursive self-improvement, espressione che si può tradurre come miglioramento ricorsivo autonomo. In pratica, uno scenario in cui un sistema di intelligenza artificiale diventa capace di progettare, sviluppare e migliorare il proprio successore con un coinvolgimento umano sempre più limitato.
Anthropic precisa che questo scenario non si è ancora verificato e non è inevitabile. Il punto è che potrebbe avvicinarsi più rapidamente di quanto governi, istituzioni e società siano preparati ad affrontare.
La questione è particolarmente rilevante perché Anthropic non è un osservatore esterno. È una delle aziende centrali nello sviluppo dell’intelligenza artificiale di frontiera, cioè dei sistemi più avanzati, potenti e generalisti. Quando un attore di questo livello chiede all’industria di prepararsi a rallentare, o perfino a fermarsi temporaneamente in caso di rischi ingestibili, il messaggio pesa.

QUANDO L’AI SCRIVE IL CODICE DELL’AI

Il report cita numeri che rendono il tema molto concreto. Ad aprile 2026, Claude, il modello sviluppato da Anthropic, avrebbe consegnato autonomamente oltre 800 correzioni capaci di ridurre di mille volte una classe di errori API. Le API, cioè Application Programming Interface, sono interfacce che permettono a software diversi di comunicare tra loro. Sono una parte fondamentale dell’ecosistema digitale.
A maggio, secondo i dati interni citati nel report, oltre l’80% del codice integrato nella base software di Anthropic era scritto da Claude. Prima del lancio di Claude Code, nel febbraio 2025, questa percentuale era a una singola cifra.
Il salto è impressionante. Non indica semplicemente che un modello sia diventato bravo a scrivere codice. Indica che l’intelligenza artificiale sta entrando nel cuore del processo con cui vengono costruiti nuovi strumenti di intelligenza artificiale.
Anche la produttività degli ingegneri sarebbe cambiata: il report sostiene che oggi un ingegnere medio integri circa otto volte più codice al giorno rispetto al 2024. Questo mostra l’impatto immediato dell’AI sul lavoro tecnico, ma apre anche una questione più ampia: quando la velocità dello sviluppo cresce così tanto, i meccanismi di verifica, sicurezza e governance riescono a tenere il passo?
La risposta non è scontata. Scrivere più codice non significa automaticamente produrre sistemi più sicuri. La quantità non garantisce qualità, controllo o comprensione. In un settore in cui anche piccoli errori possono generare effetti rilevanti, la capacità di validare ciò che viene prodotto diventa fondamentale.
Il recursive self-improvement è proprio questo nodo portato all’estremo. Se un sistema AI diventasse capace di migliorare direttamente i modelli successivi, il ciclo di sviluppo potrebbe accelerare oltre la capacità umana di supervisione. A quel punto la domanda non sarebbe più soltanto che cosa possa fare un modello, ma chi sia davvero in grado di controllarne l’evoluzione.

LA PROPOSTA DI UNA PAUSA COORDINATA

Anthropic non chiede un blocco immediato e unilaterale. L’azienda propone qualcosa di diverso: costruire in anticipo le condizioni per una pausa globale e coordinata tra i principali laboratori di ricerca, qualora i rischi diventassero troppo elevati.
Il punto è evitare che una singola azienda decida di fermarsi mentre le altre continuano ad accelerare. In un settore competitivo, nessun laboratorio ha interesse a rallentare da solo. Per questo Anthropic parla di accordi tra più soggetti ben finanziati, in più Paesi, accompagnati da meccanismi verificabili.
La parola chiave è proprio verifica. Una pausa avrebbe senso solo se esistessero strumenti per controllare che nessuno proceda di nascosto. Senza trasparenza, un accordo resterebbe una dichiarazione di buone intenzioni: elegante, rassicurante e probabilmente inutile.
Nei prossimi mesi, Anthropic prevede di avviare tavoli di discussione con decisori politici, ricercatori, società civile e altre aziende AI. L’obiettivo è capire come gestire i rischi legati all’auto-miglioramento dei sistemi e come costruire forme concrete di coordinamento internazionale.
La proposta arriva in una fase molto delicata per l’azienda. Anthropic è al centro di una forte attenzione finanziaria, con valutazioni molto elevate e un percorso verso la quotazione in borsa negli Stati Uniti. Questo porta alcuni osservatori a leggere l’allarme anche come una mossa strategica, utile a posizionare l’azienda come soggetto responsabile nel mercato dell’AI.
Questa lettura non può essere esclusa. Nel settore tecnologico, comunicazione, reputazione e regolazione si intrecciano spesso. Allo stesso tempo, i dati citati dal report rendono difficile liquidare tutto come semplice strategia aziendale.
La questione supera Anthropic. Riguarda il modo in cui l’industria tecnologica intende gestire una tecnologia che può accelerare il proprio stesso sviluppo. Fino a oggi, il dibattito sull’intelligenza artificiale si è concentrato su bias, lavoro, privacy, copyright, disinformazione e sicurezza. Il recursive self-improvement aggiunge un livello ulteriore: la possibilità che il ritmo dell’innovazione diventi sempre meno dipendente dal controllo umano diretto.
Questo non significa immaginare scenari da fantascienza. Significa porsi domande industriali e politiche molto concrete. Quali soglie di rischio richiedono una pausa? Chi le definisce? Chi controlla i laboratori? Quali dati vanno condivisi? Quali Paesi partecipano? Quali sanzioni si applicano a chi non rispetta gli accordi?
La sicurezza dell’intelligenza artificiale non può dipendere solo dalla buona volontà delle aziende. Serve una cornice pubblica, internazionale e verificabile. Una tecnologia capace di trasformare lavoro, conoscenza, difesa, economia e ricerca richiede regole all’altezza del suo impatto.
Il messaggio di Anthropic può essere discusso, criticato, contestualizzato. Resta però un segnale importante: anche dentro l’industria cresce la consapevolezza che la corsa all’AI non possa avere come unico criterio la velocità.
L’innovazione resta una leva straordinaria. Ma una tecnologia che aiuta a costruire se stessa richiede un livello di attenzione diverso. Perché accelerare è utile solo finché si sa ancora dove siano il volante, il freno e la strada.

Servizio a cura di Claudia Chasen, redazione TV7.