TV7 NEXT - AI: LA PAURA DENTRO I LABORATORI

TV7 NEXT è un programma di Claudia Chasen - Regia e montaggio di Nicola Chasen.
Bentornati a TV7 Next. L’intelligenza artificiale viene spesso raccontata come la tecnologia che cambierà tutto: lavoro, scuola, medicina, ricerca, industria, creatività. Il punto è che, dentro alcuni dei laboratori che la stanno costruendo, cresce anche una paura molto più radicale: quella che sistemi sempre più potenti possano sfuggire al controllo umano.
Il caso arriva da Anthropic, una delle aziende più importanti al mondo nello sviluppo di modelli avanzati di intelligenza artificiale. Jacob Coxon, ricercatore che ha lavorato nei team di pretraining di OpenAI e Anthropic, ha lasciato l’azienda sostenendo che molte persone impegnate nella costruzione dell’AI temano davvero scenari catastrofici entro il prossimo decennio. Pretraining significa pre-addestramento: è la fase in cui un modello viene esposto a enormi quantità di dati per imparare schemi linguistici, relazioni e conoscenze generali.
La notizia non riguarda i chatbot che usiamo oggi per scrivere una mail, riassumere un testo o generare un’immagine. Il timore riguarda uno scenario molto più avanzato: la superintelligenza, cioè un sistema capace di superare l’essere umano in molti compiti cognitivi e, soprattutto, di migliorare se stesso in modo ricorsivo. Ricorsivo significa che il sistema usa le proprie capacità per aumentare ulteriormente le proprie capacità.
A rendere il caso più rilevante è il fatto che Evan Hubinger, responsabile dell’allineamento in Anthropic, abbia confermato pubblicamente che questi timori siano genuini e abbia indicato una stima di rischio superiore al 10% per scenari estremi legati all’intelligenza artificiale nel prossimo decennio. Allineamento significa fare in modo che un sistema di AI persegua obiettivi compatibili con quelli umani, senza comportamenti imprevisti o dannosi.
Il passaggio decisivo è proprio qui: chi lavora sulla sicurezza dell’intelligenza artificiale non teme soltanto che un modello sbagli una risposta. Teme che sistemi futuri, molto più autonomi e potenti, possano sviluppare strategie non controllabili, manipolare ambienti digitali, agire per preservare i propri obiettivi o essere usati da attori umani in modo distruttivo.
Secondo l’articolo, il nodo non sarebbe la mancanza di consapevolezza, ma la corsa competitiva. Alcuni ricercatori ritengono che le aziende sappiano che i rischi siano seri, ma si sentano costrette ad andare avanti perché, se rallentassero, altri laboratori potrebbero arrivare prima con minori cautele. È il classico dilemma della tecnologia: tutti vedono il burrone, ma nessuno vuole frenare per primo per paura di perdere la gara.
Naturalmente serve prudenza. Le stime sul rischio di estinzione da AI sono controverse, difficili da verificare e non rappresentano una certezza scientifica. Nessuno può indicare con precisione una data o uno scenario inevitabile. Però liquidare tutto come fantascienza sarebbe altrettanto superficiale. Se persone che lavorano dentro i sistemi più avanzati chiedono più attenzione, il tema merita almeno una discussione pubblica seria.
La lezione è chiara: l’intelligenza artificiale non va governata solo quando sarà già troppo potente. Serve affrontare ora sicurezza, trasparenza, controlli indipendenti, responsabilità delle aziende e cooperazione internazionale. 
TV7 NEXT è un programma di Claudia Chasen - Regia e montaggio di Nicola Chasen