TV7 NEXT - AUTO AUTONOME: CAPIRE L’ERRORE

Le auto a guida autonoma sono tra le applicazioni più complesse dell’intelligenza artificiale. Devono leggere l’ambiente, riconoscere pedoni, ciclisti, veicoli, segnali, corsie, ostacoli e situazioni impreviste. Devono farlo in tempo reale e prendere decisioni che possono avere conseguenze immediate sulla sicurezza.
Per questo non basta che un sistema funzioni nella maggior parte dei casi. Serve capire anche quando possa sbagliare, perché sbagli e come una persona possa accorgersene prima che la situazione diventi critica.
Un gruppo di ricercatori del MIT, Massachusetts Institute of Technology, insieme alla società Motional, ha sviluppato un metodo chiamato CW-Net, Concept-Wrapper Network. Il sistema aiuta esseri umani e ingegneri a comprendere il comportamento delle auto autonome traducendo il processo decisionale dell’intelligenza artificiale in concetti comprensibili. La ricerca è stata pubblicata su Nature e raccontata da MIT News.
L’obiettivo non è rendere l’auto semplicemente più “loquace”. L’obiettivo è rendere più leggibile il motivo per cui il veicolo abbia scelto una certa traiettoria, una frenata o una manovra. In un sistema ad alto rischio, questa differenza può essere decisiva.

IL PROBLEMA DELLE SCATOLE NERE NELLA GUIDA AUTONOMA

Molte auto autonome sono controllate da modelli di deep learning, cioè apprendimento profondo. Si tratta di sistemi di intelligenza artificiale addestrati su enormi quantità di dati, capaci di individuare relazioni e schemi complessi. Nel caso della guida autonoma, questi modelli ricevono informazioni da telecamere, radar, sensori e lidar.
Il lidar è una tecnologia che usa impulsi laser per misurare le distanze e costruire una rappresentazione tridimensionale dello spazio attorno al veicolo. Insieme agli altri sensori, aiuta l’auto a capire che cosa ci sia davanti, di lato e dietro.
Il sistema di pianificazione della guida, indicato spesso come planner, funziona come il “cervello” operativo del veicolo. Elabora ciò che accade attorno all’auto, sintetizza la scena, decide quale comportamento sia più adatto e genera una traiettoria da seguire.
Il problema è che questi modelli sono spesso black box, cioè scatole nere. Il termine indica sistemi che producono un risultato, ma il cui processo interno è difficile da comprendere anche per gli esperti. L’auto può frenare, rallentare o deviare, ma non sempre è chiaro quale elemento della scena abbia guidato la decisione.
Questo diventa un problema soprattutto quando il comportamento è inatteso. Una frenata improvvisa può dipendere da un ostacolo reale, da un errore di percezione, da una previsione sbagliata o da una procedura di emergenza. Per un safety driver, cioè il conducente di sicurezza presente nei test, capire la differenza può voler dire intervenire prima.
MIT News riporta un esempio molto chiaro. Durante un test, un veicolo autonomo si fermava avvicinandosi a un ciclista. Il conducente di sicurezza pensava che il sistema avesse rilevato correttamente il ciclista e si fosse fermato per quello. Le spiegazioni di CW-Net hanno invece mostrato che il modello non era configurato correttamente per riconoscere quel ciclista: la traiettoria scelta avrebbe potuto portare a una collisione, e l’auto si era fermata soltanto perché era intervenuta la frenata di emergenza.
Questa informazione cambia completamente la lettura della situazione. Senza spiegazione, il comportamento dell’auto sembra prudente. Con la spiegazione, emerge un errore nascosto. È proprio qui che l’intelligenza artificiale spiegabile diventa uno strumento di sicurezza.

CW-NET: SPIEGARE L’INTELLIGENZA ARTIFICIALE SENZA CAMBIARE LA GUIDA

CW-Net è stato progettato per tradurre il ragionamento interno del modello in concetti di alto livello, come “veicolo fermo in avvicinamento” o “ciclista vicino”. Questi concetti sono più comprensibili per gli esseri umani rispetto ai calcoli interni di una rete neurale.
Una rete neurale è un modello di intelligenza artificiale ispirato, in modo molto semplificato, al funzionamento del cervello. È composta da molti livelli di elaborazione che trasformano i dati in decisioni. Il vantaggio è la capacità di gestire situazioni complesse. Lo svantaggio è la difficoltà di capire esattamente come arrivi a una scelta.
CW-Net viene inserito all’interno dell’architettura del planner, cioè nel sistema che decide il comportamento dell’auto. Il suo compito è classificare i concetti presenti nei dati e poi fare in modo che la parte finale del modello li usi per decidere la traiettoria. In questo modo, la spiegazione non è un’etichetta appiccicata dopo. È collegata al processo decisionale del sistema.
Questo aspetto è importante perché molte spiegazioni dell’intelligenza artificiale rischiano di essere persuasive ma non fedeli. Possono sembrare plausibili senza descrivere davvero ciò che il modello abbia usato per decidere. CW-Net punta invece a fornire spiegazioni causalmente fedeli, cioè legate alle ragioni effettive della decisione.
Il sistema produce queste spiegazioni in tempo reale insieme alla traiettoria del veicolo. Questo significa che non serve analizzare i dati soltanto dopo il test. Il conducente di sicurezza può ricevere informazioni durante la prova, mentre gli ingegneri possono usare quei segnali per individuare errori, correggere modelli e migliorare il sistema.
Per addestrare CW-Net, i ricercatori hanno usato un dataset di 130 milioni di esempi di scene provenienti da auto a guida autonoma, ciascuno associato a più concetti etichettati. Un dataset è un insieme di dati organizzati per addestrare o valutare un modello di intelligenza artificiale. In questo caso, la dimensione del dataset permette al sistema di riconoscere concetti in un’ampia varietà di situazioni stradali.
I test sono stati condotti su un veicolo autonomo reale, un robotaxi Motional, su una pista privata con un conducente di sicurezza. Secondo MIT News, CW-Net ha aiutato il safety driver a prevedere meglio il comportamento del veicolo in situazioni inattese. Studi di simulazione online, basati su scenari reali raccolti sulle strade di Las Vegas, hanno dato risultati simili anche con utenti non esperti.
Il punto non è creare panico attorno alle auto autonome. È costruire una fiducia più matura. Fidarsi di un sistema non significa credere che non sbaglierà mai. Significa sapere in quali condizioni possa funzionare bene, in quali possa essere fragile e quali segnali permettano a una persona di intervenire.
Questa è una lezione importante per tutta l’intelligenza artificiale. Più i sistemi diventano potenti, più serve renderli interpretabili. In sanità, un algoritmo che supporta una diagnosi deve poter essere verificato. Nell’industria, un sistema che controlla una linea produttiva deve segnalare perché abbia fermato un processo. Nelle infrastrutture critiche, un’intelligenza artificiale deve spiegare le sue priorità e i suoi limiti.
La guida autonoma è un banco di prova particolarmente severo perché l’errore non resta su uno schermo. Si muove su strada, accanto a persone, biciclette, camion, ambulanze e pedoni. Proprio per questo la trasparenza non è un dettaglio etico da aggiungere alla fine. È una componente tecnica della sicurezza.
CW-Net mostra una direzione interessante: non trasformare l’intelligenza artificiale in una scatola magica, ma in un sistema osservabile, verificabile e migliorabile. La tecnologia non diventa meno avanzata perché spiega ciò che fa. Diventa più utile.
La vera sfida delle auto autonome non è soltanto insegnare alle macchine a guidare. È insegnare agli esseri umani a capire quando le macchine stiano guidando bene e quando invece stiano solo evitando per fortuna un errore. Una differenza piccola sulla carta, enorme quando davanti c’è un ciclista

Servizio a cura di Claudia Chasen, redazione TV7.