C'è un esperimento mentale che torna puntualmente ogni volta che si parla di veicoli a guida autonoma. Lo chiamano il dilemma del carrello, e nella sua versione automobilistica suona più o meno così: un'auto senza conducente si trova di fronte a una situazione impossibile, deviare e investire una persona per salvarne cinque, oppure andare dritto. Giovani contro anziani, uno contro molti. Il software come dovrebbe decidere? Chi vale di più?
La domanda sembra profonda, quasi filosofica. Invece è sbagliata. O meglio, è costruita su un presupposto che non regge: quello di applicare la logica umana del panico a un sistema che con il panico non ha nulla a che fare.
A dircelo non è un teorico dell'etica tecnologica, ma un gruppo di sviluppatori europei di sistemi di guida autonoma, interpellati direttamente su questo punto. La loro risposta è stata netta, quasi disarmante nella sua semplicità: l'auto non arriverà mai a dover scegliere. Il problema non è come gestire l'emergenza, il problema è che l'emergenza non dovrebbe mai verificarsi.
Il punto di partenza è capire su quale scala temporale ragiona un veicolo autonomo rispetto a un essere umano. Noi reagiamo. Vediamo il pericolo quando è già davanti a noi, con riflessi che impiegano mediamente tra 0,7 e 1 secondo a tradursi in azione, una finestra temporale in cui a 50 km/h si percorrono quasi quattordici metri. Siamo biologicamente limitati, e questa limitazione è esattamente quella che produce i dilemmi tragici che poi proiettiamo sulle macchine.
Un veicolo autonomo di ultima generazione lavora in modo strutturalmente diverso. Secondo le specifiche tecniche pubblicate da aziende come Waymo e Mobileye, questi sistemi integrano sensori LiDAR, radar e telecamere ad alta risoluzione capaci di monitorare l'ambiente circostante a 360 gradi, con una frequenza di aggiornamento che può arrivare a diverse centinaia di cicli al secondo. Il campo visivo si estende fino a 400 metri in condizioni ottimali, un valore incomparabile con la percezione umana. Ma la differenza vera non è nella distanza, è nel momento in cui il sistema inizia a elaborare le informazioni.
Il software di guida autonoma calcola le traiettorie probabili dei pedoni quando questi si trovano ancora sul marciapiede, prima che abbiano anche solo messo un piede sulla strada. Valuta velocità, direzione, comportamento. Incrocia questi dati con quelli del veicolo e costruisce scenari predittivi in tempo reale. Il pericolo viene identificato prima che il pericolo esista come tale. E a quel punto, la risposta non è una scelta tra due mali, è semplicemente una correzione preventiva: rallentamento, deviazione graduale, segnalazione. Zero emergenza, zero dilemma.
Questo non significa che i sistemi siano infallibili. Le condizioni meteorologiche avverse, le interferenze elettromagnetiche, gli scenari urbani ad alta densità rappresentano ancora sfide concrete per l'industria, e i rapporti annuali pubblicati dalla California DMV sulle performance dei veicoli autonomi testati su strada pubblica documentano sia i progressi che i limiti attuali. Ma la direzione è chiara.
L'errore concettuale che commettiamo quando pensiamo al dilemma del carrello applicato alle auto è lo stesso che faremmo se chiedessimo a un chirurgo robotico come reagirebbe in preda all'adrenalina. La categoria semplicemente non si applica. Stiamo usando il nostro framework cognitivo, costruito su millenni di reattività istintiva, per valutare un sistema che opera su logiche completamente diverse.
Quello che emerge da questa prospettiva è qualcosa di più interessante del solito dibattito etico: la guida autonoma non è l'automazione della nostra guida. È un paradigma alternativo di gestione del rischio stradale, uno in cui l'obiettivo non è decidere tra due vittime possibili, ma eliminare la condizione che le rende tali.
E forse è proprio questo il cambiamento più radicale che l'intelligenza artificiale sta portando nella mobilità: non ci sta sostituendo. Sta riscrivendo le regole del gioco.