Sicuramente qualcuno, oggi, prova un certo timore per il futuro della sua professione, i media e le chiacchiere al bar sembra che si rivolgano tutte, dopo le solite batture su clima e politici, su quanto l’Intelligenza Artificiale andrà a falcidiare i posti di lavoro. Queste sensazioni, a voler ben vedere, sono alimentate da una certa euforia tecnologica che ha travolto i mercati globali a partire dalla fine del 2022, inaugurata dall’avvento perturbante di ChatGPT e dei modelli linguistici di grande scala, la quale ha generato nei consigli d’amministrazione delle multinazionali una narrazione affascinante quanto pericolosa nella sua semplicità: la promessa che l’intelligenza artificiale predittiva avrebbe consentito di scalare l’efficienza a livelli mai visti, abbattendo i costi del personale e spingendo i profitti a parità di fatturato. Si trattava, infatti, di una vera manna dal cielo (digitale) che permetteva una scorciatoia manageriale per spingere i risultati (e i bonus non dimentichiamolo) sostituendo l’esperienza e le abilità umane con la forza del calcolo statistico; il problema è che, come qualsiasi cosa si basi sulla statistica, si trattava di una scommessa e nessuno sembra avesse messo in conto che fosse possibile perderla.
A distanza di pochissimi anni, però, i nodi di questa scommessa al buio stanno cominciando a incastrarsi nelle setole del pettine, rappresentato dalla realtà, mostrando i limiti strutturali di un’automazione imposta in maniera forzata e priva di una vera guida. A riprova di questo, in questi giorni, sulla stampa economica, come Il Sole 24 Ore, si sono accesi i riflettori sull’improvvisa inversione di marcia di Ford che ha dovuto richiamare in servizio con urgenza ben 350 ingegneri veterani del controllo qualità, ironicamente ribattezzati nel settore “gray beards” (le barbe grigie), dopo che l’affidamento totale ai sistemi automatizzati aveva trascinato l’azienda in una vera e propria crisi finanziaria e reputazionale.
Anche se a Mario, di fronte a una birra con amici, scappa una risata è importante comprendere la genesi di questo cortocircuito guardando i numeri, perché, contrariamente allo storytelling, difficilmente possono mentire. Sotto l’impulso della razionalizzazione dei costi, Ford aveva implementato algoritmi di intelligenza artificiale per monitorare la qualità dei componenti e intercettare i difetti di fabbrica prima dell’immissione dei veicoli sul mercato e, sulla carta, il sistema appariva perfetto: oltre centomila test automatici gestiti da un team umano ridotto all’osso. Il mondo reale, però, ha spesso delle dinamiche ben diverse da quanto una presentazione in Power Point possa illustrare nelle sedute di un cda e queste hanno presentato un conto molto salato. Già nel 2023, Ford ha toccato quello che può essere considerato il punto di rottura, registrando la cifra record di 4,8 miliardi di dollari di sole spese per la riparazione in garanzia di veicoli difettosi già consegnati ai clienti; per anni l’azienda ha dominato le classifiche della NHTSA (l’ente americano per la sicurezza stradale) per il maggior numero di richiami dei veicoli, superando i 150 richiami di modelli in un solo anno poiché i sistemi di AI facevano esattamente ciò per cui erano stati programmati ma non possedevano la capacità di contestualizzazione e l’intuito che sono caratteristiche necessarie in questo settore tipicamente umane. L’impatto economico complessivo causato dagli errori di produzione, dalle rilavorazioni in fabbrica e dai danni di posizionamento sul mercato conseguenti è stato stimato in svariati miliardi di dollari.
In pratica, così, il management si è trovato sull’orlo del burrone economico, realizzando che il risparmio immediato ottenuto sul costo del lavoro senior era stato polverizzato dai costi asimmetrici dei danni collaterali, ma è stato abbastanza reattivo da operare l’inevitabile retromarcia in tempi brevissimi e di reinserire le competenze umane nel cuore del processo.
I risultati non si sono fatti attendere.
Il rientro dei 350 ingegneri ha permesso di evitare circa un miliardo di dollari di costi futuri stimati tra potenziali nuovi richiami e fermi di produzione; secondo i dati J.D. Power sulla qualità percepita, inoltre, Ford è balzata velocemente al primo posto assoluto per qualità iniziale tra i marchi mass-market, un traguardo che a Detroit non si registrava da sedici anni.
Possiamo dire, di fronte a questo caso, che diventerà di scuola, che la pura automazione predittiva in un settore ad alta precisione come l’automotive sia stato un fallimento che deriva da un limite di natura ontologica ed epistemologica insito nell’architettura stessa dei sistemi di AI moderni, non dall’adozione di software obsoleti o di bug temporanei. Linus Torvalds, all’alba della rivoluzione Ai, disse che “l’IA è per il 90% marketing e per il 10% realtà” e questa affermazione trova la sua giustificazione tecnica nel funzionamento dei modelli basati sui transformer che operano su base prettamente probabilistica e statistica. Contrariamente a un’intelligenza biologica questi modelli non possiedono una comprensione semantica della realtà né una cognizione delle leggi della fisica o della meccanica, si limitano a calcolare la distribuzione di probabilità dell’output più verosimile sulla base di un set di dati storici. Il modello di regressione polidimensionale che ne deriva, per quanto avanzato, lavora ottimizzando una funzione di perdita con l’obiettivo primario di ridurre la complessità e trovare regolarità e in questo processo di ottimizzazione matematica accade un fenomeno critico: tutto ciò che si discosta in modo infinitesimale dal pattern principale viene classificato dall’algoritmo come rumore di fondo (white noise) o come outlier irrilevante. L’algoritmo spazza letteralmente sotto il tappeto le micro-anomalie per mantenere la coerenza statistica della previsione.
Qui arriviamo alla teoria dei Cigni Neri di Nassim Nicholas Taleb.
Nella realtà dei sistemi complessi non lineari, un evento catastrofico o un difetto strutturale sistemico non si presenta quasi mai all’inizio come un’evidenza macroscopica e passa proprio come un rumore casuale; una minima tolleranza termica errata in una lega metallica, ad esempio, viene letta dalla macchina come una fluttuazione normale all’interno di un campione del 99,9% di conformità, quindi perfettamente interno al margine di errore considerato ottimale. Quel rumore non si annulla, però, si accumula, fa massa critica e potrebbe arrivare a generare una transizione di fase improvvisa che porta al collasso del componente quando l’auto è già su strada. L’IA, programmata per l’efficienza statistica, non può prevedere qualcosa di insolito o inedito perché il modello previsionale futuro si svolge come una pura ripetizione lineare del passato.
La mente di un professionista senior, al contrario, non funziona come un calcolatore di regressione. Un ingegnere veterano, forte di decenni di esperienza sul campo, applica un principio di gestione prudenziale e di dubbio ontologico che fa balzare all’occhio quell’unico dato fuori posto, non lo scarta a priori come un’anomalia statistica dello 0,01% e si domanda il perché di quella deviazione, cercando il significato profondo nel rumore. Questa è quella capacità di astrazione e di pensiero laterale che permette all’uomo di anticipare, per quanto possibile, il Cigno Nero, introducendo nei sistemi industriali e finanziari quei margini di sicurezza, ridondanze e cuscinetti che gli algoritmi orientati al taglio dei costi tendono a eliminare in quanto considerati “sprechi”.
Magari qualcuno pensa che Ford rappresenti un caso isolato?
No, non è così poiché non è l’unica multinazionale ad aver sperimentato questo brusco risveglio dal sogno dell’automazione totale. Si tratta, infatti, di un fenomeno collettivo e trasversale a mercati e servizi apparentemente distanti dove McDonald’s ha dovuto interrompere bruscamente la sperimentazione dell’IA vocale nei suoi Drive-Thru americani, dopo che i sistemi si erano mostrati strutturalmente incapaci di gestire le sfumature della realtà quotidiana come accenti, rumori dei motori o correzioni estemporanee dei clienti che trasformavano gli ordini in situazioni paradossali e video virali di proteste, e Klarna, pioniera del modello Buy Now Pay Later che ha cavalcato l’hype annunciando la sostituzione di centinaia di operatori umani con assistenti virtuali di primo livello, per un mero risparmio immediato, si è trovata con un problema vistoso di fidelizzazione a lungo termine dei clienti, che si sono scontrati con l’impossibilità della macchina di gestire con flessibilità, empatia e intelligenza situazionale i casi di frode o le contestazioni più complesse.
Attenzione, però, a non leggere la lezione di Ford come un manifesto neo-luddistico di rifiuto della modernità perché la dirigenza di Dearborn ha dimostrato una notevole maturità strategica nel non tagliare gli investimenti in Ricerca e Sviluppo sull’AI, decidendo invece di ridefinire il modello organizzativo: l’errore non risiedeva nello strumento, ma nel suo posizionamento gerarchico e l’AI è stata retrocessa da decisore a co-pilota.
Il futuro dell’efficienza industriale dovrà, quindi, svilupparsi con un approccio sincretico e non ci si aspetti che i 350 ingegneri richiamati in servizio siano tornati per eseguire calcoli manuali quanto più per agire come supervisori e addestratori dei sistemi di Intelligenza Artificiale. La macchina mantiene la sua insuperabile capacità di macinare terabyte di dati e simulare stress sui materiali a velocità supersonica però l’output non sarà più validato ciecamente diventando la materia prima che l’occhio clinico dell’esperto analizza e corregge: l’umano insegna all’AI a leggere il significato dietro il white noise, mentre la macchina solleva l’umano dalle mansioni ripetitive, permettendogli di concentrarsi sulla progettazione pura. Il grande riallineamento in atto dimostra che l’innovazione tecnologica produce valore reale solo quando agisce come un amplificatore delle capacità umane, mentre diventa un problema se impiegata come un surrogato a minor prezzo delle stesse. La sbornia del marketing comincia a lasciare il posto a una nuova stagione ingegneristica e finanziaria, dove la potenza della statistica sarà finalmente governata e indirizzata dall’esperienza e dall’intelligenza, quella vera, umana.
