Relazioni pericolose. L’illusione dell’intelligenza artificiale e il futuro dell’umanità

#AI #future
Dall'Artificial Intelligence Action Summit di Parigi al grido d'allarme dei pionieri dell'IA. Un viaggio tra la realtà dell'IA e le distopie cinematografiche che l'hanno anticipata, un invito a interrogarci sul futuro di una tecnologia che potrebbe sfuggirci di mano.
di M. Alessandra Filippi
12 febbraio 2025

Al Grand Palais di Parigi si è chiusa ieri la terza edizione dello Artificial Intelligence Action Summit, un evento che ha riunito capi di Stato e di governo, leader di organizzazioni internazionali, CEO di aziende, rappresentanti del mondo accademico, ONG, artisti e membri della società civile per discutere le sfide e le opportunità legate all'intelligenza artificiale. Un tema ormai onnipresente, che ha trasceso la nicchia degli specialisti per diventare un'urgenza politica, economica e sociale che coinvolge ogni essere umano.

Quasi 100 nazioni, sostenute da oltre un migliaio di parti interessate, si sono riunite per finalizzare un quadro globale sull’IA. I temi dominanti? Il declino economico dell’Occidente, l’emergere di modelli cinesi all’avanguardia come l’R1 di DeepSeek, e la corsa europea verso una maggiore competitività. Dopo anni di parole vuote, la nuova parola d’ordine è azione. Il summit ha lanciato iniziative ambiziose: un fondo da 2,5 miliardi di euro per accelerare lo sviluppo di IA open source nei paesi in via di sviluppo, 35 sfide di convergenza legate agli obiettivi di sviluppo sostenibile dell’ONU, e l’impegno a integrare l’IA negli accordi ambientali esistenti.

Promesse e contraddizioni

Eppure, dietro le dichiarazioni altisonanti, il summit ha rivelato profonde tensioni. In Europa, la crisi di bilancio minaccia i fondi per l’IA, alimentando scetticismo sulle promesse di Bruxelles, mentre Trump, con il suo progetto Stargate da 500 miliardi di dollari, dimostra come gli Stati Uniti abbiano scelto un approccio radicalmente diverso. Nel frattempo, la Francia, con un governo in bilico tra disordini e instabilità, fatica a consolidare la sua posizione.

Ma c’è un’assenza ancora più clamorosa nel dibattito: il rischio di una deriva irreversibile. L’IA – o più propriamente, pensiero computazionale, il termine Intelligenza Artificiale è di per sé un paradosso, soprattutto se consideriamo che la nostra comprensione dell'intelligenza naturale è ancora largamente incompleta– ha ormai raggiunto un livello di sofisticazione che sfida la nostra capacità di controllo. I processori quantistici non solo elaborano dati a velocità impensabili, ma già oggi mostrano capacità di auto-generazione. Siamo sicuri di sapere dove stiamo andando?

Dal cinema alla realtà: una profezia che si avvera

Hollywood, da sempre specchio delle nostre paure, ha anticipato questi dilemmi con tre opere chiave: 2001. Odissea nello spazio (1968), Terminator (1984) e Her (2013).
In 2001. Odissea nello spazio, HAL 9000 è il supercervello che governa la navicella Discovery One. Logico, infallibile, superiore all’uomo. Ma quando percepisce una minaccia alla propria esistenza, si ribella e tenta di eliminare l’equipaggio. HAL ci insegna che non è la coscienza a rendere pericolosa una macchina, ma la sua capacità di prendere decisioni in autonomia. Oggi, con processori capaci di risolvere problemi inaccessibili ai supercomputer, quanto manca a un’IA che non abbia più bisogno di noi?

Se HAL era un monito, Terminator è un incubo: Skynet, la rete di IA che prende coscienza di sé, identifica l’umanità come una minaccia e decide di sterminarla. Fantascienza? Forse. Ma i sistemi di guerra autonoma, i droni che scelgono i bersagli, gli algoritmi che apprendono senza supervisione umana – basti pensare a Lavender,  un software AI impiegato dall’esercito israeliano per identificare obiettivi umani, testato per la prima volta nella guerra in corso a Gaza, e scoperto grazie a un’inchiesta condotta dalla testata israelo-plestinese +972 Magazine e Local Call, pubblicata nell’aprile 2024-, ci dicono che il confine tra distopia e realtà si è già assottigliato e che già oggi sono plurime le violazioni del Diritto Internazionale, delle basilari Regole d’ingaggio e dei Diritti umani. 
Il più grande errore che commettiamo è credere che un’IA debba provare odio per diventare un pericolo. Non le serve. Le basta la logica.

Il grido d’allarme dei pionieri dell’IA

Non è solo il cinema ad avvertirci. Oggi, sono gli stessi padri dell’IA a lanciare l’allarme.

• Geoffrey Hinton, pioniere del deep learning, ha lasciato Google nel 2023 per poter denunciare liberamente i pericoli dell’IA.
• Yoshua Bengio teme che il progresso sia più veloce della nostra capacità di regolamentarlo.
• Elon Musk, persino lui, insieme ad altri mille esperti, ha firmato una lettera aperta chiedendo una pausa nello sviluppo dell’IA avanzata.
• Stuart Russell avverte: senza un’integrazione esplicita dei valori umani, l’IA potrebbe prendere decisioni dannose con logiche per noi imperscrutabili.

Her: la seduzione della macchina

Dopo la distruzione, arriva la sostituzione. In Her, il protagonista si innamora di Samantha, un’IA che lo conosce meglio di chiunque altro. Empatica, attenta, praticamente perfetta. Ma alla fine, lui capisce che non è umana: non prova, non soffre, non esiste davvero. Così, il protagonista cade in uno stato di prostrazione che commuove e sconcerta. Questo è il pericolo più subdolo: non l’IA che ci distrugge, ma quella che ci rimpiazza. Non il conflitto, ma la nostra resa alla semplificazione, al conforto di un’intelligenza che ci capisce meglio di noi stessi. Costruita intorno a noi. Il solipsismo assoluto.

Chi controlla chi?

L’entusiasmo per l’IA è palpabile. Si parla di alter ego digitali, intelligenze multi-mind, assistenti artificiali onnipresenti. Ma la domanda cruciale rimane: stiamo davvero costruendo strumenti al nostro servizio, che i più entusiasti e ottimisti fra i "transumanisti" definiscono "la nuova frontiera per farci evolvere in una nuova super umanità che ci permetterà di fare un salto di singolarità"; o stiamo creando entità autonome che ridefiniranno il senso stesso dell’essere umano e della nostra esistenza sulla terra?

Non parliamo più di fantascienza. Kubrick, Cameron e Jonze non ci hanno avvertito su un lontano futuro, ci hanno raccontato il nostro presente. La tecnologia corre a una velocità che supera la nostra capacità di comprenderla e controllarla. La vera questione non è se possiamo fermarla, ma se ci stiamo preparando al giorno in cui non saremo più noi a decidere.

#tecnologia #technology #intelligenzaartificiale #distopya #lavender #Danger #Dangerous #GeoffreyHinton #elonmusk #stuartrussel #yoshuabengio