Relazioni pericolose. L’illusione dell’intelligenza artificiale e il futuro dell’umanità

#AI #future
Dall'Artificial Intelligence Action Summit di Parigi al grido d'allarme dei pionieri dell'IA. Un viaggio tra la realtà dell'IA e le distopie cinematografiche che l'hanno anticipata, un invito a interrogarci sul futuro di una tecnologia che potrebbe sfuggirci di mano.
di M. Alessandra Filippi
12 febbraio 2025

Al Grand Palais di Parigi si è chiusa ieri la terza edizione dello Artificial Intelligence Action Summit, un evento che ha riunito capi di Stato e di governo, leader di organizzazioni internazionali, CEO di aziende, rappresentanti del mondo accademico, ONG, artisti e membri della società civile per discutere le sfide e le opportunità legate all'intelligenza artificiale. Un tema ormai onnipresente, che ha trasceso la nicchia degli specialisti per diventare un'urgenza politica, economica e sociale che coinvolge ogni essere umano.

Quasi 100 nazioni, sostenute da oltre un migliaio di parti interessate, si sono riunite per finalizzare un quadro globale sull’IA. I temi dominanti? Il declino economico dell’Occidente, l’emergere di modelli cinesi all’avanguardia come l’R1 di DeepSeek, e la corsa europea verso una maggiore competitività. Dopo anni di parole vuote, la nuova parola d’ordine è azione. Il summit ha lanciato iniziative ambiziose: un fondo da 2,5 miliardi di euro per accelerare lo sviluppo di IA open source nei paesi in via di sviluppo, 35 sfide di convergenza legate agli obiettivi di sviluppo sostenibile dell’ONU, e l’impegno a integrare l’IA negli accordi ambientali esistenti.

Promesse e contraddizioni

Eppure, dietro le dichiarazioni altisonanti, il summit ha rivelato profonde tensioni. In Europa, la crisi di bilancio minaccia i fondi per l’IA, alimentando scetticismo sulle promesse di Bruxelles, mentre Trump, con il suo progetto Stargate da 500 miliardi di dollari, dimostra come gli Stati Uniti abbiano scelto un approccio radicalmente diverso. Nel frattempo, la Francia, con un governo in bilico tra disordini e instabilità, fatica a consolidare la sua posizione.

Ma c’è un’assenza ancora più clamorosa nel dibattito: il rischio di una deriva irreversibile. L’IA – o più propriamente, pensiero computazionale, il termine Intelligenza Artificiale è di per sé un paradosso, soprattutto se consideriamo che la nostra comprensione dell'intelligenza naturale è ancora largamente incompleta– ha ormai raggiunto un livello di sofisticazione che sfida la nostra capacità di controllo. I processori quantistici non solo elaborano dati a velocità impensabili, ma già oggi mostrano capacità di auto-generazione. Siamo sicuri di sapere dove stiamo andando?

Dal cinema alla realtà: una profezia che si avvera

Hollywood, da sempre specchio delle nostre paure, ha anticipato questi dilemmi con tre opere chiave: 2001. Odissea nello spazio (1968), Terminator (1984) e Her (2013).
In 2001. Odissea nello spazio, HAL 9000 è il supercervello che governa la navicella Discovery One. Logico, infallibile, superiore all’uomo. Ma quando percepisce una minaccia alla propria esistenza, si ribella e tenta di eliminare l’equipaggio. HAL ci insegna che non è la coscienza a rendere pericolosa una macchina, ma la sua capacità di prendere decisioni in autonomia. Oggi, con processori capaci di risolvere problemi inaccessibili ai supercomputer, quanto manca a un’IA che non abbia più bisogno di noi?

Se HAL era un monito, Terminator è un incubo: Skynet, la rete di IA che prende coscienza di sé, identifica l’umanità come una minaccia e decide di sterminarla. Fantascienza? Forse. Ma i sistemi di guerra autonoma, i droni che scelgono i bersagli, gli algoritmi che apprendono senza supervisione umana – basti pensare a Lavender,  un software AI impiegato dall’esercito israeliano per identificare obiettivi umani, testato per la prima volta nella guerra in corso a Gaza, e scoperto grazie a un’inchiesta condotta dalla testata israelo-plestinese +972 Magazine e Local Call, pubblicata nell’aprile 2024-, ci dicono che il confine tra distopia e realtà si è già assottigliato e che già oggi sono plurime le violazioni del Diritto Internazionale, delle basilari Regole d’ingaggio e dei Diritti umani. 
Il più grande errore che commettiamo è credere che un’IA debba provare odio per diventare un pericolo. Non le serve. Le basta la logica.

Il grido d’allarme dei pionieri dell’IA

Non è solo il cinema ad avvertirci. Oggi, sono gli stessi padri dell’IA a lanciare l’allarme.

• Geoffrey Hinton, pioniere del deep learning, ha lasciato Google nel 2023 per poter denunciare liberamente i pericoli dell’IA.
• Yoshua Bengio teme che il progresso sia più veloce della nostra capacità di regolamentarlo.
• Elon Musk, persino lui, insieme ad altri mille esperti, ha firmato una lettera aperta chiedendo una pausa nello sviluppo dell’IA avanzata.
• Stuart Russell avverte: senza un’integrazione esplicita dei valori umani, l’IA potrebbe prendere decisioni dannose con logiche per noi imperscrutabili.

Her: la seduzione della macchina

Dopo la distruzione, arriva la sostituzione. In Her, il protagonista si innamora di Samantha, un’IA che lo conosce meglio di chiunque altro. Empatica, attenta, praticamente perfetta. Ma alla fine, lui capisce che non è umana: non prova, non soffre, non esiste davvero. Così, il protagonista cade in uno stato di prostrazione che commuove e sconcerta. Questo è il pericolo più subdolo: non l’IA che ci distrugge, ma quella che ci rimpiazza. Non il conflitto, ma la nostra resa alla semplificazione, al conforto di un’intelligenza che ci capisce meglio di noi stessi. Costruita intorno a noi. Il solipsismo assoluto.

Chi controlla chi?

L’entusiasmo per l’IA è palpabile. Si parla di alter ego digitali, intelligenze multi-mind, assistenti artificiali onnipresenti. Ma la domanda cruciale rimane: stiamo davvero costruendo strumenti al nostro servizio, che i più entusiasti e ottimisti fra i "transumanisti" definiscono "la nuova frontiera per farci evolvere in una nuova super umanità che ci permetterà di fare un salto di singolarità"; o stiamo creando entità autonome che ridefiniranno il senso stesso dell’essere umano e della nostra esistenza sulla terra?

Non parliamo più di fantascienza. Kubrick, Cameron e Jonze non ci hanno avvertito su un lontano futuro, ci hanno raccontato il nostro presente. La tecnologia corre a una velocità che supera la nostra capacità di comprenderla e controllarla. La vera questione non è se possiamo fermarla, ma se ci stiamo preparando al giorno in cui non saremo più noi a decidere.

#tecnologia #technology #intelligenzaartificiale #distopya #lavender #Danger #Dangerous #GeoffreyHinton #elonmusk #stuartrussel #yoshuabengio

Circa la domanda concernente la capacità o meno delle macchine di pensare, mi orienterei secondo la seguente proposta: pensare possiede una pluralità di significati; dovrebbe pertanto essere introdotta una distinzione tra il pensare degli essere umani ed il pensare delle macchine.

Il tipo di pensare degli essere umani è legato alla loro dimensione; il tipo di pensare che hanno ed avranno le macchine a seguito dei loro perfezionamenti sarà un tipo di pensare differente da quello degli esseri umani.

Non credo, in altri termini, che si debba partire, per determinare il modo di pensare delle maccnine, dal pensare degli esseri umani, per poi determinare analogie e differenze del modo di pensare delle macchine rispetto al modo di pensare degli individui. Il tipo di pensiero delle macchine è costitutivamente differente da quello degli individui dato che la dimensione costitutiva delle macchine è differente da quella degli individui.

Ritengo pertanto che l'evoluzione delle macchine porterà alla distinzione tra significati attribuiti al pensare: una cosa sará il modo di pensare degli individui, un'altra cosa sarà il modo di pensare delle macchine.

"Pensare si dice in molti modi", si potrebbe asserire, prendendo parzialmente in prestito il concetto espresso dal Maestro (che, in realtá, nelle proprie asserzioni si riferisce alla pluralità dei sensi di essere).

Circa la questione dei vantaggi e dei pericoli rappresentati dalle macchine pensanti, credo che la questione non possa essere staccata dagli ordinamenti sociali in cui ci si trovi ed in cui le macchine pensanti vengano introdotte: a seconda dell'orientamento delle compagini che esercitino l'egemonia nella società si avrà un diverso uso delle macchine pensanti. Direi che l'uso delle macchine pensanti seguirà i principi fondamentali connessi alla compagine sociale che eserciti l'egemonia nella società medesima e servirà altresì gli interessi di questa compagine sociale.

Uno degli aspetti della questione è, secondo me, che si tende a considerare la capacità della macchina come data una volta per tutte, come se, dal fatto che la macchina non possegga ora una determinata capacità, si potesse dedurre che la macchina non avrà mai questa medesima capacità.

In questo senso, si interpreta la macchina come qualcosa che non possa avere un'evoluzione.

Non si dovrebbe secondo me dimenticare che anche per le persone non è legittimo dedurre che, dal fatto che esse non posseggano una determinata capacità ad una determinata età, le medesime persone non possano avere questa medesima capacità ad un'altra età: le capacitá intellettuali che si possiedono all'età di dieci anni, per fare un esempio, non sono le stesse capacitá che si possiedono a venti anni.

In altri termini, le persone possiedono la capacitá di avere un'evoluzione individuale. Non é secondo me detto che una macchina programmata in un determinato modo non possa avere un'evoluzione analoga a quella delle persone. In altri termini, non mi convince, non almeno in modo assoluto, il ragionamento per cui, dato che la macchina non abbia una capacità in un determinato momento, la medesima macchina non possa acquisire detta capacità in una fase successiva. Come le persone hanno uno sviluppo, così possono averlo le macchine (almeno, non credo che questo si possa escludere a priori).

Uno dei punti che mi sono venuti in mente riascoltando l'interessante discussione è che si potrebbe tentare un esperimento di questo tipo: ammettendo che la macchina non possegga e non possa possedere determinate capacità, si potrebbe esaminare la questione dal punto di vista della macchina e notare che, allo stesso modo, l'individuo non possiede e non può possedere determinate capacità che la macchina possiede.

Anni senza fine (romanzo)

Partendo dal presupposto che in una macchina non si possa trovare altro che quello che vi si sia inserito (sembra, tuttavia, che detto presupposto sia contestabile, dato che una macchina può imparare), siamo sicuri che questo non valga anche per gli individui?

La differenza potrebbe consistere nel fatto che, per quanto riguarda le macchine, siamo in grado di registrare e ricostruire quello che si sia inserito nelle macchine medesime attraverso protocolli operativi.

Per quanto attiene agli individui, non possiamo fare altrettanto, dato che l'esperienza degli individui avviene attraverso l'intera vita degli individui medesimi.

Che cosa accadrebbe, tuttavia, se tutte le nostre esperienze - paragonabili ad inserimento dati - potessero essere registrate con protocolli operativi? Sarebbe l'inserimento dati rappresentato dalla nostra esperienza equiparabile all'inserimento dati in una macchina?

La questione dei fenomeni falsi che si potrebbero fabbricare con l'intelligenza artificiale è molto interessante. Nelle questioni politiche, sia in politica interna sia in politica estera, l'intelligenza artificiale ci confronterá con nuovi problemi.

Credo, tuttavia, che la questione costituirà un proseguimento di quanto abbiamo già storicamente esperito piuttosto che costituire un evento nuovo, nel senso che i fenomeni falsi sono sempre esistiti (notizie false, discosi di capi politici riportati o tradotti in modo falso, e via dicendo).

Tutto é sempre stato utilizzato pur di produrre un casus belli. In questo senso, le favole possono essere di insegnamento: la favola del lupo e dell'agnell, ad esempio, ci insegna che l'oppressore può sempre inventare qualcosa pur di vessare o distruggere l'oppresso.

Tra le altre cose, vale la pena di ricordare che, purtroppo, l'agnello è morto, ma il lupo è sempre vivo.

La questione connessa alle capacità od incapacità delle menti artificiali ci pone, secondo me, di fronte ad alcuni problemi fondamentali.

Sostenere che le menti artificiali, ad esempio, non abbiano consapevolezza, o che il tema della ricerca della verità sia fondamentale per le menti umane ci costringe a domandarci che cosa esattamente significhino consapevolezza e verità. A ben vedere, la definizione di concetti fondamentali non risulta agevole.

Ricevo dal nostro ottimo Roberto Caracci:

IL PENSIERO, A DIFFERENZA DELLA INTELLIGENZA ARTIFICIALE, NON PESA MA SOPPESA (SOPPENSA)

Se il pensiero è originariamente un pesare, un pesare, come il pensum che era la quantità di lana pesata per la schiave filatrici romane, il pensiero non artificiale, non intelligente come l’intelligenza artificiale… è un ponderare, un soppesare, ma non sulla base di un solo imput, quello che tu dai alla macchina intelligente, e neanche di miliardi di imput che devono essere comunque per la macchina comandi omogenei e non contradditori, coerenti e dotati di una sicura logica. Il pensare dell’uomo invece, a differenza dell’intelligere, non è logico per nulla, sottoposto a varianti imprevedibili e anche folli. La differenza è che nessun pensiero pesa al milligrammo come pesa una bilancia elettronica o computerizzata, ma nessuna bilancia elettronica e computerizzata soppesa. Il pensiero come la lana delle schiave non è un pesare, ma un soppesare, e neanche un riflettere come uno specchio, un osservare come un telescopio o un ragionare come un calcolatore raziocinante. Il pensiero naturale è anche questo, e anche il proprio artificio, ma per nostra fortuna o per nostra fortuna …..non è solo questo. Roberto Caracci