IA i rischi continuano

IA i rischi continuano

L’uomo dovrà rimanere sempre il direttore della macchina

Diversamente, gli orizzonti potrebbero diventare oscuri. Non vuole essere un monito apocalittico ma una presa d’atto realistica.

È, piuttosto, un invito alla consapevolezza in un momento nel quale i principali Paesi e le grandi organizzazioni internazionali stanno innalzando barriere e sistemi di sicurezza sempre più importanti intorno allo sviluppo dell’Intelligenza Artificiale.

L’IA rappresenta certamente una straordinaria opportunità per il mondo delle imprese, delle professioni, della ricerca e, più in generale, per la società.

Può aumentare la produttività, accelerare processi, elaborare quantità enormi di informazioni e contribuire a risolvere problemi che oggi richiedono tempi e risorse considerevoli.

Ma proprio questa potenza rende necessarie regole chiare, responsabilità definite e, per quanto possibile, principi condivisi a livello internazionale.

Il problema diventa ancora più delicato con l’evoluzione dei sistemi capaci di utilizzare altri strumenti, apprendere dai risultati e svolgere autonomamente sequenze sempre più complesse di attività.

L’accelerazione dello sviluppo tecnologico può rendere più difficile per gli esseri umani comprendere pienamente, controllare e prevedere il comportamento dei sistemi più avanzati.

È quindi necessario prestare attenzione anche a un rischio meno spettacolare, ma forse più vicino alla nostra vita quotidiana: delegare progressivamente alla tecnologia ogni sforzo mentale.

Se una macchina può ricordare al posto nostro, calcolare al posto nostro, scrivere al posto nostro, scegliere fra diverse possibilità e persino suggerirci che cosa pensare o fare, il problema non è soltanto quanto diventerà intelligente la macchina.

È anche quanto rischierà di diventare meno esercitata l’intelligenza dell’uomo.

La tecnologia deve rendere la nostra vita più veloce, semplice e precisa, ma non dovrebbe trasformarsi in un sostituto permanente delle nostre capacità di giudizio.

Ho già scritto sui report di Anthropic, nei quali viene indicata l’autonomia prolungata come uno dei possibili vettori di rischio dei sistemi di Intelligenza Artificiale più avanzati.

Il problema non riguarda soltanto una macchina capace di rispondere in modo sempre più efficace alle nostre richieste.

Con l’aumento delle capacità nell’informatica, nella ricerca e nell’utilizzo degli strumenti digitali, i sistemi più avanzati possono essere progettati per perseguire obiettivi attraverso sequenze di attività sempre più lunghe: suddividere un problema in compiti, eseguire azioni, verificarne gli esiti, correggere alcuni errori e decidere quali passaggi successivi compiere.

La prospettiva di sistemi capaci di operare con un elevato grado di autonomia per periodi prolungati introduce quindi una questione nuova: quanto a lungo e fino a quale livello l’uomo sarà in grado di comprenderne, indirizzarne e controllarne le azioni?

A questo si aggiunge un problema già presente nei sistemi attuali: le cosiddette allucinazioni, cioè risposte formulate con apparente sicurezza ma contenenti informazioni inesatte, inventate o non sufficientemente fondate.

Quando tali errori entrano in processi decisionali complessi, vengono utilizzati per produrre altre elaborazioni o non vengono adeguatamente verificati, possono diventare particolarmente fuorvianti.

Ma esiste un’altra questione che merita forse la stessa attenzione e che riguarda il rapporto fra Intelligenza Artificiale e Natura.

Lo sviluppo dell’IA richiede infatti infrastrutture, energia, acqua, materiali, data center e componenti elettronici.

L’IA può contribuire a utilizzare meglio queste risorse, ma può anche accelerarne la domanda. Il rischio sarebbe riproporre una concezione della Natura come una fonte praticamente inesauribile dalla quale attingere senza considerare i limiti fisici degli ecosistemi e gli effetti cumulativi delle nostre attività.

È una concezione che abbiamo già conosciuto e che la crisi climatica ha reso evidente.

Non possiamo pensare che una tecnologia, per quanto avanzata, possa eliminare i limiti fisici del pianeta. Può aiutarci a conoscerli, a misurarli e forse a gestirli meglio; non può cancellarli.

Per questo l’Intelligenza Artificiale deve essere inserita in una visione più ampia dello sviluppo umano.

Non siamo più necessariamente spettatori distratti di questi processi. La disponibilità di informazioni, la ricerca scientifica e la crescente consapevolezza dei cittadini possono permetterci di comprendere meglio le conseguenze delle nostre scelte.

La vera sfida sarà allora modificare progressivamente gli stili di vita, ridurre la dipendenza dai combustibili fossili, limitare il consumo indiscriminato del suolo, utilizzare con maggiore efficienza le risorse e orientare anche le nuove tecnologie verso un modello di sviluppo compatibile con i limiti naturali.

L’Intelligenza Artificiale può diventare uno strumento straordinario in questa trasformazione ma non deve diventare un nuovo strumento per accelerare indiscriminatamente lo sfruttamento delle risorse.

Perché, in questa grande società fra uomo, tecnologia ed economia, il nostro socio di maggioranza rimane indiscutibilmente la Natura.

E sarebbe prudente ricordare che, diversamente dagli altri soci, la Natura non può essere sostituita, ricapitalizzata o ricreata semplicemente con un nuovo investimento.

Il punto rimane, non è e non potrà essere fermare l’Intelligenza Artificiale ma mantenerne il controllo, stabilire i limiti del suo impiego e soprattutto conservare all’uomo la responsabilità delle decisioni fondamentali.

La macchina può essere potentissima. Ma il volante deve rimanere nelle mani dell’uomo. La decisione finale deve rimanere in capo agli esseri umani.