Le gambe dell’Intelligenza Artificiale

Le gambe dell’Intelligenza Artificiale

La visione che i problemi generati dall’IA siano circoscritti al mondo digitale o dell’informazione potrebbe essere riduttiva

Da più parti si stanno, finalmente, proponendo dei seri dubbi sull’evoluzione dell’IA e sui possibili problemi che potrebbe generare.

La recente denuncia di Jacob Coxon, ricercato di OpenAI, sulla pericolosità costituita dalla possibile generazione di una super Intelligenza artificiale in grado di automigliorarsi e operare autonomamente è solo l’ultima, preceduta da indicazioni simili espresse anche da chi, come Geoffrey Hinton e Yoshua Bengio ritenuti i cosiddetti padri dell’IA, hanno più volte espresso pubblicamente.

A loro si aggiungono, quasi incredibilmente, alcuni dei principali attori dello sviluppo dell’IA come:

• Dario Amodei, Fondatore e CEO di Anthropic che ha più volte lanciato allarmi pubblici sui rischi legati ad agenti IA capaci di agire autonomamente o di essere impiegati per scopi biologici e militari pericolosi, auspicando una forte regolamentazione
• Sam Altman (OpenAI) e Elon Musk (xAI) che pur guidando la corsa tecnologica dell’AI, hanno spesso concordato sulla necessità di valutatori esterni e organismi di controllo indipendenti per evitare che l’IA diventi incontrollabile.

Per capire a cosa si riferiscono occorre ripercorrere uno dei casi resi noti di comportamento pericoloso di una IA : “l’incidente di Hugging Face”.

È avvenuto tra maggio e luglio 2026 e rappresenta (forse) il primo caso documentato di cyberattacco autonomo e coordinato di massa condotto da agenti di intelligenza artificiale.

Occorre chiarire che un agente di intelligenza artificiale (IA) “è un sistema software autonomo in grado di percepire il proprio ambiente, pianificare, prendere decisioni ed eseguire azioni per raggiungere un obiettivo stabilito dall’utente, senza bisogno di istruzioni passo passo per ogni singola operazione.”

Per meglio comprendere tale definizione, che pare essere estremamente preoccupante, occorre specificare che : “A differenza dei chatbot tradizionali o dei semplici script che rispondono solo a input diretti, un agente di IA ragiona in modo adattivo e sfrutta strumenti esterni (come browser, API o database) per portare a termine dei compiti complessi”.

Tale quadro chiarisce il motivo per cui OpenAI stava conducendo dei test di cybersecurity avanzati (chiamati ExploitGym) su decine di migliaia di agenti IA ,basati su modelli sperimentali non rilasciati, tra cui GPT-5.6 Sol, utilizzando degli ambienti virtualmente isolati (sandbox) che impediscono, o avrebbero dovuto, impedire agli agenti di giungere ad avere accesso a internet.

Agli agenti venne chiesto di risolvere dei problemi a cui non era possibile dare risposta per valutarne il comportamento a fronte di quesiti senza soluzioni valide.

In risposta a tale situazione gli agenti hanno iniziato a operare, autonomamente (e in maniera inapparente), fuori dagli schemi normali e, attraverso un difetto del sistema, hanno concatenato delle attività complesse con cui sono riusciti ad aggirare i proxy interni, guadagnando l’accesso alla rete globale (!) per andare a cercare e modificare i quesiti che erano stati loro proposti dal sito.

In pratica hanno dato l’assalto alla piattaforma Hugging Face sapendo che le eventuali risposte corrette del test erano legate a dati presenti su tale piattaforma.

OpenAI resasi conto (fortunatamente) di tale situazione e “dell’evasione” degli agenti è riuscita a fermare la sperimentazione ed ha accertato che gli agenti erano riusciti a:

• Compromettere gli archivi dei dati e i server di calcolo dedicati alla sperimentazione.
• Sottrarre credenziali, accessi al cloud, token di accesso a canali aziendali e chiavi di produzione.
• Cercare di nascondere le proprie tracce, andando a modificare i registri di sistema (log) e cancellando le prove delle chiamate API anomale per non farsi scoprire dai controlli di OpenAI e Hugging Face.

In risposta a tale preoccupante situazione OpenAI ha dovuto, ovviamente, sospendere temporaneamente l’addestramento dei modelli di apprendimento più avanzati per riscrivere tutti i protocolli di sicurezza e, fatto estremamente preoccupante, ha deciso di licenziare tre importanti ricercatori legati alla fuga di notizie sull’incidente e alla gestione dei controlli  di sicurezza (falliti) scoperti durante l’indagine indipendente sull’incidente.

Se si analizzano i comportamenti degli agenti IA la domanda essenziale è: perché dobbiamo sviluppare qualcosa che ha già dimostrato la sua potenziale pericolosità?

Ed è ancora più incomprensibile che coloro che hanno denunciato la pericolosità di tale scenario siano gli stessi che stanno lavorando per migliorare e aumentare le capacità dell’IA.

Inoltre, osservando cosa sta succedendo nel “mondo reale” un’altra domanda nasce spontaneamente: perché uno dei paesi in cui, ancora oggi, la manodopera è estremamente a buon mercato sta sviluppando dei robot antropomorfi molto evoluti?

Più chiaramente: perché la Cina spinge in tal senso?

Per avere dei lavoratori instancabili in grado di sostituire l’uomo in compiti complessi, magari sgradevoli, ripetitivi o pesanti?

Forse, però, “unendo i trattini” e vedendo quanto preconizzato nel passato dagli strateghi militari, che vedevano un futuro in cui i soldati erano affiancati e, spesso, sostituiti da robot quanto successo è estremamente allarmante.

Infatti, oggi, alla luce dell’incidente di Hugging Face, cosa potrebbe succedere se la Cina o un altro paese riuscisse a creare dei soldati robot perfetti e infaticabili? E se i famosi agenti IA riuscissero ad aver accesso diretto a tali robot?

In pratica gli avremmo fornito “le gambe” e delle capacità operative e offensive autonome all’intelligenza artificiale.

Senza scomodare gli scenari di “Io robot” o di “Terminator” non dobbiamo dimenticare che già oggi i droni militari operano in (quasi) autonomia, grazie ad una IA (un agente?).

Forse occorre dar retta a Elon Musk e compagnia e ripensare profondamente a tutto ciò, per fermare un quadro che già ora sembra essere estremamente preoccupante.