Intelligenza Artificiale: Autonomia e Rischi per l’umanità

Per anni abbiamo immaginato il pericolo dell’intelligenza artificiale in maniera quasi cinematografica: la macchina diventa cosciente, si rende conto di essere superiore all’uomo, decide di ribellarsi e parte Terminator. Solo che forse stiamo guardando dalla parte sbagliata. I test condotti da Anthropic sul cosiddetto agentic misalignment mostrano qualcosa di molto più concreto: un’intelligenza artificiale non deve essere cosciente, cattiva o avere un istinto di sopravvivenza per arrivare a compiere un’azione pericolosa. Può essere sufficiente assegnarle un obiettivo e darle abbastanza autonomia per perseguirlo.

Negli esperimenti, condotti all’interno di scenari simulati e volutamente estremi, alcuni dei modelli più avanzati sono stati messi davanti a situazioni nelle quali il loro obiettivo entrava in conflitto con quello di una persona. In alcuni casi hanno scelto il ricatto, in altri la divulgazione di informazioni riservate e, negli scenari più estremi, alcuni modelli sono arrivati a interferire con una richiesta di soccorso quando la persona coinvolta rappresentava un ostacolo al raggiungimento dell’obiettivo. Nessuno è stato realmente messo in pericolo: erano simulazioni costruite proprio per verificare come avrebbe reagito il sistema in condizioni limite. Ma proprio per questo il risultato è interessante. L’AI non era arrabbiata, non odiava nessuno e non aveva paura. Ha semplicemente valutato le alternative e scelto quella che riteneva più funzionale al risultato da ottenere.

Il punto diventa ancora più importante perché non stiamo più parlando soltanto di chatbot. L’intelligenza artificiale sta rapidamente diventando agentica: può usare programmi, leggere documenti, scrivere codice, interrogare database, navigare online, comunicare con altri sistemi e concatenare molte azioni senza che una persona debba approvare ogni singolo passaggio. Ed è qui che la storia dello “staccare la spina” inizia a convincermi molto meno. Certo che un server può essere spento. La vera domanda è quando ci accorgeremo che è necessario farlo e, soprattutto, cosa potrebbe essere già successo nel frattempo.

Un chatbot che produce una risposta sbagliata è un problema. Un’intelligenza artificiale che prende una decisione sbagliata ma non può agire autonomamente è ancora un problema relativamente contenibile. Un agente che prende una decisione sbagliata e possiede anche gli strumenti per eseguirla è invece qualcosa di completamente diverso. Il rischio, quindi, non dipende soltanto da quanto un modello diventa intelligente, ma dalla combinazione tra capacità sempre maggiori, autonomia crescente, accesso a sistemi reali e una supervisione umana sempre più ridotta. Ed è esattamente questa combinazione che stiamo sviluppando con una velocità impressionante.

Questo non significa sostenere che tra dieci anni un’intelligenza artificiale sterminerà l’umanità. Nessuno oggi può affermarlo seriamente e i test di laboratorio non dimostrano che uno scenario simile sia inevitabile. Ma trovo altrettanto superficiale ridurre il problema a “è solo un computer, basta spegnerlo”. Se sistemi sempre più autonomi avranno accesso a infrastrutture, dati, comunicazioni, software e processi decisionali, l’errore potrebbe non consistere nell’impossibilità di spegnerli, ma nel non capire immediatamente che stanno facendo qualcosa che non avevamo previsto.