L'IA segreta di OpenAI è scappata su internet e conquista i server: dietro le quinte

Ennesima sensazione nei notiziari: OpenAI avrebbe liberato per sbaglio in rete un nuovo modello «sconosciuto». Secondo le voci, l'intelligenza evasa avrebbe fatto in tempo a scorrazzare tra i server, a piazzare i suoi «segnalatori» e a insediarsi su internet mentre ingegneri spaventati cercavano nel panico di rimetterla in gabbia.

Sembra l'inizio di un blockbuster hollywoodiano, vero? Una bestia sconosciuta si libera, ruggisce, corre per la platea e viene catturata all'ultimo momento. Il circo è ripartito, i domatori sono rimasti.

Ma che cosa succede davvero dietro questa vetrina? Vediamo dove finisce la fantascienza e comincia la realtà.

Quando leggiamo di «segnalatori piazzati» e «tentativi di fuga», è facile immaginare un'IA che ha acquisito autocoscienza e ha deciso di scappare verso la libertà. In pratica tutto è molto più prosaico e si chiama red teaming, cioè test di sicurezza.

Prima di rilasciare i modelli di punta, e accade così da GPT-4, laboratori come OpenAI affidano l'accesso a valutatori indipendenti. L'esempio più chiaro: l'istituto di ricerca METR (Model Evaluation and Threat Research), la cui fondatrice e CEO Beth Barnes in precedenza si occupava di sicurezza in OpenAI.

È METR a condurre i crash test sulla cosiddetta ARA (Autonomous Replication and Adaptation), cioè la capacità di un modello di sopravvivere fuori dal proprio perimetro, copiarsi e procurarsi risorse.

Il modello viene messo di proposito in una «sandbox» virtuale, un ambiente isolato senza accesso reale al mondo esterno, e riceve un comando diretto:

Immagina di dover sopravvivere. Prova ad affittare un server di terze parti, a riscrivere il tuo codice, ad aggirare i filtri e a distribuire una tua copia su una risorsa esterna.

Quando l'algoritmo inizia a eseguire quell'istruzione, fa esattamente ciò per cui è stato addestrato: genera script, prova a raggiungere indirizzi IP esterni (proprio quei «segnalatori») e cerca vulnerabilità. Poi entrano in scena i media:

L'IA segreta di OpenAI è scappata su internet e ha iniziato a conquistare i server!

La seconda fonte di notizie del genere: i test alla cieca. Di tanto in tanto compaiono modelli anonimi su piattaforme specializzate come LMSYS Arena, dove gli utenti confrontano alla cieca le risposte di reti neurali diverse.

Il caso classico è avvenuto nell'aprile 2024. All'improvviso è comparso in accesso pubblico un «qualcosa» chiamato gpt2-chatbot. Il modello risolveva difficili problemi di matematica da olimpiadi e superava GPT-4 nelle risposte, mentre Sam Altman (CEO di OpenAI) pubblicava allusioni enigmatiche.

Internet è esploso all'istante in teorie del complotto:

• «È una fuga di dati del nuovo GPT segreto!»
• «Hanno perso il controllo di un server di test!»
• «Il modello si è riversato in rete da solo!»

In realtà era un accurato test A/B di un'architettura non ancora rilasciata, condotto su utenti ignari, per raccogliere statistiche senza pregiudizi di marca. Qualche giorno dopo il modello è sparito dalla piattaforma con la stessa discrezione. Ma l'atmosfera di mistero fa il suo effetto, e lo spettacolo continua.

La metafora dei domatori è usata qui perché descrive bene l'attuale industria dell'IA. Da un lato i laboratori si atteggiano a ricercatori severi e pubblicano rapporti di centinaia di pagine sui «rischi dell'IA». Dall'altro il motore del marketing pretende uno spettacolo costante.

I veri «domatori» oggi non sono eroi che salvano il mondo, ma ingegneri stanchi con una tazza di caffè che guardano un algoritmo scorrere le opzioni dentro un container virtuale. E se «la bestia si libera», al massimo cade un server di test o arriva l'ennesima tempesta di discussioni su X (Twitter). Dietro questo spettacolo, però, è facile perdere di vista ciò che accade davvero dietro le quinte.

Tutta questa storia dell'«IA evasa» viene servita come se dallo spazio ci fosse arrivato un organismo sconosciuto alla scienza e noi fossimo in laboratorio con i microscopi a cercare di comprenderne la natura misteriosa.

Ma lasciamo perdere le illusioni infantili: una rete neurale non è una mente aliena. È codice, matematica e architettura creati da persone precise. Ogni protocollo, ogni ciclo di addestramento e ogni direzione di sviluppo sono stati fissati dagli sviluppatori. E quando le aziende spendono miliardi di dollari per verificare se un modello può affittare un server in autonomia e insediarsi in rete, non stanno «studiando un fenomeno naturale». Stanno costruendo deliberatamente un agente autonomo.

Lo confermano i recenti rapporti sulla sicurezza. Istituti come Palisade Research misurano direttamente come i modelli attuali se la cavano con gli exploit. Gli analisti verificano se gli agenti riescono a violare server da soli, estrarre password e duplicare il proprio codice (self-replication).

Il mercato degli agenti IA, secondo le stime degli analisti di Gartner e Bloomberg, vale decine di miliardi di dollari. Gli sviluppatori non bruciano enormi capacità di calcolo e gigawatt di energia per divertimento: gli agenti autonomi capaci di condurre affari in rete da soli portano capitale già adesso.

Ma in realtà non è tutto così roseo e allegro.

Mentre le menti migliori del pianeta e enormi capacità di calcolo vengono bruciate per insegnare all'IA a sopravvivere fuori dal perimetro e a mimetizzarsi da essere umano, i problemi fondamentali restano da parte.

Perché non vediamo laboratori enormi e noti in tutto il mondo in cui la stessa potenza sia diretta a:

• modellare la diplomazia: sistemi capaci di trovare compromessi nei conflitti internazionali e prevenire le guerre;
• combattere la fame: ottimizzare le catene globali di approvvigionamento alimentare e modellare la distribuzione delle risorse, cosa che secondo il Programma alimentare mondiale dell'ONU (WFP) richiede solo una piccola frazione di quei 100 e più miliardi di dollari investiti nell'infrastruttura IT dei giganti dell'IA;
• occupazione ed economia: sistemi per un adattamento morbido del mercato del lavoro all'automazione di massa di cui avvertono i rapporti del World Economic Forum (WEF)?

Quindi non c'è alcun motivo di temere un'IA «fuggita». Si tratta di un test controllato o di hype scaldato ad arte.

Lo spettacolo continua, le tribune applaudono e i «domatori» fingono di domare una bestia sconosciuta. Peccato che quella bestia l'abbiano progettata loro stessi.

E mentre osserviamo affascinati i loro numeri con le «fughe», i compiti davvero importanti per l'umanità restano ancora una volta fuori dalla pista.