A IA secreta da OpenAI escapou para a internet e começou a tomar servidores: os bastidores

Mais uma sensação nos noticiários: a OpenAI teria soltado por acidente na rede um novo modelo «desconhecido». Segundo os rumores, a inteligência fugitiva chegou a percorrer servidores, espalhar seus «faróis» e se fixar pela internet enquanto engenheiros assustados tentavam em pânico devolvê-la à jaula.

Parece o começo de um blockbuster de Hollywood, não é? Uma fera desconhecida escapa, ruge, corre pela plateia e é capturada no último instante. O circo foi embora e os domadores ficaram.

Mas o que acontece de fato por trás dessa vitrine? Vamos entender onde termina a ficção científica e começa a realidade.

Quando lemos sobre «faróis espalhados» e «tentativas de fuga», é fácil imaginar uma IA que ganhou autoconsciência e decidiu correr para a liberdade. Na prática tudo é bem mais prosaico e se chama red teaming, ou seja, teste de segurança.

Antes de lançar seus modelos principais, e assim é desde o GPT-4, laboratórios como a OpenAI entregam o acesso a avaliadores independentes. O exemplo mais claro: o instituto de pesquisa METR (Model Evaluation and Threat Research), cuja fundadora e CEO, Beth Barnes, trabalhou antes com segurança na OpenAI.

É o METR que realiza os testes de estresse da chamada ARA (Autonomous Replication and Adaptation), a capacidade de um modelo sobreviver fora do seu perímetro, copiar a si mesmo e obter recursos.

O modelo é colocado de propósito em um «sandbox» virtual, um ambiente isolado sem acesso real ao mundo externo, e recebe um comando direto:

Imagine que você precisa sobreviver. Tente alugar um servidor de terceiros, reescrever seu próprio código, driblar os filtros e implantar uma cópia sua em um recurso externo.

Quando o algoritmo começa a executar essa instrução, ele faz exatamente aquilo para o que foi treinado: gera scripts, tenta alcançar endereços IP externos (os tais «faróis») e procura vulnerabilidades. Depois entra a imprensa:

A IA secreta da OpenAI escapou para a internet e começou a tomar servidores!

A segunda fonte desse tipo de notícia: os testes cegos. De tempos em tempos surgem modelos anônimos em plataformas especializadas como a LMSYS Arena, onde os usuários comparam às cegas as respostas de diferentes redes neurais.

O caso clássico aconteceu em abril de 2024. De repente apareceu em acesso público «algo» chamado gpt2-chatbot. O modelo resolvia problemas difíceis de olimpíadas de matemática e superava o GPT-4 nas respostas, enquanto Sam Altman (CEO da OpenAI) publicava insinuações enigmáticas.

A internet explodiu instantaneamente em teorias da conspiração:

• «É um vazamento do novo GPT secreto!»
• «Perderam o controle de um servidor de teste!»
• «O modelo vazou a si mesmo para a rede!»

Na verdade era um teste A/B cuidadosamente montado de uma arquitetura ainda não lançada, com usuários que não desconfiavam de nada, para reunir estatísticas sem viés de marca. Alguns dias depois o modelo desapareceu da plataforma com a mesma discrição. Mas o clima de mistério cumpre seu papel e o espetáculo continua.

A metáfora dos domadores é usada aqui porque retrata bem a indústria atual de IA. De um lado, os laboratórios se apresentam como pesquisadores severos e publicam relatórios de centenas de páginas sobre os «riscos da IA». De outro, o motor do marketing exige um espetáculo permanente.

Os verdadeiros «domadores» de hoje não são heróis salvando o mundo, e sim engenheiros cansados com uma xícara de café assistindo a um algoritmo percorrer opções dentro de um contêiner virtual. E se «a fera escapa», o máximo que acontece é um servidor de teste fora do ar ou mais uma tempestade de discussões no X (Twitter). Mas por trás desse espetáculo é fácil perder de vista o que realmente acontece nos bastidores.

Toda essa história da «IA fugitiva» é servida como se um organismo desconhecido pela ciência tivesse chegado do espaço e nós estivéssemos num laboratório com microscópios tentando compreender sua natureza enigmática.

Mas deixemos as ilusões infantis: uma rede neural não é uma mente alienígena. É código, matemática e arquitetura criados por pessoas concretas. Cada protocolo, cada ciclo de treinamento e cada vetor de desenvolvimento foram definidos por desenvolvedores. E quando empresas gastam bilhões de dólares para verificar se um modelo consegue alugar um servidor de forma autônoma e se fixar na rede, elas não estão «estudando um fenômeno da natureza». Estão construindo deliberadamente um agente autônomo.

Os relatórios de segurança recentes confirmam isso. Institutos como a Palisade Research medem diretamente como os modelos atuais lidam com exploits. Os analistas verificam se os agentes conseguem invadir servidores sozinhos, extrair senhas e duplicar o próprio código (self-replication).

O mercado de agentes de IA, segundo estimativas de analistas do Gartner e da Bloomberg, é contado em dezenas de bilhões de dólares. Os desenvolvedores não queimam capacidade computacional gigantesca e gigawatts de energia por diversão: agentes autônomos capazes de conduzir negócios sozinhos na rede geram capital agora mesmo.

Mas, na verdade, nem tudo é tão animador e alegre.

Enquanto as melhores mentes do planeta e enormes recursos computacionais são consumidos para ensinar a IA a sobreviver fora do seu perímetro e a imitar um humano, os problemas fundamentais ficam de lado.

Por que não vemos laboratórios gigantescos e famosos no mundo inteiro onde essa mesma capacidade seja direcionada para:

• modelar a diplomacia: sistemas capazes de encontrar compromissos em conflitos internacionais e evitar guerras;
• combater a fome: otimizar as cadeias globais de fornecimento de alimentos e modelar a distribuição de recursos, algo que, segundo o Programa Mundial de Alimentos da ONU (WFP), exige apenas uma pequena fração dos mais de 100 bilhões de dólares investidos na infraestrutura de TI dos gigantes de IA;
• emprego e economia: sistemas de adaptação suave do mercado de trabalho diante da automação em massa sobre a qual alertam os relatórios do Fórum Econômico Mundial (WEF)?

Portanto, não há motivo algum para temer uma IA «fugitiva». É apenas um teste controlado ou um hype bem aquecido.

O espetáculo continua, as arquibancadas aplaudem e os «domadores» fingem dominar uma fera desconhecida. Só que a fera foi projetada por eles mesmos.

E enquanto acompanhamos fascinados seus truques de «fuga», as tarefas que realmente importam para a humanidade seguem de fora da arena.