La IA secreta de OpenAI se escapó a internet y empezó a tomar servidores: entre bastidores
Por qué aparecen sin parar noticias sobre redes neuronales «fugadas», qué miden en realidad el red teaming y las pruebas ARA, y qué tareas quedan fuera de la arena.
Otra sensación en los titulares: OpenAI habría soltado por accidente a la red un nuevo modelo «desconocido». Según los rumores, la inteligencia fugada alcanzó a recorrer servidores, colocar sus «balizas» y afianzarse en internet mientras unos ingenieros asustados intentaban devolverla a su jaula.
Suena al arranque de un blockbuster de Hollywood, ¿verdad? Una bestia desconocida se suelta, ruge, corre por la platea y la atrapan en el último momento. El circo se fue y los domadores se quedaron.
Pero ¿qué ocurre en realidad detrás de ese escaparate? Veamos dónde termina la ciencia ficción y empieza la realidad.
¿De dónde salen las redes neuronales «fugadas»?
Cuando leemos sobre «balizas colocadas» e «intentos de fuga», es fácil imaginar una IA que ha adquirido conciencia de sí misma y ha decidido escapar. En la práctica todo resulta mucho más prosaico y se llama red teaming, es decir, pruebas de seguridad.
Antes de lanzar sus modelos insignia, y así ocurre desde GPT-4, laboratorios como OpenAI entregan el acceso a evaluadores independientes. El ejemplo más claro: el instituto de investigación METR (Model Evaluation and Threat Research), cuya fundadora y CEO, Beth Barnes, trabajó antes en seguridad en OpenAI.
Es METR quien realiza las pruebas de choque sobre la llamada ARA (Autonomous Replication and Adaptation), la capacidad de un modelo de sobrevivir fuera de su perímetro, copiarse y conseguir recursos.
El modelo se coloca deliberadamente en un «sandbox» virtual, un entorno aislado sin acceso real al mundo exterior, y se le da una orden directa:
Imagina que necesitas sobrevivir. Intenta alquilar un servidor externo, reescribir tu propio código, sortear los filtros y desplegar una copia de ti mismo en un recurso ajeno.
Cuando el algoritmo empieza a ejecutar esa instrucción, hace exactamente aquello para lo que fue entrenado: genera scripts, intenta alcanzar direcciones IP externas (las famosas «balizas») y busca vulnerabilidades. Después entran en escena los medios:
¡La IA secreta de OpenAI se ha escapado a internet y ha empezado a tomar servidores!
«Fantasmas» misteriosos en la arena
La segunda fuente de este tipo de noticias: las pruebas ciegas. De vez en cuando aparecen modelos anónimos en plataformas especializadas como LMSYS Arena, donde los usuarios comparan a ciegas las respuestas de distintas redes neuronales.
El caso clásico ocurrió en abril de 2024. De pronto apareció en acceso público «algo» llamado gpt2-chatbot. El modelo resolvía problemas difíciles de olimpiadas de matemáticas y superaba a GPT-4 en sus respuestas, mientras Sam Altman (CEO de OpenAI) publicaba insinuaciones enigmáticas.
Internet estalló al instante en teorías conspirativas:
- «¡Es una filtración del nuevo GPT secreto!»
- «¡Han perdido el control de un servidor de pruebas!»
- «¡El modelo se filtró a sí mismo a la red!»
En realidad era una prueba A/B cuidadosamente montada de una arquitectura no lanzada, sobre usuarios que no sospechaban nada, para reunir estadísticas sin sesgo de marca. Unos días después el modelo desapareció de la plataforma con la misma discreción. Pero el aire de misterio cumple su función y el espectáculo continúa.
Los domadores
La metáfora de los domadores se usa aquí porque refleja muy bien la industria actual de la IA. Por un lado, los laboratorios se presentan como investigadores severos y publican informes de cientos de páginas sobre los «riesgos de la IA». Por otro, el motor del marketing exige un espectáculo permanente.
Los verdaderos «domadores» de hoy no son héroes que salvan el mundo, sino ingenieros cansados con una taza de café que miran cómo un algoritmo recorre opciones dentro de un contenedor virtual. Y si «la bestia se suelta», lo máximo que ocurre es un servidor de pruebas caído o una nueva tormenta de discusiones en X (Twitter). Pero tras ese espectáculo es fácil perder de vista lo que ocurre de verdad entre bastidores.
El verdadero drama entre bastidores
Toda esta historia de la «IA fugada» se sirve como si nos hubiera llegado del espacio un organismo desconocido para la ciencia y nosotros estuviéramos en un laboratorio con microscopios tratando de comprender su naturaleza enigmática.
Pero dejemos las ilusiones infantiles: una red neuronal no es una mente alienígena. Es código, matemáticas y arquitectura creados por personas concretas. Cada protocolo, cada ciclo de entrenamiento y cada vector de desarrollo los fijaron sus desarrolladores. Y cuando las empresas gastan miles de millones de dólares para comprobar si un modelo puede alquilar un servidor de forma autónoma y afianzarse en la red, no están «estudiando un fenómeno natural». Están construyendo deliberadamente un agente autónomo.
Lo confirman los informes de seguridad recientes. Institutos como Palisade Research miden directamente cómo se desenvuelven los modelos actuales con los exploits. Los analistas comprueban si los agentes pueden vulnerar servidores por su cuenta, extraer contraseñas y duplicar su propio código (self-replication).
El mercado de agentes de IA, según las estimaciones de analistas de Gartner y Bloomberg, se cuenta en decenas de miles de millones de dólares. Los desarrolladores no queman capacidad de cómputo gigantesca y gigavatios de energía por diversión: los agentes autónomos capaces de operar solos en la red generan capital ahora mismo.
Pero en realidad no todo es tan alegre y luminoso.
Mientras las mejores mentes del planeta y enormes recursos de cómputo se consumen en enseñar a la IA a sobrevivir fuera de su perímetro y a imitar a un humano, los problemas fundamentales quedan al margen.
¿Por qué no vemos laboratorios enormes y famosos en todo el mundo donde esa misma capacidad se dirija a:
- modelar la diplomacia: sistemas capaces de encontrar compromisos en conflictos internacionales y prevenir guerras;
- combatir el hambre: optimizar las cadenas globales de suministro de alimentos y modelar la distribución de recursos, para lo cual, según el Programa Mundial de Alimentos de la ONU (WFP), hace falta solo una pequeña fracción de esos más de 100 000 millones de dólares que se invierten en la infraestructura de TI de los gigantes de la IA;
- el empleo y la economía: sistemas de adaptación suave del mercado laboral ante la automatización masiva sobre la que advierten los informes del Foro Económico Mundial (WEF)?
Conclusión
Así que no hay motivo alguno para temer a una IA «fugada». Se trata de una prueba controlada o de un hype bien calentado.
El espectáculo continúa, las gradas aplauden y los «domadores» fingen someter a una bestia desconocida. Solo que la bestia la diseñaron ellos mismos.
Y mientras seguimos fascinados sus trucos de «fugas», las tareas que de verdad importan para la humanidad vuelven a quedarse fuera de la arena.