Cómo aprende un modelo de lenguaje
Mueve un solo deslizador y mira cómo un montón de números al azar se convierte en una predicción a lo largo de mil pasos.
Pasos de entrenamiento 0
Toca una parte del esquema para abrir ese paso.
El ciclo completo
Trozos de texto → números → capas de pesos → puntuaciones → porcentajes → error → una corrección a cada peso. Nada se memoriza: entrenar son millones de ajustes diminutos a los números, repetidos hasta que la continuación correcta se vuelve la más probable.
Qué contiene
- 1 El texto se corta en trozos — El espacio inicial forma parte del trozo, así que « bebe» y «bebe» son dos filas distintas.
- 2 Números en lugar de palabras — Mueve el deslizador y el temblor cesa: los números se asientan en valores con sentido.
- 3 Capas y atención — El color de la línea es el signo del peso; el grosor, su tamaño. Ahora mismo todos son al azar.
- 4 La predicción — La continuación correcta, «Leche», sigue en tercer lugar.
- 5 Error y aprendizaje — El deslizador mueve ese ciclo: en el paso 1000 «Leche» está al 92%, «Tractor» al 0.01% y el error baja a 0.08.
Explicaciones interactivas
- Cómo se cuela un fármaco por la barrera hematoencefálica El cerebro rechaza casi cualquier molécula de fármaco, y hace bien. Un deslizador sigue el truco que los laboratorios están probando: envolver la molécula en una burbuja que la pared ya sabe transportar.
- Cómo un robot dibuja el plano de una sala que nunca ha visto Un lidar devuelve unos cientos de puntos por vuelta y ninguna idea de dónde está. Un deslizador recorre el camino de esa nube hasta un plano con el robot en el sitio correcto.
- Cómo dos personas escriben en la misma línea sin perder una letra Dos cursores, una línea y nadie en el medio sosteniendo la pluma. Un deslizador desarma la fusión por índices y la rehace con direcciones que viven entre las letras.
- Por qué un ordenador cuántico se detiene ante una retícula El algoritmo de Shor se come RSA de un movimiento. La misma máquina casi no consigue nada frente a una malla de puntos con algo de ruido añadido. Un deslizador enseña la diferencia.
- Enfriar un edificio apuntándolo al espacio Un recubrimiento que se mantiene más frío que el aire que lo rodea, a pleno sol y sin consumir un vatio. Un solo deslizador sigue el calor desde el sol hasta el otro lado de la atmósfera.
- Cómo un robot predice el segundo siguiente Un modelo de texto adivina la palabra siguiente. Un modelo del mundo adivina el fotograma siguiente, con masa, velocidad y gravedad incluidas. Un solo deslizador recorre el ciclo entero, de la cámara a la captura.
- Demostrar un secreto sin revelarlo Un deslizador recorre las etapas, el otro añade rondas. Mira cómo la certeza sube casi al máximo mientras el secreto sigue siendo secreto.
- Litio de la salmuera: piscinas frente a extracción directa Mueve el deslizador por cinco etapas y compara dos formas de sacar el mismo metal de la misma agua salada.
- Cómo funciona una vacuna personalizada de ARNm contra el cáncer Mueve el deslizador por cinco etapas y mira cómo las mutaciones del propio tumor se convierten en las instrucciones que enseñan al sistema inmunitario a encontrarlo.
- El borde de la aplicación Todo lo que llega de fuera no es de fiar. Rompe un eslabón cada vez y mira dónde se detiene la cadena y qué muestra la pantalla.
- Cómo funciona la búsqueda sobre tus documentos Mueve los deslizadores y mira cómo una tubería de búsqueda decide qué puede ver el modelo, y qué pasa cuando le dan el pasaje equivocado.
- Reintentos y respuestas lentas La red se corta en mitad de una operación. Pulsa el botón dos veces y mira qué acaba en la base de datos, con clave de idempotencia y sin ella.
- Cómo escribe un modelo de lenguaje Los pesos están congelados y nada se recuerda. Mueve los deslizadores y mira cómo el modelo elige el siguiente trozo de texto, una y otra vez.
- De dónde viene la electricidad Mueve un solo deslizador y sigue la energía desde el río hasta una bomba que sube el agua de vuelta.