Cómo escribe un modelo de lenguaje
Los pesos están congelados y nada se recuerda. Mueve los deslizadores y mira cómo el modelo elige el siguiente trozo de texto, una y otra vez.
Temperatura
1.00
Top-P
0.90
Toca una parte del esquema para abrir ese paso.
El bucle completo
Cadena → trozos → enlaces con los trozos anteriores → capas congeladas → probabilidades → cortar la cola y sacar uno al azar → el trozo se añade. Y otra vez desde arriba. Nada más ocurre mientras se usa un modelo.
Qué contiene
- 1 Contexto y trozos — La ventana es finita. Cuando se llena, la generación se detiene: fuera de ella el modelo no guarda nada.
- 2 Atención al contexto — Los enlaces se recalculan desde cero en cada paso: un trozo más y todo el dibujo cambia.
- 3 Pesos congelados — Entrenar cambia los pesos, usar no. Son dos modos distintos de la misma red.
- 4 Probabilidades, temperatura y Top-P — Mueve los dos deslizadores y mira « bananas»: ese es el precio de una temperatura alta y un Top-P cercano a uno.
- 5 El bucle de generación — El modelo no escribe una frase. Da un paso, luego otro, y eso es todo lo que hace.
Explicaciones interactivas
- Cómo se cuela un fármaco por la barrera hematoencefálica El cerebro rechaza casi cualquier molécula de fármaco, y hace bien. Un deslizador sigue el truco que los laboratorios están probando: envolver la molécula en una burbuja que la pared ya sabe transportar.
- Cómo un robot dibuja el plano de una sala que nunca ha visto Un lidar devuelve unos cientos de puntos por vuelta y ninguna idea de dónde está. Un deslizador recorre el camino de esa nube hasta un plano con el robot en el sitio correcto.
- Cómo dos personas escriben en la misma línea sin perder una letra Dos cursores, una línea y nadie en el medio sosteniendo la pluma. Un deslizador desarma la fusión por índices y la rehace con direcciones que viven entre las letras.
- Por qué un ordenador cuántico se detiene ante una retícula El algoritmo de Shor se come RSA de un movimiento. La misma máquina casi no consigue nada frente a una malla de puntos con algo de ruido añadido. Un deslizador enseña la diferencia.
- Enfriar un edificio apuntándolo al espacio Un recubrimiento que se mantiene más frío que el aire que lo rodea, a pleno sol y sin consumir un vatio. Un solo deslizador sigue el calor desde el sol hasta el otro lado de la atmósfera.
- Cómo un robot predice el segundo siguiente Un modelo de texto adivina la palabra siguiente. Un modelo del mundo adivina el fotograma siguiente, con masa, velocidad y gravedad incluidas. Un solo deslizador recorre el ciclo entero, de la cámara a la captura.
- Demostrar un secreto sin revelarlo Un deslizador recorre las etapas, el otro añade rondas. Mira cómo la certeza sube casi al máximo mientras el secreto sigue siendo secreto.
- Litio de la salmuera: piscinas frente a extracción directa Mueve el deslizador por cinco etapas y compara dos formas de sacar el mismo metal de la misma agua salada.
- Cómo funciona una vacuna personalizada de ARNm contra el cáncer Mueve el deslizador por cinco etapas y mira cómo las mutaciones del propio tumor se convierten en las instrucciones que enseñan al sistema inmunitario a encontrarlo.
- El borde de la aplicación Todo lo que llega de fuera no es de fiar. Rompe un eslabón cada vez y mira dónde se detiene la cadena y qué muestra la pantalla.
- Cómo funciona la búsqueda sobre tus documentos Mueve los deslizadores y mira cómo una tubería de búsqueda decide qué puede ver el modelo, y qué pasa cuando le dan el pasaje equivocado.
- Reintentos y respuestas lentas La red se corta en mitad de una operación. Pulsa el botón dos veces y mira qué acaba en la base de datos, con clave de idempotencia y sin ella.
- Cómo aprende un modelo de lenguaje Mueve un solo deslizador y mira cómo un montón de números al azar se convierte en una predicción a lo largo de mil pasos.
- De dónde viene la electricidad Mueve un solo deslizador y sigue la energía desde el río hasta una bomba que sube el agua de vuelta.