Cómo escribe un modelo de lenguaje

Los pesos están congelados y nada se recuerda. Mueve los deslizadores y mira cómo el modelo elige el siguiente trozo de texto, una y otra vez.

Temperatura 1.00
Top-P 0.90

Toca una parte del esquema para abrir ese paso.

El bucle completo

Cadena → trozos → enlaces con los trozos anteriores → capas congeladas → probabilidades → cortar la cola y sacar uno al azar → el trozo se añade. Y otra vez desde arriba. Nada más ocurre mientras se usa un modelo.

Qué contiene

  1. 1 Contexto y trozos — La ventana es finita. Cuando se llena, la generación se detiene: fuera de ella el modelo no guarda nada.
  2. 2 Atención al contexto — Los enlaces se recalculan desde cero en cada paso: un trozo más y todo el dibujo cambia.
  3. 3 Pesos congelados — Entrenar cambia los pesos, usar no. Son dos modos distintos de la misma red.
  4. 4 Probabilidades, temperatura y Top-P — Mueve los dos deslizadores y mira « bananas»: ese es el precio de una temperatura alta y un Top-P cercano a uno.
  5. 5 El bucle de generación — El modelo no escribe una frase. Da un paso, luego otro, y eso es todo lo que hace.
Leer más Sobre la dependencia de la IA: por qué el hermano mayor resultó ser el menor Cómo los diálogos sinceros con la IA se convirtieron en un regalo para las corporaciones y por qué el pensamiento debe quedarse en la persona mientras la rutina va al modelo.

Explicaciones interactivas

Temperatura 1.00
Top-P 0.90
1 / 5