Como um modelo de linguagem escreve

Os pesos estão congelados e nada é lembrado. Puxe os controles e veja o modelo escolher o próximo pedaço de texto, vez após vez.

Temperatura 1.00
Top-P 0.90

Toque em uma parte do esquema para abrir o passo.

O ciclo inteiro

String → pedaços → ligações com os pedaços anteriores → camadas congeladas → probabilidades → cortar a cauda e sortear um → o pedaço é anexado. E de novo do começo. Mais nada acontece enquanto um modelo é usado.

O que tem dentro

  1. 1 Contexto e pedaços — A janela é finita. Quando enche, a geração para — fora dela o modelo não guarda nada.
  2. 2 Atenção ao contexto — As ligações são recalculadas do zero a cada passo: mais um pedaço e todo o desenho muda.
  3. 3 Pesos congelados — Treinar muda os pesos, usar não. São dois modos diferentes da mesma rede.
  4. 4 Probabilidades, temperatura e Top-P — Mova os dois controles e olhe para « bananas»: é o preço de uma temperatura alta e um Top-P perto de um.
  5. 5 O ciclo de geração — O modelo não escreve uma frase. Ele dá um passo, depois outro, e é só isso que faz.
Leia mais Sobre a dependência da IA: por que o irmão mais velho acabou sendo o mais novo Como os diálogos sinceros com a IA viraram um presente para as corporações e por que o pensamento deve ficar com a pessoa enquanto a rotina vai para o modelo.

Explicações interativas

Temperatura 1.00
Top-P 0.90
1 / 5