Como um modelo de linguagem escreve
Os pesos estão congelados e nada é lembrado. Puxe os controles e veja o modelo escolher o próximo pedaço de texto, vez após vez.
Temperatura
1.00
Top-P
0.90
Toque em uma parte do esquema para abrir o passo.
O ciclo inteiro
String → pedaços → ligações com os pedaços anteriores → camadas congeladas → probabilidades → cortar a cauda e sortear um → o pedaço é anexado. E de novo do começo. Mais nada acontece enquanto um modelo é usado.
O que tem dentro
- 1 Contexto e pedaços — A janela é finita. Quando enche, a geração para — fora dela o modelo não guarda nada.
- 2 Atenção ao contexto — As ligações são recalculadas do zero a cada passo: mais um pedaço e todo o desenho muda.
- 3 Pesos congelados — Treinar muda os pesos, usar não. São dois modos diferentes da mesma rede.
- 4 Probabilidades, temperatura e Top-P — Mova os dois controles e olhe para « bananas»: é o preço de uma temperatura alta e um Top-P perto de um.
- 5 O ciclo de geração — O modelo não escreve uma frase. Ele dá um passo, depois outro, e é só isso que faz.
Explicações interativas
- Como um remédio é contrabandeado pela barreira hematoencefálica O cérebro recusa quase toda molécula de remédio, e faz bem. Um controle acompanha o truque que os laboratórios estão testando: embrulhar a molécula numa bolha que a parede já sabe transportar.
- Como um robô desenha a planta de uma sala que nunca viu Um lidar devolve algumas centenas de pontos por volta e nenhuma ideia de onde está. Um controle percorre o caminho dessa nuvem até uma planta com o robô no lugar certo.
- Como duas pessoas escrevem na mesma linha sem perder uma letra Dois cursores, uma linha e ninguém no meio segurando a caneta. Um controle desmonta a fusão por índices e a refaz com endereços que ficam entre as letras.
- Por que um computador quântico para diante de uma retícula O algoritmo de Shor come o RSA num lance só. A mesma máquina quase nada consegue contra uma malha de pontos com um pouco de ruído somado. Um controle mostra a diferença.
- Resfriar um prédio apontando-o para o espaço Um revestimento que fica mais frio que o ar em volta, sob sol pleno, sem gastar um watt. Um único controle segue o calor do sol até o outro lado da atmosfera.
- Como um robô prevê o segundo seguinte Um modelo de texto adivinha a próxima palavra. Um modelo de mundo adivinha o próximo quadro — com massa, velocidade e gravidade juntas. Um único controle percorre o ciclo inteiro, da câmera à interceptação.
- Provar um segredo sem revelá-lo Um controle percorre as etapas, o outro acrescenta rodadas. Veja a certeza subir a quase total enquanto o segredo continua segredo.
- Lítio da salmoura: lagoas contra extração direta Mova o controle por cinco etapas e compare dois jeitos de tirar o mesmo metal da mesma água salgada.
- Como funciona uma vacina personalizada de mRNA contra o câncer Mova o controle por cinco etapas e veja como as mutações do próprio tumor viram as instruções que ensinam o sistema imune a encontrá-lo.
- A borda da aplicação Tudo que vem de fora não é confiável. Quebre um elo por vez e veja onde a corrente para e o que a tela mostra.
- Como funciona a busca nos seus documentos Mova os controles e veja um pipeline de busca decidir o que o modelo pode enxergar — e o que acontece quando lhe entregam o trecho errado.
- Repetição de requisição e resposta lenta A rede cai no meio de uma operação. Aperte o botão duas vezes e veja o que sobra no banco de dados, com chave de idempotência e sem ela.
- Como um modelo de linguagem aprende Puxe um único controle e veja um monte de números aleatórios virar uma previsão ao longo de mil passos.
- De onde vem a eletricidade Puxe um único controle e acompanhe a energia do rio até uma bomba que leva a água de volta para cima.