Como um modelo de linguagem aprende
Puxe um único controle e veja um monte de números aleatórios virar uma previsão ao longo de mil passos.
Passos de treino 0
Toque em uma parte do esquema para abrir o passo.
O ciclo inteiro
Pedaços de texto → números → camadas de pesos → pontuações → porcentagens → erro → uma correção em cada peso. Nada é decorado: treinar são milhões de ajustes minúsculos nos números, repetidos até a continuação certa virar a mais provável.
O que tem dentro
- 1 O texto é cortado em pedaços — O espaço inicial faz parte do pedaço, então « bebe» e «bebe» são duas linhas diferentes.
- 2 Números no lugar de palavras — Mova o controle e o tremor para: os números assentam em valores com sentido.
- 3 Camadas e atenção — A cor da linha é o sinal do peso; a espessura, o tamanho. Agora todos são aleatórios.
- 4 A previsão — A continuação correta, «Leite», ainda está em terceiro.
- 5 Erro e aprendizado — O controle move esse ciclo: no passo 1000 «Leite» está em 92%, «Trator» em 0.01% e o erro cai para 0.08.
Explicações interativas
- Como um remédio é contrabandeado pela barreira hematoencefálica O cérebro recusa quase toda molécula de remédio, e faz bem. Um controle acompanha o truque que os laboratórios estão testando: embrulhar a molécula numa bolha que a parede já sabe transportar.
- Como um robô desenha a planta de uma sala que nunca viu Um lidar devolve algumas centenas de pontos por volta e nenhuma ideia de onde está. Um controle percorre o caminho dessa nuvem até uma planta com o robô no lugar certo.
- Como duas pessoas escrevem na mesma linha sem perder uma letra Dois cursores, uma linha e ninguém no meio segurando a caneta. Um controle desmonta a fusão por índices e a refaz com endereços que ficam entre as letras.
- Por que um computador quântico para diante de uma retícula O algoritmo de Shor come o RSA num lance só. A mesma máquina quase nada consegue contra uma malha de pontos com um pouco de ruído somado. Um controle mostra a diferença.
- Resfriar um prédio apontando-o para o espaço Um revestimento que fica mais frio que o ar em volta, sob sol pleno, sem gastar um watt. Um único controle segue o calor do sol até o outro lado da atmosfera.
- Como um robô prevê o segundo seguinte Um modelo de texto adivinha a próxima palavra. Um modelo de mundo adivinha o próximo quadro — com massa, velocidade e gravidade juntas. Um único controle percorre o ciclo inteiro, da câmera à interceptação.
- Provar um segredo sem revelá-lo Um controle percorre as etapas, o outro acrescenta rodadas. Veja a certeza subir a quase total enquanto o segredo continua segredo.
- Lítio da salmoura: lagoas contra extração direta Mova o controle por cinco etapas e compare dois jeitos de tirar o mesmo metal da mesma água salgada.
- Como funciona uma vacina personalizada de mRNA contra o câncer Mova o controle por cinco etapas e veja como as mutações do próprio tumor viram as instruções que ensinam o sistema imune a encontrá-lo.
- A borda da aplicação Tudo que vem de fora não é confiável. Quebre um elo por vez e veja onde a corrente para e o que a tela mostra.
- Como funciona a busca nos seus documentos Mova os controles e veja um pipeline de busca decidir o que o modelo pode enxergar — e o que acontece quando lhe entregam o trecho errado.
- Repetição de requisição e resposta lenta A rede cai no meio de uma operação. Aperte o botão duas vezes e veja o que sobra no banco de dados, com chave de idempotência e sem ela.
- Como um modelo de linguagem escreve Os pesos estão congelados e nada é lembrado. Puxe os controles e veja o modelo escolher o próximo pedaço de texto, vez após vez.
- De onde vem a eletricidade Puxe um único controle e acompanhe a energia do rio até uma bomba que leva a água de volta para cima.