A próxima grande mudança nos modelos de linguagem pode não aparecer numa nova janela do ChatGPT. Pode aparecer precisamente no espaço entre a pergunta e a resposta: no trabalho que a máquina faz sem escrever cada passo. A OpenAI está a preparar Astra, um modelo ainda não disponível ao público, e os primeiros sinais apontam para uma mudança importante na forma como os modelos de raciocínio usam o chamado Chain of Thought, ou COT.
Ilustração conceptual criada para este artigo: a passagem de uma cadeia de raciocínio visível para um processamento interno mais compacto. Não é uma fotografia nem uma captura do Astra.
Primeiro, o que é exactamente o COT?
Imagina que pedes a alguém para resolver um problema difícil. Essa pessoa pode responder de imediato, mas também pode escrever contas, testar hipóteses, voltar atrás e só depois dar o resultado. Nos modelos de raciocínio, o COT é esse rascunho intermédio: uma sequência de pequenos passos que ajuda o sistema a trabalhar em problemas de matemática, programação, planeamento ou pesquisa.
Durante a primeira vaga de modelos de raciocínio, esses passos eram normalmente produzidos como texto. Muitas vezes pareciam uma conversa interna em inglês, mesmo quando a pergunta era feita em Português. Isso não quer dizer que o modelo tenha uma voz interior humana: são tokens, unidades de texto que o sistema utiliza para manter hipóteses, comparar caminhos e chegar a uma resposta.
O método funciona, mas tem um preço. Quanto mais longo for o rascunho, mais tempo, memória e capacidade de computação são necessários. E há um segundo problema: tudo aquilo que está escrito pode, em princípio, ser inspeccionado por um monitor de segurança. O COT é simultaneamente uma ferramenta de raciocínio e uma janela para observar o comportamento do modelo.
Astra quer fazer mais trabalho entre duas palavras
A informação mais interessante sobre Astra surgiu em torno de uma técnica chamada recurrent depth, ou profundidade recorrente. Segundo a reportagem do The Information, a ideia melhora a eficiência e o desempenho, mas torna mais difícil perceber exactamente como o modelo chegou à conclusão.
Ilustração conceptual: acima, uma sequência longa de tokens; abaixo, o mesmo tipo de bloco reutilizado em ciclos antes da resposta final.
A melhor analogia é a de duas pessoas a resolverem um puzzle. A primeira escreve em voz alta cada tentativa: “se isto for verdade, então…”. A segunda pega no mesmo quadro branco, apaga, reorganiza as peças e repete o processo sem narrar cada movimento. No fim, ambas podem chegar à solução, mas a segunda gastou menos palavras e deixou um rasto muito menor.
É aqui que entra a expressão raciocínio latente. Em vez de transformar cada etapa numa palavra legível, o modelo trabalha com estados internos — grandes conjuntos de números que representam relações e possibilidades. Um trabalho académico sobre profundidade recorrente mostrou precisamente esta direcção: repetir um bloco interno permite aumentar o cálculo feito no momento da resposta, sem aumentar na mesma proporção o número de tokens visíveis.
Dizer que Astra pode deixar de “pensar em inglês” é, por isso, uma forma acessível de descrever a mudança, não uma especificação oficial da OpenAI. Não há indícios de que o modelo deixe de compreender inglês, Português ou qualquer outra língua. O que pode mudar é o formato do trabalho intermédio: menos frases, mais transformação interna.
O que a OpenAI já confirmou
A OpenAI diz que uma versão interna de Astra produziu resultados novos em dez problemas de matemática e ciência da computação teórica. Os argumentos foram preparados com apoio humano e formalizados em certificados Lean, uma forma de permitir que um computador verifique cada passo da prova. A empresa estima que o trabalho teria custado cerca de 2.000 dólares em tokens às tarifas da API do Sol.
Sam Altman num fireside chat do HackingEDU, em 5 de março de 2016, ao lado de Alex Cory. Fotografia: Alexlcory, via Wikimedia Commons (CC BY-SA 4.0). A imagem é contextual e não mostra o desenvolvimento do Astra.
A empresa também afirma que Astra é significativamente mais eficiente em tokens do que o GPT‑5.6 Sol e que encontrou duas vulnerabilidades ainda desconhecidas durante avaliações controladas. Nas avaliações mais exigentes, o modelo atingiu o nível Critical do Preparedness Framework da OpenAI: com as ferramentas e acessos certos, consegue encontrar falhas em sistemas protegidos e desenvolver formas de as explorar sem uma pessoa a orientar cada passo.
Isto é importante, mas exige uma nota de cautela. São resultados divulgados pela própria OpenAI e o modelo ainda não foi lançado para o público. A empresa diz que Astra não esteve envolvido no incidente da Hugging Face e que o acesso às capacidades cibernéticas mais avançadas será inicialmente limitado a um grupo de testadores, seguindo-se o programa Daybreak Blue para uso defensivo.
A janela para vigiar a IA pode ficar mais pequena
O ganho de eficiência tem um lado menos confortável. Se um modelo escreve o seu raciocínio em linguagem compreensível, um sistema de monitorização pode procurar sinais de erro, batota ou intenção perigosa. Se grande parte do trabalho acontece num espaço interno que não é directamente legível, essa inspecção torna-se mais difícil.
Ilustração conceptual da monitorização: o raciocínio escrito é mais fácil de inspeccionar; o processamento latente pode esconder mais do caminho intermédio.
Um trabalho assinado por investigadores de várias organizações, incluindo OpenAI, Anthropic e Google DeepMind, descreve a monitorização do COT como uma oportunidade útil, mas frágil. A conclusão não é que os modelos tenham de expor tudo o que fazem; é que as decisões de arquitectura podem tornar essa supervisão melhor ou pior.
A OpenAI diz estar a responder com monitorização adicional do COT, classificadores de segurança e mecanismos que podem interromper uma tarefa. É uma corrida com duas velocidades: os modelos aprendem a fazer mais trabalho com menos sinais visíveis, enquanto os sistemas de segurança tentam continuar a perceber quando algo está a correr mal.
O que muda para quem usa IA?
Se esta abordagem for confirmada e chegar aos produtos, a mudança mais perceptível pode ser simples: respostas mais rápidas, mais consistentes e com menos páginas de “pensamento” visível. Nos bastidores, o modelo poderá decidir quando precisa de repetir o seu processamento e quando uma resposta curta chega.
Isso não significa que Astra vá acertar sempre, nem que uma resposta curta seja automaticamente uma resposta melhor. Pelo contrário: quanto mais o modelo fizer sem mostrar o caminho, mais importante se torna confirmar números, fontes, código e decisões de alto impacto. A eficiência reduz o desperdício; não substitui a verificação.
Astra ainda é uma promessa em preparação, não um produto que se possa experimentar. Mas a direcção já é visível: sair do modelo que escreve cada passo do raciocínio e aproximar-se de um sistema que calcula, testa e reorganiza internamente, apresentando apenas o resultado. Para os utilizadores, pode ser uma experiência mais simples. Para quem tem de garantir que a IA se comporta bem, o desafio acaba de ficar bastante maior.
💬 Comentários
Nenhum comentário ainda. Sê o primeiro a comentar!