Notei algo selvagem ultimamente - certos modelos de IA como o Sonnet 4.5 podem, aparentemente, continuar a funcionar por mais de 30 horas seguidas, e o Codex não fica muito atrás com as suas janelas de operação prolongadas. Isso me fez pensar sobre a arquitetura por trás disso.

Alguém encontrou artigos de pesquisa ou documentos técnicos que investigam como esses sistemas sustentam sessões de inferência tão longas? Estou curioso para saber se se trata de inovações na arquitetura do modelo, otimização da infraestrutura ou algo completamente diferente. Gostaria de ver o que a comunidade de pesquisa está dizendo sobre essa capacidade.