J'ai remarqué quelque chose de fou dernièrement - certains modèles d'IA comme Sonnet 4.5 peuvent apparemment fonctionner pendant plus de 30 heures d'affilée, et Codex n'est pas en reste avec ses fenêtres d'opération prolongées. Cela m'a fait me demander quelle est l'architecture derrière ça.

Quelqu'un a-t-il rencontré des articles de recherche ou des documents techniques qui explorent comment ces systèmes soutiennent de si longues sessions d'inférence ? Je me demande s'il s'agit d'innovations dans l'architecture des modèles, d'optimisation des infrastructures, ou de quelque chose de complètement différent. J'aimerais voir ce que la communauté de recherche dit à propos de cette capacité.