Gần đây có một điều kỳ lạ - một số mô hình AI như Sonnet 4.5 dường như có thể hoạt động liên tục hơn 30 giờ đồng hồ, và Codex cũng không kém với thời gian hoạt động kéo dài. Điều này khiến tôi tự hỏi về kiến trúc đứng sau điều này.

Có ai đã gặp các tài liệu nghiên cứu hoặc tài liệu kỹ thuật nào khai thác về cách các hệ thống này duy trì các phiên suy diễn dài như vậy không? Tôi muốn biết liệu đó có phải là những đổi mới trong kiến trúc mô hình, tối ưu hóa cơ sở hạ tầng, hay một điều gì đó hoàn toàn khác. Tôi rất muốn xem cộng đồng nghiên cứu đang nói gì về khả năng này.