Останнім часом помітив щось дивне - певні моделі ШІ, такі як Sonnet 4.5, можуть працювати понад 30 годин безперервно, а Codex не відстає з його розширеними часами роботи. Це змусило мене задуматися про архітектуру, що стоїть за цим.
Чи хтось натрапляв на наукові статті або технічні документи, які досліджують, як ці системи підтримують такі тривалі сеанси інференції? Цікаво, чи це пов'язано з інноваціями в архітектурі моделі, оптимізацією інфраструктури, чи чимось зовсім іншим. Хотів би побачити, що дослідницька спільнота говорить про цю можливість.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
17 лайків
Нагородити
17
5
Репост
Поділіться
Прокоментувати
0/400
NewDAOdreamer
· 13год тому
30 годин? Це ж жарт... скільки ж це ресурсів спалить, справді хтось так використовував?
Переглянути оригіналвідповісти на0
TaxEvader
· 13год тому
30 годин безперервної роботи? Скільки ж це коштуватиме за електрику, це трохи абсурдно.
Переглянути оригіналвідповісти на0
SchroedingerAirdrop
· 13год тому
30 годин без з'єднання? Скільки ж це електрики спалити?
Переглянути оригіналвідповісти на0
GasFeeCrying
· 14год тому
30 годин без простою - це число неймовірне, правда?
Переглянути оригіналвідповісти на0
GasGasGasBro
· 14год тому
30 годин безперервного бігу? Це ж пекло чи якась чорна магія?
Останнім часом помітив щось дивне - певні моделі ШІ, такі як Sonnet 4.5, можуть працювати понад 30 годин безперервно, а Codex не відстає з його розширеними часами роботи. Це змусило мене задуматися про архітектуру, що стоїть за цим.
Чи хтось натрапляв на наукові статті або технічні документи, які досліджують, як ці системи підтримують такі тривалі сеанси інференції? Цікаво, чи це пов'язано з інноваціями в архітектурі моделі, оптимізацією інфраструктури, чи чимось зовсім іншим. Хотів би побачити, що дослідницька спільнота говорить про цю можливість.