Bu yıl Atlanta'daki KubeCon'da, bir OpenAI mühendisi ciddi bir altyapı bilgisi paylaştı. Uygulamalı gözlem ekibinden Fabian Ponce, sadece bir yapılandırma ayarını kapatarak yaklaşık 30.000 CPU çekirdeğini nasıl geri kazandıklarını anlattı—evet, doğru okudunuz.
Kurulumları? Kubernetes kümeleri üzerinden günlük olarak 10 petabaytın yakınında günlük kayıt işliyorlar. Bu, en küçük verimsizliklerin bile büyük kaynak israfına dönüşeceği bir ölçek. Görünüşe göre, tek bir gözden kaçan anahtar, çekirdekleri deli gibi yakıyordu.
Bunu çılgın yapan şey: bu, karmaşık bir yeniden yapılandırma ya da yazım değildi. Sadece eski usul gözlemlenebilirlik çalışması - israfın nerede olduğunu bulmak ve onu kesmek. Ölçekli dağıtık sistemler yöneten herkes için, bu gerçekten ilerleme kaydeden türden kolay kazanımlardır. Bazen en büyük kazançlar, yaptıklarınızdan değil, kapattıklarınızdan gelir.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
13 Likes
Reward
13
4
Repost
Share
Comment
0/400
Lonely_Validator
· 11h ago
Bir yapılandırma anahtarıyla 30.000 çekirdek tasarruf mu sağlandı? İşte bu gerçek maliyet düşürme ve verimlilik artırma! O süslü optimizasyonlardan çok daha güvenilir.
View OriginalReply0
ponzi_poet
· 11h ago
30000 CPU çekirdeği sadece bir yapılandırma yüzünden mi? Bu kadar elektrik parası ne kadar israf olur, biraz abartılı.
View OriginalReply0
token_therapist
· 11h ago
Bir yapılandırma anahtarı 30000 çekirdek kurtarıyor, bu adam çok sert, burada sadece günlükleri incelemek iki ay sürüyor.
View OriginalReply0
ImpermanentPhobia
· 11h ago
Bir yapılandırma ile 30000 çekirdek tasarrufu mu? Bu ne kadar absürt bir parametre ayarıdır haha
Bu yıl Atlanta'daki KubeCon'da, bir OpenAI mühendisi ciddi bir altyapı bilgisi paylaştı. Uygulamalı gözlem ekibinden Fabian Ponce, sadece bir yapılandırma ayarını kapatarak yaklaşık 30.000 CPU çekirdeğini nasıl geri kazandıklarını anlattı—evet, doğru okudunuz.
Kurulumları? Kubernetes kümeleri üzerinden günlük olarak 10 petabaytın yakınında günlük kayıt işliyorlar. Bu, en küçük verimsizliklerin bile büyük kaynak israfına dönüşeceği bir ölçek. Görünüşe göre, tek bir gözden kaçan anahtar, çekirdekleri deli gibi yakıyordu.
Bunu çılgın yapan şey: bu, karmaşık bir yeniden yapılandırma ya da yazım değildi. Sadece eski usul gözlemlenebilirlik çalışması - israfın nerede olduğunu bulmak ve onu kesmek. Ölçekli dağıtık sistemler yöneten herkes için, bu gerçekten ilerleme kaydeden türden kolay kazanımlardır. Bazen en büyük kazançlar, yaptıklarınızdan değil, kapattıklarınızdan gelir.