Ask HN: Neden CXL bellek yapıları için "Yanıt Sözleşmesi" yok?
Dünya sohbet botlarına odaklanırken, bu botları çalıştıran veri merkezlerinde daha kalıcı bir dönüşüm gerçekleşiyor. Açık ve modüler bilişimden, çip, soğutma ve yazılımın sadece birbirleriyle uyumlu olacak şekilde tasarlandığı Entegre Silolar sistemlerine doğru bir kayma yaşanıyor.
Modern yapay zeka veri merkezleri, elektriklerinin büyük çoğunluğunu hesaplama yerine veri hareketine harcıyor. İşlemci ve bellek ayrı olduğu için veriler sürekli olarak bu iki birim arasında taşınıyor ve bu da büyük miktarda ısı üretiyor. Bu iki bileşeni birleştirme teknolojisi mevcut olsa da, bu yeni mimari için açık bir "el sıkışma" protokolü olmadığı için verimlilik, yalnızca en büyük şirketlerin inşa edebileceği yapısal bir avantaja dönüşüyor ve diğerleri bu avantaja erişemiyor.
Kilitleme mekanizması yazılım katmanından fiziksel altyapıya kayıyor. NVIDIA'nın GB200 NVLink ekosistemi veya Google'ın özel TPU soğutma manifoldları gibi en büyük yapay zeka sistemlerini kuran firmalar, çip, soğutma sistemi ve güç dağıtımının birbirine bağımlı olduğu "dikey yığınlar" tasarlıyor. Bir veri merkezi bu özel tasarımlara göre inşa edildiğinde, rakip bir çipi takmak ekonomik olarak mümkün olmuyor ve tesisin yeniden inşası gerekiyor. Bu durum, fiziksel düzeyde bir kilitleme anlamına geliyor.
