Yatay Ölçekleme

Bir web uygulaması tek bir sunucunun kaldırabileceğinden fazla trafik aldığında onu iki, sonra on sunucuda, istekleri aralarında paylaştıran bir yük dengeleyiciyle çalıştırabilirsiniz. Her sunucu yükün farklı bir kısmında aynı işi yapar. Bulut platformları bunu kolaylaştırır: otomatik ölçekleme grupları ve Kubernetes, trafik arttıkça ve azaldıkça örnekleri otomatik olarak ekleyip çıkarır.

Yatay ölçeklemenin büyük avantajları vardır. Kapasite neredeyse sınırsız büyüyebilir, tek bir makinenin arızalanması servisi çökertmez, güncellemeler kesinti olmadan örnekler arasında teker teker yayılabilir ve çok sayıda küçük makine tek bir dev makineden daha ucuz olabilir. Büyük internet servislerinin binlerce sıradan sunucuda çalışmasının nedeni tam olarak budur.

Doğru tasarım gerektirir. Uygulama sunucuları durumsuz (stateless) olmalı, oturumları, yüklemeleri ve önbellekleri Redis ya da nesne depolama gibi ortak servislerde tutmalıdır; böylece her örnek her isteği ele alabilir. Veritabanlarını yatay ölçeklemek daha zordur: okuma replikaları okumaları dağıtır, ama yazmaları dağıtmak veriyi shard'lamak demektir; bu da sorguları, transaction'ları ve işletmeyi karmaşıklaştırır.

Sık yapılan bir yanlış, sunucu eklemenin her zaman hız eklediğini düşünmektir. Tek bir veritabanı, bir kilit ya da yavaş bir dış API gibi ortak darboğazlar, kaç uygulama sunucusu eklerseniz ekleyin throughput'u sınırlar; düğümler arasındaki koordinasyon da kendi ek yükünü getirir. Yatay ölçeklemeden önce darboğazın nerede olduğunu ölçün.