Load Balancing (Yük Dengeleme) Nedir ?

Belirli algoritmalar dahilinde gelen trafiği bir sunucuya yönlendirerek web sitelerin verimliliğini arttıran load balacing (yük dengeleme) nedir, neden gereklidir ? sorularını yanıtlayacağız.

Load Balancing (Yük Dengeleme) Nedir ?

Donanım veya yazılım olup olmadığına veya hangi algoritmaları kullandığına bakılmaksızın, bir yük dengeleyici, tek bir sunucunun aşırı çalışıp daha sonra güvenilmez bir hale gelmemesi için kaynak havuzundaki farklı web sunucularına trafik dağıtır. Load Balancing, sunucu yanıt süresini etkili bir şekilde en aza indirerek verimi en üst seviyeye çıkarır.

Aslında, bir yük dengeleyicinin rolü bazen bir trafik polisinin rolüne benzetilir, çünkü istekleri herhangi bir anda sistematik olarak doğru konumlara yönlendirmek, böylece maliyetli darboğazları ve öngörülemeyen olayları engellemek anlamına gelmektedir. Yük dengeleyiciler, karmaşık BT ortamlarının yanı sıra içlerinde meydana gelen karmaşık iş akışlarını sürdürmek için gereken performansı ve güvenliği nihai olarak sağlamalıdır.

Load Balancing (Yük Dengeleme) Neden Gereklidir?

Yük dengeleme, modern çok uygulamalı, çok cihazlı iş akışlarından gelen çok sayıda isteği ele almak için en ölçeklenebilir yöntemdir. Günümüzün dijital çalışma alanlarında pek çok farklı uygulamaya, dosyaya ve masaüstüne sorunsuz bir şekilde erişim sağlayan platformlarla birlikte yük dengeleme, çalışanlar için daha tutarlı ve güvenilir bir son kullanıcı deneyimini destekler.

Load balancing özelliğinin kullanılmaması durumunda tahmin edilebileceği gibi tek bir sunucuya bağlanılır. Bu sunucu üzerinde herhangi bir sorun olması ise internet sitesine erişimi sıkıntıya sokar. Ayrıca çok sayıda kullanıcının internet sitesine erişmek istemesi durumunda da sorun yaşanabilir. Çünkü bu durumda sayfaların yüklenme sürelerinde yavaşlama meydana gelir hatta siteye erişim bile kesilebilir. Bu nedenle load balancing özelliğinin mutlaka kullanılması gerekir.

Load balancer’lar ile 4 temel trafik türü için dengeleme kuralları oluşturulabilmektedir.

HTTP: Standart HTTP dengelemesinde gelen istekler standart HTTP tekniklerine dayanarak yönlendirilir. Load balancer, backend sisteme orijinal istekle hakkında bilgi vermek için X-Forwarded-For, X-Forwarded-Proto ve X-Forwarded-Port başlıklarını ayarlar.

HTTPS: HTTPS dengeleme işlemlerinde HTTP dengeleme ile aynı süreç işletilmektedir. Aradaki tek fark HTTPS işlemlerindeki şifreleme süreçleridir. Bu şifreleme süreçleri iki farklı şekilde gerçekleştirilebilir. İlk yöntemde şifreleme SSL geçişi ile backend’e kadar korunur. İkinci yöntemde ise şifreleme ve şifre çözme yükü her bir sunucunun üzerinden alınarak load balancer’a yüklenir. Bu yapıda hem sunuculara daha az yük binmekte, hem de maliyetler azaltılabilmektedir. SSL’in load balancer üzerinde kurgulandığı bu işleme ise SSL Off load denir.

TCP: HTTP veya HTTPS kullanılmayan uygulamalar için TCP trafiği dengelenebilir. Örneğin, bir veri tabanı kümesine giden trafik tüm sunuculara yayılarak dengelenebilir.

UDP: Yakın bir zamanda bazı load balancer’lar DNS ve syslogd gibi UDP kullanan temel internet protokolleri için load balancing desteği eklediler.

Bu dengeleme kurallarında, load balancer üzerindeki protokol ve bağlantı noktası tanımlandıktan sonra bunların load balancer’ın backend’deki trafiği yönlendirmek için kullanacağı protokol ve bağlantı ile eşleşmesi sağlanır.

Load Balance (Yük Dengeleme) Nasıll Çalışır?

Load Balance şöyle çalışır; Örneğin iki adet ADSL 4 MB bağlantınız var. Bu 4+4 = 8 MB download yapabileceğiniz anlamına gelmez. Bu içeriden internete çıkan kullanıcıların internet yükünü iki bağlantı arasında eşit olarak yada politika tabanlı paylaştırarak internet kullanımlarında doğabilecek performans kayıplarını ortadan kaldırmanız anlamına gelir. Politika tabanlı da şunu yapmanız mümkündür. Şu IP adresi grubu SMTP isteklerini WAN1 den, Şu IP grubu HTTP isteklerini WAN2′ den gitsin diyebilirsiniz. Ya da bütün HTTP istekleri WAN1′ den bütün SMTP istekleri WAN2′ den gitsin ya da gelsin deme şansınız vardır.

Bu durumlarda internet bağlantılarınızdan biri giderse sistem otomatik olarak bütün isteklerinizi diğer internet hattına taşır böylece 1-2 saniyelik kısa kesilmeden sonra internet bağlantınız devam eder.

Online Bankacılık ve SSL bağlantı gerektiren işlemler de bağlı olduğunuz internet koptuğunda diğer hattan internetiniz devam etse bile güvenlik gereği SSL bağlantınız kesilir eğer online bankacılık işlemi yapıyorsanız işleminiz yarım kalacak ve tekrardan kullanıcı adı şifreniz ile girmeniz gerekecektir.

Yük dengeleme iki şekilde uygulanabilir:

Hedefe göre (per- destination) : Yönlendirici paketleri hedef adreslerine göre dağıtır. Aynı ağa 2 yol olması durumunda o ağdaki hedef1 için gelen bütün paketler ilk yoldan, hedef2 için gelen bütün paketler de diğer yoldan gönderilir ve böyle devam eder. Aynı ağdaki farklı kullanıcılar için farklı rotalar kullanılmış olur. Hedef adreslerinin fazla olması bağlantıların eşit kullanılmasını sağlar. Her adres için rota önbellek girdisi (route-cache entry) hazırlanır. Bu nedenle hedefe göre yük dengelemede hafıza ve işlem gereksinimi çok fazla olur; binlerce kullanıcıya trafik taşıyan yönlendiriciler için uygun değildir.

Pakete göre (per-packet) : Pakete göre yük dengelemede yönlendiriciye hedef1 için gelen ilk paket ilk yoldan, ikinci paket de ikinci yoldan vb. şekilde gönderilir. Her paketin iletim sürecinde çıkış arayüzüne bakılır ve en az kullanılmış bağlantı yönlendirme tablosundan seçilir. Bu linklerin eşit kullanımını sağlar fakat işlemci üzerinde yoğun görev ve iletim performansında düşmeye yol açar. Ayrıca paketlerin hedefe, farklı gecikme süreleri nedeniyle sırası bozulmuş olarak varmasına neden olabilir. Bu tür yük dengeleme yüksek hızlı olması gereken arayüzler için uygun değildir.

Hedefe ve pakete göre yük dengeleme ip paketleri için kullanılan anahtarlama planlarıdır. Hedefe göre yük dengeleme kullanılacak arayüzde hızlı anahtarlama uygulanması gereklidir.

Load Balance (Yük Dengeleme)  Algoritmaları Nelerdir?

Kullanılan yük dengeleme algoritmaları, trafiğin hangi backend sunucusuna iletileceğini belirleyen algoritmalardır. En sık kullanılan algoritmaları şu şekilde sıralayabiliriz:

Round Robin: Round robin, sunucuların sıralı olarak seçildiği ve trafiğin bu sıralama ile paylaştırıldığı algoritmalardır. Bu algoritmada load balancer, ilk istek için listesindeki ilk sunucuyu seçer ve sonra sırayla listenin altına doğru devam eder. Listenin sonuna gelindiğinde ise tekrar üstten başlayarak sırayla aşağıya doğru seçim devam eder.

Least Connection: Least connection algoritmasında yük dengeleyici en az bağlantıya sahip sunucuyu seçer. Bu algoritma trafiğin daha uzun oturumlarla sonuçlandığı durumlarda önerilir.

Source (IP Hash): Source algoritmasında yük dengeleyici istemcinin IP adresini, hangi sunucunun isteği alacağını belirlemek için kullanır. Bu yöntem ile belirli bir kullanıcının sürekli olarak aynı sunucuya bağlanması sağlanır.

Son olarak, hemen hemen tüm uygulamalar kodlama sürecinde load balancer arkasında çalışacak şekilde tasarlanmadığı için load balancer arkasına alınan sunuculara doğru gelen ziyaretçilerin session bilgileri sunucular arasında aktarılmadığı için session düşmesi veya kaybı yaşanmaktadır. Bu olumsuz durumun ortadan kalkması için en kısa yöntem sticky persistence ayarı yapılabilir. Olması gereken çözüm ise session’ları ortak bir sunucuda ya da veri tabanında toplamak şeklindedir.