Çoklu iş parçacıklı programlamada verilerin güvenli ve hızlı bir şekilde paylaşılması kritik bir konudur. Özellikle üretici ve tüketici sayısının birden fazla olduğu (MPMC) senaryolarda, kilitlenme ve yarış koşulları gibi sorunlarla başa çıkmak önemlidir. Bu makalede, ticket lock sistemine dayanan ve sınırlı bekleme süresi sunan yeni bir kuyruk veri yapısını inceliyoruz. Bu yapı, her bir işlemin belirli bir süre içinde tamamlanmasını garanti ederek, öngörülebilirlik ve performans sağlar.
Tasarımın temelinde, her üretici ve tüketici için ayrı bir bilet dağıtıcısı (counter) ve paylaşılan bir dizi kutu (buffer) bulunur. Her kutunun üzerinde, sıranın kime ait olduğunu gösteren bir rezervasyon numarası ve tür (üretici/tüketici) bilgisi bulunur. Bir iş parçacığı, kendi türündeki dağıtıcıdan bir bilet alır, biletteki kutu numarasına gider ve rezervasyon numarası eşleşene kadar bekler. Eşleşme sağlandığında, işlem (üretim/tüketim) gerçekleştirilebilir. Bu sistem, her kutunun sırayla boş ve dolu olmasını garanti ederek veri bütünlüğünü korur.
Gerçek uygulamada, iki adet AtomicUsize sayacı (üretici ve tüketici için) ve iki adet halka tampon (ring buffer) kullanılır. Veri tamponu, kuyruğa eklenen veya alınan öğeleri saklarken, durum tamponu her bir veri girişinin kime ait olduğunu (üretici/tüketici) ve rezervasyon numarasını tutar. Durum tamponu girişleri, en anlamlı biti türü (üretici/tüketici) ve kalan 63 biti rezervasyon numarasını gösterecek şekilde kodlanmıştır. Bu sayede atomik işlemlerle güvenli bir şekilde güncellenebilir. Ayrıca, false sharing'i önlemek için CachePadded yapısı kullanılarak önbellek hattı çakışmaları engellenir.
Detaylar ve Etkileri
Performans optimizasyonu için tampon boyutunun 2'nin kuvveti olması zorunludur. Bu sayede modül işlemi (reservation_number modulo N) yerine bit düzeyinde AND işlemi kullanılabilir. Örneğin, N=16 ise, dizin = reservation_number & 15 ile hesaplanır. Bu, bölme işleminin pahalılığından kaçınarak hız kazandırır. Ayrıca, rezervasyon numaraları 2^63 sınırında taşar, bu da pratikte sorun yaratmaz çünkü bu değere ulaşmak uzun zaman alır.
Uzmanların Görüşleri
Bu kuyruk yapısının başlangıçta wait-free olduğu iddia edilmiş, ancak daha sonra bu iddianın doğru olmadığı anlaşılmıştır. Wait-free olması için herhangi bir iş parçacığının başarısız olması veya askıya alınmasının diğer iş parçacıklarını etkilememesi gerekir. Bu kuyrukta, bir iş parçacığının beklenmedik şekilde durması, rezervasyon sisteminde kilitlenmeye yol açabilir. Bu nedenle yapı, sınırlı bekleme süreli (bounded waiting) olarak adlandırılmalıdır. Sınırlı bekleme, her işlemin belirli sayıda adımda tamamlanacağı anlamına gelir.
Sonuç ve Değerlendirme
Performans testlerinde, bu kuyruk yapısı diğer popüler kuyruk uygulamalarıyla karşılaştırılmıştır. max0x7ba'nın atomic_queue kütüphanesi kullanılarak yapılan karşılaştırmalarda, özellikle yoğun üretici-tüketici senaryolarında rekabetçi sonuçlar elde edilmiştir. Veri yapısının basitliği ve cache dostu tasarımı, yüksek iş hacmi ve düşük gecikme süreleri sağlar. Bununla birlikte, wait-free olmadığı için gerçek zamanlı sistemlerde dikkatli kullanılmalıdır.
Sonuç olarak, ticket lock tabanlı bu MPMC kuyruk, sınırlı bekleme süresi gereksinimi olan ve yüksek performans beklenen uygulamalar için uygun bir seçenektir. Özellikle çok çekirdekli sistemlerde veri paylaşımını verimli bir şekilde yönetir. Ancak, wait-free garantisi olmadığından, kritik görev sistemlerinde alternatifler değerlendirilmelidir. Gelecek çalışmalarda, wait-free bir versiyonun geliştirilmesi veya farklı senaryolar için daha kapsamlı testler yapılması düşünülebilir.
Kaynak: nahla.dev
