Hafıza engellerinin kavramı, CPU'ların verimliliği maksimize etmek için düzensiz yürütme kullandığı donanım hafıza modellerinden gelir. Rust'ın std::sync::atomic::fence'i, veri değiştirmeden farklı konumlardaki hafıza işlemleri arasında sıralama kısıtlamaları oluşturmak için bu düşük seviyeli ilkelere erişim sağlar. Atomik işlemlerin veri değiştirmekle sıralama garantilerini birleştirmesinin aksine, engeller, tüm önceki veya sonraki hafıza erişimleri için görünürlük kurallarını uygulayan senkronizasyon bariyerleri olarak işlev görür.
Yanlış bir algı, bir atomik değişken üzerinde Ordering::SeqCst kullanmanın, tüm önceki yazımların tüm iş parçacıkları arasında ilgisiz hafıza konumlarına otomatik olarak senkronize olacağıdır. Bu yanlıştır çünkü SeqCst yalnızca atomik işlemler için toplam bir sıra sağlar, diğer veriler için geçişli bir önce olma ilişkisi sağlamaz. Thread A bir tampona yazdığında ve ardından bir atomik bayrak için Release depolaması yaptığında, Thread B bu bayrak üzerinde Acquire yüklemesi yaptığında tampon yazımlarını otomatik olarak görmez, ancak iki alanı birbirine bağlayan bir engel veya daha güçlü bir sıralama varsa görür.
Bunu çözmek için, fence(Ordering::Release) tüm hafıza işlemlerinin görünür olmasını sağlar ve program sırasındaki tüm işlemlerden önce diğer iş parçacıklarına görünür hale gelir. Tersine, fence(Ordering::Acquire), tüm hafıza işlemlerinin, başka bir iş parçacığında eşleşen bir Release engeli öncesinde yazılan değerleri gözlemlemesini garanti eder. Bu çift yönlü senkronizasyon, yalnızca atomik değişken üzerinde değil, tüm hafıza durumunda bir önce olma kenarı oluşturur ve ayrı kontrol ve veri kanallarına dayanan kilitsiz algoritmalara olanak tanır.
Bir iş parçacığının paket verisiyle paylaşılan bir halka tamponunu doldurduğu ve bir baş işaretçiyi güncellediği, diğer iş parçacığının ise işaretçiyi okuduğu ve paketleri işlediği sıfır kopyalı bir ağ paket işleyicisinde düşünün. Üretici, tampon yazılarında standart yazılar (atomik olmayan işlemler) kullanır ve ardından yeni veri kullanılabilirliğini belirtmek için Ordering::Release kullanarak baş indeksini atomik olarak artırır. Tüketici, indeksin değişmesini bekler, ardından tampondan paket verilerini okur.
Bir olası çözüm, tüm tamponu ve indeksi std::sync::Mutex ile korumaktı. Bu, hafıza güvenliğini ve sıralı tutarlılığı garanti etse de, ciddi bir yazışma yaratmaktadır; her paket yazımı kilidi almak zorundadır, üreticiyi sıraya almakta ve önbellek yerelliğini yok etmektedir. Bu yaklaşım, yüksek frekanslı ticaret gereksinimleri için kabul edilemez seviyelere kadar verimliliği düşürdü ve düşük gecikmeli sistemler için uygun olmadı.
Bir diğer düşünülen yaklaşım, baş işaretçi için Release/Acquire çiftinin yerine Ordering::SeqCst kullanmaktı, bunun global sıralamasının tampon yazılarını otomatik olarak temizleyeceğini varsayarak. Bu, SeqCst'nin yalnızca SeqCst işlemleri arasında toplam bir sıra sağladığı için başarısız olur; derleyici ve CPU, atomik depolamanın ardından atomik olmayan tampon yazılarını yeniden sıralama özgürlüğüne sahiptir. Sonuç olarak, tüketici güncellenmiş bir baş indeksi gözlemlerken eski paket verilerini okuma riski taşımaktadır, görünüşte güçlü atomik sıralamaya rağmen hafıza güvenliğini ihlal eder.
Seçilen çözüm, tüm tampon yazımlarını tamamladıktan sonra ancak güncellenmiş baş indeksinin depolanmasından önce bir fence(Ordering::Release) eklemektir. Tüketici iş parçacığı, baş indeksini yükledikten hemen sonra ve tampon işaretçisini dereferans etmeden önce bir fence(Ordering::Acquire) yerleştirdi. Bu eşleştirme, tampon yazımlarının indeks güncellenmeden önce genel olarak görünür olmasını sağlar ve tüketici, indeks senkronize olana kadar tamponu spekülatif olarak okuyamaz, böylelikle kilit olmaksızın veri yarışlarını ortadan kaldırır.
Sonuç, mikro saniye gecikmesi ile saniyede milyonlarca paketi işleyebilen kilit içermeyen SPSC (tek üretici-tek tüketici) bir kuyruğuydu. Kıyaslamalar, Mutex tabanlı yaklaşıma göre on kat bir iyileşme gösterdi ve Miri ve Loom eşzamanlılık kontrol araçları altında sıfır veri yarışları yaşandı. Bu, uygun engel kullanımının donanım seviyesinde performansı eşleştirebileceğini ve Rust'ın güvenlik garantilerini korurken mümkün olduğunu göstermektedir.
Neden atomik bir değişkenin bağımsız bir Acquire yüklemesi, üretici iş parçacığında daha önceki atomik olmayan yazımların görünürlüğünü garanti etmez, o iş parçacığı aynı değişken üzerinde bir Release depolama işlemi yapsa bile?
Bağımsız bir Acquire yüklemesi yalnızca o spesifik atomik konumdaki Release depolaması ile senkronize olur, bu da yalnızca o değişken için bir önce olma ilişkisi oluşturur. Üreticinin bu yazıları senkronize etmek için, depolamadan önce bir Release engeli kullanması veya tüketicinin yüklemeden sonra bir Acquire engeli kullanması gerekir. Bu engeller olmadan, derleyici atomik depolamanın ardından atomik olmayan yazıları yeniden sıralayabilir ve CPU görünürlüklerini geciktirebilir, bu da ilgili veriler üzerinde veri yarışlarına yol açar.
Derleyici Relaxed atomik işlemleri nasıl optimize eder ve bu, güçlü bir donanım hafıza modeli olmasına rağmen x86_64 üzerinde neden karşıt sezgisel eski okumalar ile sonuçlanabilir?
Güçlü sıralama sağlasa da, x86_64 üzerinde, Relaxed işlemleri yalnızca atomikliği garanti eder (yırtık okumalar/yazmalar yok) ancak çevresel işlemler üzerinde hiçbiri sıralama kısıtlaması koymaz. Derleyici, Relaxed yüklemesini ve depoları diğer talimatlarla yeniden sıralama özgürlüğüne sahiptir veya değerleri kayıtlarında tutabilir, bu da bir iş parçacığının programın mantıksal akışına göre eski değerleri gözlemlemesine neden olabilir. Adaylar genellikle donanım tutarlılığını derleyici garantileri ile karıştırır, Relaxed'in derleyici optimizasyonlarına karşı sıfır koruma sağladığını unutarak, yeniden sıralamayı önlemek için Acquire/Release semantiğine ihtiyaç duyarlar.
Bir SeqCst engelini Acquire ve Release engellerinin birleşiminden ne ayırır ve SeqCst'nin küresel toplam sıralamasının zorunlu olduğu belirli bir algoritmik gereklilik nedir?
Bir SeqCst engeli, tüm iş parçacıkları arasında tüm SeqCst işlemlerinin küresel tutarlı bir toplam sırasını zorunlu kılar ve her iş parçacığının bu olayların aynı sırasını gözlemlemesini sağlar. Buna karşın, Acquire/Release engelleri yalnızca belirli iş parçacıkları ve hafıza konumları arasında çift yönlü senkronizasyon sağlar ve küresel bir uzlaşma olmaz. SeqCst, Dekker’in karşılıklı dışlama algoritması veya dağıtılmış zaman damgası sayaçları gibi olay sıralamasında küresel bir anlaşmaya ihtiyaç duyan algoritmalar için zorunludur; burada çoklu iş parçacıkları ilgisiz işlemlerin göreli sırasına dair aynı sonuca bağımsız olarak ulaşmak zorundadır; basit üretici-tüketici senaryoları için, Acquire/Release'in çift yönlü senkronizasyonu yeterli ve daha performanslıdır.