Infinidat Neural Cache

Düşük Maliyetle Yüksek Performansı Sürdürmek için Derin Öğrenmeden Yararlanın!

All-Flash Arrays (AFA) ilk ortaya çıktığında, bunlarla ilgili geleneksel görüş iki veri noktasından oluşuyordu: çok hızlılardı ve ham depolama kapasitesi için yüksek bir maliyeti vardı. Onlarca yıllık kurumsal depolama deneyiminden yararlanan Infinidat’ın mimarları, all-flash’tan daha hızlı, ancak aslında ham depolama kapasitesi için çok daha düşük maliyetli bir tasarım ortaya çıkardı. Bunu da çoğunlukla çok uygun maliyetli sabit disk sürücülerden (HDD’ler) oluşan bir sistemle yaptılar. Bunu nasıl yaptılar? Buna katkıda bulunan bir dizi tasarım yeniliğimiz var, ancak en önemlilerinden biri Infinidat’ın okuma önbelleği isabet oranlarını en üst düzeye çıkarmak için okuma önbelleği alanını nasıl yönettiğidir.

Çoğu kurumsal depolama sistemi, çok az miktarda pahalı DRAM önbelleği ve büyük miktarda daha yavaş ancak çok daha düşük maliyetli kalıcı depolama içeren katmanlı bir tasarım kullanır. Veriler istendiğinde ve önbelleğe alındığında, sistemler genellikle daha sonra başvurulacağını düşündükleri ek verileri önceden getirir (böylece, gerektiğinde bu verilere erişme gecikmesini azaltır). Doğru ön getirme, bir sistemin okuma önbelleği isabet oranını artırarak genel olarak daha iyi performans sağlarken, yanlış ön getirme, bir sistemi yavaşlatır (çünkü işleme, istenen veriler çok daha yavaş kalıcı depolamadan önbelleğe getirilene kadar beklemek zorunda kalacaktır). “En az kullanılan” veya “ilk giren ilk çıkar” gibi geleneksel algoritmalar, önceden getirilmekte olan verilere yer açmak için hangi verilerin önbellekten taşınacağını belirlemek için kullanılır. Sonuç olarak, bir sistemin özellikle okuma önbellek alanını nasıl yönettiği, sistemin genel olarak algılanan performansı üzerinde, özellikle de bu sistem ölçekte çalıştığında, oldukça büyük bir etkiye sahiptir.

Infinidat, okuma önbelleği isabet oranlarını uygun maliyetli bir şekilde optimize etmek için katmanlı bir depolama tasarımında akıllı veri yerleştirmeyi kullanmakla ilgili “neural cache” adı verilen benzersiz bir yaklaşım geliştirdi. Neural cache, yalnızca erişim frekanslarını değil, blok boyutları, okuma ve yazma frekansları, hangi verilerin birlikte kullanıldığı, ilişkili uygulama G/Ç profilleri vb. gibi geleneksel sistemlerin izlemediği diğer birçok ölçümü izlemek için meta veri etiketlemeyi kullanır ve bu verileri kullanır. Blok ölçümleri değiştikçe etkinlik vektörleri zaman içinde değişir, böylece hangi verilere birlikte başvurulmasının en muhtemel olduğunu (ve dolayısıyla önceden getirilmesi gerektiğini) ve verilerin nereye yazılması gerektiğini (önbellekten taşındığında) belirlemek için her zaman en iyi bilgiyi sağlarlar. Hangi verilerin önceden bir araya getirileceği, hangi verilerin birlikte kullanılma olasılığının yüksek olduğunu gösteren etkinlik vektörlerinin gerçek zamanlı analizi ile belirlenir.

Neural cache, blok temelinde hem uzamsal hem de zamansal yerellik bilgisini korur ve bu yaklaşımın, rastgele ve sıralı erişimin bir karışımını sergileyen karma kurumsal iş yükleri için son derece yüksek okuma önbelleği isabet oranları sağladığı kanıtlanmıştır. Ve bu yöntem derin bir öğrenme yaklaşımına dayandığından, herhangi bir manuel müdahale olmadan sistemin her zaman en yüksek performansta çalışmasını sağlamak için homeostatik bir yaklaşım (tıpkı ev termostatınız gibi) kullanarak koşullar değiştikçe hızla optimize eder.

InfiniBox tasarımının, son derece yüksek okuma önbellek isabet oranlarına katkıda bulunan birkaç başka yönü vardır. İlk olarak, InfiniBox birden çok depolama katmanı kullanır – kalıcı olmayan bir DRAM önbelleği, kalıcı olan bir katı hal katmanı ve düşük maliyetli dönen diskte sistem kapasitesinin geri kalanı. Infinidat, çoğu kurumsal depolama satıcısından daha büyük bir DRAM önbelleği kullanır – daha büyük sistemlerinde 3 TB’a kadar – bu da daha fazla önbellek kapasitesi sağlar. Bu daha yüksek önbellek kapasitesi iki şeyi başarır: daha yüksek önbellek isabet oranlarını artırmaya yardımcı olmak için daha fazla verinin CPU’lara daha yakın depolanmasına izin verir ve sonraki birden çok erişimi beslemek ve daha iyi veri girişleri sağlamak için verilerin önbellekte biraz daha uzun süre kalmasına izin verir. Etkinlik vektörleri, daha etkili veri yerleşimine yol açar. Bu DRAM önbelleği, daha büyük sistemlerinde 368 TB kadar büyük olabilen kalıcı, statik katman tarafından desteklenir ve bu kapasite büyük ölçüde ikincil bir önbellek olarak yönetilir. Sistem kapasitesinin geri kalanı HDD’lerde ve sistemin toplam kapasitesinin %90’ından fazla olabilen daha büyük sistemler (4PB+) içindir. Sahada kurulu sistemlerin %70’inden fazlasının 2PB+ olduğunu unutmayın.

İkinci olarak, yazma önbelleğindeki veriler, etkinlik vektörlerine dayalı olarak birleştirilir ve daha yüksek yazma verimliliği için seri olarak kalıcı depolamaya yazılır. Statik depolama durumunda, bu, uzun vadede toplama faaliyetlerini en aza indirir ve dönen disk için, HDD’lerin çok daha yüksek sıralı yazma performansından (rastgele yazma performansına karşı) yararlanır. Yan avantajlar olarak, flaş üzerinde rastgele yazma işlemlerini en aza indirmek medyanın dayanıklılığını artırırken, bunu HDD’lerde yaparken cihaz düzeyinde daha iyi güvenilirliğe katkıda bulunur.

Üçüncüsü, tüm sistem meta verileri, hızlı ve verimli erişim için trie veri yapılarında DRAM’de tutulur. Google tarafından internet aramalarını hızlandırmak için kullanılan onlarca yıllık bir tasarıma dayanan Infinidat, depolama erişimi için optimize edilmiş benzer bir tasarım geliştirdi ve patentini aldı. Trie veri yapıları, derin bir “ağacı” geçmek zorunda kalmadan veya hiper ölçekte karma algoritma çarpışmalarıyla uğraşma riskine gerek kalmadan, kelimenin tam anlamıyla milyarlarca nesneye (veri bloğu gibi) çok hızlı bir şekilde başvurulmasını sağlamak için çok ölçeklenebilir bir yol sunar. Önceden getirilmediği nadir durumlarda gerekli verileri “bulmak” için daha az talimat döngüsü gerekir. Bu, veriler bir arada bulunmasa bile verilerin önceden bir araya getirilmesini çok verimli hale getirir (verilerin son kullanımından bu yana etkinlik vektörleri geliştiyse olmayabilir).

Infinidat’ın Neural Cachesi yapay zekanın bu alt kümesini, Derin Öğrenme olarak bilinen makine öğrenimini (AI/ML) benzersiz bir şekilde kullanır. Derin Öğrenme, birden fazla karar seçeneğini değerlendirir ve hedefine ulaşmak için hangilerinin daha yararlı olduğunu ve hangilerinin daha yararlı olmadığını sürekli öğrenir, hedefine ulaşmak için bir “sinir ağı” gibi görünen şeyden etkin bir şekilde yararlanır (bu durumda veri yerleştirmeyi optimize etmektedir).

Ne kadar uzun süre koşarsa, hedefine o kadar yaklaşır ve işler değiştiğinde (genellikle modern iş yüklerinde olduğu gibi) uyum sağlar ve bir kez daha hedefine yaklaşmaya başlar. Tamamen kendi kendini yönetir ve çoğu depolama tedarikçisinin nihayetinde benzer sistem içi yaklaşımlara nasıl (ve neden) geçeceğinin ve günümüzde çok yaygın olan daha statik önbellek yönetiminden ve daha manuel olarak yoğun sistem optimizasyonu yaklaşımlarından uzaklaşacağının mükemmel bir örneğidir.