Veri İşleme Birimleri (DPU) Nedir? Sunucularda Rolü ve Avantajları

Veri İşleme Birimleri (DPU), modern sunuculardaki bazı altyapı işlemlerini üstlenen özelleşmiş çiplerdir. Ağ trafiği yönetimi, depolama erişimi ve şifreleme gibi görevleri merkezi işlemciden (CPU) ayırarak, bu işlemleri bağımsız olarak DPU'ya aktarabilirsiniz. Özellikle veri merkezlerinde, tek bir sunucunun sürekli olarak büyük miktarda veriyi alıp iletmesi nedeniyle DPU'nun rolü giderek artmaktadır. Ağ hızları ve sanal makine sayısı arttıkça, altyapı işlemleri CPU kaynaklarının önemli bir bölümünü tüketmeye başlar. DPU, bu işlemleri bağımsız bir şekilde üstlenerek, CPU'nun uygulamalara ve ana iş yüklerine daha fazla kaynak ayırmasını sağlar.

DPU Nedir ve Nasıl Çalışır?

DPU (Data Processing Unit), özellikle veri akışlarının işlenmesi ve sunucuya özgü altyapı görevlerinin yürütülmesi için tasarlanmış programlanabilir bir işlemcidir. Yüksek hızlı ağ arayüzleriyle entegre olur ve merkezi işlemcinin üstlenmek zorunda kaldığı birçok görevi kendi başına yerine getirebilir.

DPU'lar, sanal ağlar üzerinde çalışabilir, paketleri filtreleyebilir, şifreleme işlemleri gerçekleştirebilir, depolama işlemlerini yönetebilir ve altyapı erişim kontrolünü sağlayabilir. Modern DPU çözümlerinde bu görevlerin bir kısmı donanım hızlandırıcılarla desteklenir, bu da genel amaçlı işlemci çekirdeklerinin sürekli olarak devreye girmesini gerektirmez.

DPU'yu, sunucu içinde çalışan küçük, özelleşmiş bir bilgisayar gibi düşünebilirsiniz. Kendi işlemci çekirdekleri, belleği, ağ denetleyicisi ve donanım hızlandırıcıları bulunur. Bu sayede altyapı yazılımlarının bir bölümü, sunucunun ana işletim sisteminden bağımsız çalışabilir.

DPU ile CPU Arasındaki Farklar

Merkezi işlemci (CPU), mümkün olan en genel amaçlı cihaz olacak şekilde tasarlanır. İşletim sistemini, veritabanlarını, sunucu uygulamalarını ve sanal makineleri çalıştırır; önceden hesaplanamayan çeşitli işlemleri yönetebilir.

DPU ise daha dar bir görev yelpazesine odaklanır. Veri akışı üzerinde doğrudan konumlanır ve sunucu altyapısında tekrar eden işlemler için optimize edilir: ağ paketlerinin alınması/gönderilmesi, sanal ağ yönetimi, depolama iletişimi, şifreleme ve trafik filtreleme gibi.

Böylece CPU, altyapı işlemleri için daha az zaman harcar. Uygulamalar merkezi işlemcide çalışmaya devam ederken, veriyle ilgili birçok görev DPU tarafından üstlenilir. Bu ayrım, pahalı sunucu çekirdeklerinden en iyi şekilde faydalanılmasını sağlar.

DPU'nun Bileşenleri

DPU'nun mimarisi üreticiye göre değişse de, modern DPU'lar genellikle programlanabilir işlemci çekirdekleri, yüksek hızlı ağ arayüzleri ve ağ, depolama veya güvenlik için özelleşmiş donanım bloklarından oluşur.

• NVIDIA BlueField: ConnectX ağ denetleyicisi, Arm çekirdekleri ve ağ, disk ve kriptografik işlemler için donanım hızlandırıcıları bir araya getirir.
• AMD Pensando: Kendi programlanabilir veri işleme hattı, Arm çekirdekleri ve şifreleme/depoya özel bloklar sunar.

Bu yapı sayesinde, DPU'yu yalnızca daha güçlü bir ağ kartı olarak değil, sunucuya programlanabilir altyapı fonksiyonları kazandıran bağımsız bir hesaplama alt sistemi olarak görmek gerekir.

DPU Sunucu İşlemcisini Nasıl Rahatlatır?

Tipik bir sunucuda, ağdan gelen veriler önce ağ adaptöründen geçer ve ardından birçok altyapı işlemi CPU üzerinde gerçekleştirilir. Sanal ağ yönetimi, depolama işlemleri, şifreleme ve diğer altyapı görevleri, uygulamalarla birlikte aynı anda çalışır.

Sunucu ağlarının bant genişliği arttıkça CPU'nun yükü de artar. Sanallaştırılmış ortamlarda ek olarak sanal anahtarlar, trafiğin sanal makineler ve konteynerler arasında yönetilmesi ve erişim kontrolleri gibi işlemler de CPU'ya ek yük getirir.

DPU, bu akışı değiştirir: Veriler ilk olarak DPU üzerinden geçer ve altyapı işlemleri burada tamamlanır. CPU, işlenmiş veri akışını alır ve altyapıdan kaynaklanan işlem yükü önemli ölçüde azalır.

Daha fazla ayrıntı için "Evrensel ve Özelleşmiş İşlemciler: Geleceğin Hesaplama Mimarileri" başlıklı makalemize göz atabilirsiniz.

DPU ile Ağ Trafiği Yönetimi

DPU'nun ana görevlerinden biri ağ paketlerini yönetmektir. Paketlerin yönlendirilmesi, filtrelenmesi, sanal anahtarlama gibi işlemler merkezi işlemciye gerek kalmadan DPU üzerinde gerçekleştirilebilir.

Özellikle bulut altyapısında, tek bir fiziksel sunucuda onlarca veya yüzlerce sanal makine ve konteyner çalışabilir. Her biri kendi sanal ağına ve erişim kurallarına sahip olabilir. Bu işlemler yazılımsal olarak CPU'da yürütülürse, altyapı ile uygulamalar CPU kaynakları için rekabete girer.

DPU sayesinde ağ mantığının bir bölümü ayrı bir işlemciye taşınır. Örneğin NVIDIA BlueField, ağ, disk ve güvenlik servislerini ana CPU'dan alarak, sunucu kaynaklarının ana iş yüklerine daha ulaşılabilir olmasını sağlar.

Bu, yalnızca "sunucu içinde interneti hızlandırmak" anlamına gelmez. Trafik işlemenin ayrı bir donanım-yazılım görevi olarak ele alınması ve CPU yükünden bağımsız çalışabilmesi, altyapı sürekliliği için kritik önemdedir.

Veri Merkezlerinde DPU'nun Önemi

Bireysel bilgisayarlarda CPU üzerindeki birkaç yüzde ekstra yük fark edilmeyebilir. Ancak veri merkezlerinde, aynı altyapı işlemleri binlerce sunucuda tekrarlandığı için, tek bir sunucuda bile CPU zamanı tasarrufu tüm kümede ciddi verimlilik artışı sağlar.

Veri merkezlerinde sunucular, genellikle veritabanları, analitik, sanal makineler ve yapay zeka gibi pahalı iş yükleri için kullanılır. Sürekli ağ paketi veya altyapı trafiği işlemek için güçlü CPU çekirdeklerini harcamak, verimli değildir. DPU, hesaplama ve altyapı görevlerini ayırarak, sunucunun pahalı çekirdeklerinin en verimli şekilde kullanılmasını sağlar.

DPU'nun Üstlendiği Görevler: Ağ, Depolama ve Güvenlik

DPU'nun en büyük avantajı, birden fazla altyapı operasyonunu aynı anda üstlenebilmesidir. Ağ, depolama ve veri koruma işlemlerini ayrı ayrı CPU'da yazılımsal olarak gerçekleştirmek yerine, bunları DPU'ya aktarabilirsiniz.

Ağ Operasyonları

DPU, ağ paketlerini analiz edebilir, filtreleme kuralları uygulayabilir, sanal ağları yönetebilir ve yönlendirme işlemlerinin bir kısmını doğrudan trafik geçişi sırasında gerçekleştirebilir.

Sanallaştırılmış ortamlarda, DPU sanal anahtarlar ve ağ fonksiyonlarını da üstlenebilir. Böylece CPU, sürekli uygulama işlemleri ile ağ yığını arasında geçiş yapmak zorunda kalmaz.

Bellekler arası doğrudan veri transferi (ör. RDMA), DPU ile yüksek performanslı hesaplama ve AI kümelerinde veri transferini CPU katılımı olmadan mümkün kılar. Detaylar için RDMA: Sunucular Arası Doğrudan Bellek Aktarımı ve Avantajları başlıklı makaleye göz atabilirsiniz.

Depolama İşlemleri

DPU yalnızca ağı değil, giriş/çıkış işlemlerini de hızlandırabilir. Modern veri merkezlerinde depolama sistemleri genellikle sunucuya doğrudan bağlı değildir; ağ üzerinden erişilen dağıtık sistemlerdir.

Bir okuma/yazma isteği; ağ yığını, sanallaştırma, depolama protokolü ve erişim kontrol katmanlarından geçer. Tüm bu işlemler CPU'da gerçekleşirse, disk işlemleri CPU'ya ciddi ek yük getirir. DPU, bu sürecin bir kısmını kendi üzerine alabilir; depolama protokollerini işler, veri transferini yönetir ve belirli I/O operasyonlarını donanım hızlandırıcılarla gerçekleştirir.

Özellikle hızlı NVMe diskler ve ağ tabanlı depolama sistemlerinde, programlama ve veri transferi DPU ile daha verimli hale gelir.

Donanım Tabanlı Güvenlik

DPU'nun bir diğer görevi de güvenlik mekanizmalarının bir kısmını sunucunun ana işletim sistemi dışına taşımaktır. Böylece veriler uygulama veya sanal makinelere ulaşmadan önce denetlenebilir ve filtrelenebilir.

DPU üzerinde trafik şifreleme/şifre çözme, ağ kurallarının uygulanması, paket filtreleme ve erişim kontrolü gibi işlemler gerçekleştirilebilir. Bazı güvenlik işlemleri için ayrı donanım hızlandırıcılar kullanılır, bu da büyük veri miktarlarını CPU'ya yük bindirmeden yönetmenizi sağlar.

Güvenlik fonksiyonlarının bağımsız bir işlemci üzerinde çalışması, ana işletim sisteminin durumundan daha az etkilenir ve altyapı seviyesinde süreklilik sağlar.

DPU, SmartNIC, CPU ve GPU: Farklar Nelerdir?

DPU, CPU veya GPU'nun yerine geçmez; onlarla birlikte çalışır. Modern sunucularda genellikle birden fazla türde işlemci bulunur ve her biri farklı görevler için optimize edilmiştir. CPU genel yönetim ve uygulamalar için, GPU paralel hesaplamalar için, DPU ise verinin altyapıdan geçirilmesi ve yönetiminde kullanılır.

Büyük sistemlerde, tüm görevleri tek bir işlemci türüyle çözmeye çalışmak yerine, özelleşmiş donanım kullanmak daha verimlidir. Benzer prensip, birden fazla hızlandırıcının birlikte çalıştığı hibrit sistemlerde de geçerlidir. Daha fazlası için Hibrit Hesaplama Sistemleri: Modern BT'nin Geleceği makalesine göz atabilirsiniz.

DPU ve SmartNIC

SmartNIC, ağ trafiği üzerinde belirli işlemleri bağımsız olarak gerçekleştirebilen programlanabilir bir ağ kartıdır. Normal ağ adaptörleri sadece veri iletirken, SmartNIC paket filtreleme, sanal ağ yönetimi ve bazı ağ fonksiyonlarını hızlandırabilir.

DPU terimi ise genellikle daha kapsamlı, hesaplama yeteneği yüksek altyapı işlemcilerini ifade eder: programlanabilir çekirdekler, kendi belleği ve donanım hızlandırıcılarıyla yalnızca ağ değil, disk ve güvenlik görevlerini de üstlenir.

Kimi modern SmartNIC'ler, DPU'ya yakın yetenekler sunsa da, teknik ayrım üreticiye göre değişiklik gösterebilir.

DPU ve CPU

CPU, çok çeşitli programları çalıştırmak için tasarlanmıştır. Ancak milyonlarca benzer ağ paketinin işlenmesi veya sürekli veri akışının şifrelenmesi gibi tekrarlayan altyapı görevleri için genel amaçlı çekirdekler verimsizdir. Bu tür işlemler için özel bloklar, hem daha hızlı hem de daha az kaynak tüketerek çalışır. DPU, CPU'yu tekrarlayan altyapı görevlerinden kurtarır ve uygulamalara daha fazla kaynak ayrılmasını sağlar.

DPU ve GPU

GPU, paralel matematiksel işlemleri hızlandırmak için tasarlanmış bir başka özelleşmiş işlemcidir. Grafik işlemleri, yapay zeka, bilimsel hesaplamalar ve modelleme için kullanılır. DPU ise, verinin ağdan alınıp güvenlik kurallarına tabi tutulması, belleğe veya depoya aktarılması ve uygun uygulamaya yönlendirilmesi konusunda özelleşmiştir.

AI sunucularında CPU, yönetimi üstlenirken, GPU yapay sinir ağı eğitimi veya çıkarımını gerçekleştirir ve DPU ise ağ ve veri altyapısı işlemlerini idare eder.

DPU'nun Kullanım Alanları ve NVIDIA BlueField

DPU'lar ağırlıklı olarak veri merkezi altyapısında; yüksek miktarda ağ ve disk trafiğinin geçtiği ortamlarda kullanılır. Ev bilgisayarlarında çok gerekli değildir. Ancak bulut platformları, sanallaştırma sistemleri, yüksek performanslı hesaplama ve AI kümelerinde çok daha fazla fayda sağlar.

Bulut altyapısında, DPU sanal makinelerin ağ ve güvenlik fonksiyonlarını ana CPU'dan bağımsız olarak yürütebilir. Depolama sistemlerinde, sunucular ve uzak diskler arasındaki veri aktarımını yönetir. Yapay zeka kümelerinde, pahalı CPU ve GPU'lar doğrudan hesaplama dışı işlemlerle uğraşmak zorunda kalmaz.

Örneğin AMD, DPU'ların doğrudan veri merkezi sunucularına yerleştirilmesini öngörüyor; böylece her yeni sunucu ile birlikte yeni bir altyapı kaynakları havuzu eklenmiş oluyor.

NVIDIA BlueField DPU

NVIDIA BlueField ailesi, yüksek hızlı ağ arayüzleri, programlanabilir Arm çekirdekleri ve ağ, depolama ve güvenlik için donanım hızlandırıcılarını bir arada sunan en bilinen çözümlerden biridir. BlueField, sunucu içinde bağımsız bir altyapı hesaplama platformu olarak çalışır.

DPU, yazılım tanımlı ağ fonksiyonları, NVMe over Fabrics, RDMA, şifreleme, iş yükü izolasyonu ve güvenlik politikalarının uygulanmasını üstlenebilir. Böylece ana CPU bu işlemlerin her adımını kendi başına yürütmek zorunda kalmaz.

Özellikle AI altyapısında, büyük veri setleri GPU'lara hızlıca aktarılmalı ve işlenmelidir; sistem performansı yalnızca hızlandırıcıların gücüne değil, verinin ne kadar hızlı iletildiğine de bağlıdır. DPU, veri aktarımı ve altyapı yönetiminde aracı rol üstlenir; GPU doğrudan hesaplama ile, CPU ise uygulama yönetimi ile ilgilenir.

DPU'nun Yükselen Rolü

DPU'ların yükselişinin temel nedeni, sunucu mimarisinin değişmesiyle ilgilidir. Eskiden ağ adaptörü ve depolama, merkezi işlemcinin çevresel bileşenleri olarak görülürdü. Artık ağlar yüzlerce gigabit/saniye hızlarda çalışırken, veriler dağıtık sistemlerde saklanıyor ve tek bir fiziksel sunucu birden fazla izole iş yükünü aynı anda yönetiyor.

Hesaplama kaynakları giderek daha değerli hale gelirken, CPU'nun önemli bir kısmının paket işleme, şifreleme veya sanal anahtarlama ile meşgul olması verimsizlik yaratır. Bu nedenle, altyapı fonksiyonları giderek özelleşmiş işlemcilere aktarılıyor. NVIDIA BlueField, ağ, disk ve güvenlik servislerinin ana CPU'dan alınması için tasarlanmış bir platform olarak öne çıkıyor.

DPU, sunucu donanımında yeni bir uzmanlaşma katmanı sunar. Artık merkezi işlemci her işi üstlenmek yerine, her çip türü kendi görevinde en verimli şekilde çalışır: CPU genel amaçlı mantık, GPU paralel hesaplama, DPU ise altyapı ve veri hareketiyle ilgilenir.

Sonuç

Veri İşleme Birimleri (DPU), modern sunucu altyapısının işlem yükü arttıkça ortaya çıkmıştır. Ağ, sanallaştırma, depolama, şifreleme ve trafik filtreleme gibi görevler giderek daha fazla kaynak gerektirirken, tüm bu işlemleri genel amaçlı CPU çekirdeklerine bırakmak verimsizleşmektedir.

DPU, bu görevlerin önemli bir bölümünü ayrı bir uzman işlemciye devreder. Merkezi işlemci uygulama ve genel mantıkla ilgilenirken, GPU paralel hesaplamaları üstlenir; DPU ise sistem bileşenleri arasında verinin taşınması, işlenmesi ve korunmasını sağlar.

Ev bilgisayarlarında ayrı bir DPU genellikle gereksizdir. Ancak veri merkezlerinde, bulut platformlarında ve büyük AI kümelerinde, CPU kaynaklarından sağlanan küçük bir tasarruf bile binlerce sunucuya ölçeklendiğinde büyük fayda sağlar. Bu yüzden NVIDIA BlueField gibi DPU'lar, her iş için ayrı bir uzman çip mimarisine geçişin önemli bir parçası haline gelmektedir.