Процессоры обработки данных: зачем серверам DPU для сетей, хранения и безопасности

Процессоры обработки данных - специализированные чипы, которые берут на себя часть служебной работы современного сервера. Вместо того чтобы заставлять центральный процессор одновременно выполнять приложения, обрабатывать сетевой трафик, обращаться к хранилищам и заниматься шифрованием, часть этих операций можно перенести на отдельный DPU - Data Processing Unit.

Такой подход особенно важен в дата-центрах, где один сервер постоянно принимает и передаёт огромные объёмы информации. С ростом скорости сетей и числа виртуальных машин инфраструктурные операции начинают занимать заметную часть ресурсов CPU. DPU позволяет выполнять многие из них независимо, оставляя основному процессору больше вычислительной мощности для приложений и рабочих нагрузок.

При этом DPU - не ещё один аналог CPU или GPU. Его задача находится ближе к инфраструктуре сервера: перемещению данных между сетью, памятью и накопителями, обработке сетевых пакетов, виртуализации и безопасности.

Что такое процессор обработки данных DPU

DPU (Data Processing Unit) - программируемый процессор, предназначенный прежде всего для обработки потоков данных и выполнения инфраструктурных задач сервера. Обычно он тесно связан с высокоскоростным сетевым интерфейсом и способен самостоятельно выполнять операции, которые без него пришлось бы обрабатывать центральному процессору.

Например, DPU может работать с виртуальными сетями, фильтровать пакеты, выполнять шифрование, обслуживать операции хранения и контролировать доступ к инфраструктуре. У современных решений часть таких функций ускоряется отдельными аппаратными блоками, поэтому для типовых операций не требуется постоянно задействовать универсальные вычислительные ядра.

По своей роли DPU можно представить как небольшой специализированный компьютер внутри сервера. У него могут быть собственные процессорные ядра, память, сетевой контроллер и аппаратные ускорители. Благодаря этому часть инфраструктурного программного обеспечения способна работать практически независимо от основной операционной системы сервера.

Чем DPU отличается от обычного CPU

Центральный процессор создаётся как максимально универсальное устройство. Он запускает операционную систему, базы данных, серверные приложения, виртуальные машины и множество других программ, где заранее невозможно предсказать характер вычислений.

DPU решает более узкий класс задач. Он располагается непосредственно на пути движения данных и оптимизирован для операций, которые постоянно повторяются в серверной инфраструктуре: приёма и отправки сетевых пакетов, работы с виртуальными сетями, передачи информации в хранилище, шифрования и фильтрации трафика.

За счёт этого CPU не приходится расходовать столько времени на обслуживание инфраструктуры. Приложения продолжают работать на центральном процессоре, а значительная часть операций с данными выполняется специализированным оборудованием. Именно такое разделение позволяет эффективнее использовать дорогие серверные ядра.

Из чего состоит DPU

Конкретная архитектура зависит от производителя, но современный DPU обычно объединяет несколько компонентов. В него входят программируемые вычислительные ядра, высокоскоростной сетевой интерфейс и специализированные аппаратные блоки для работы с сетью, хранилищами и безопасностью.

Например, решения NVIDIA BlueField объединяют сетевой контроллер ConnectX, Arm-ядра и аппаратные ускорители сетевых, дисковых и криптографических операций. AMD Pensando использует собственный программируемый конвейер обработки данных, Arm-ядра и отдельные блоки для шифрования и работы с хранилищами. Несмотря на различия в реализации, общий принцип одинаков: максимально приблизить обработку инфраструктурных данных к месту, через которое они проходят.

Поэтому DPU нельзя рассматривать просто как более мощную сетевую карту. Это отдельная вычислительная подсистема, способная не только передавать пакеты, но и самостоятельно выполнять программируемые инфраструктурные функции сервера.

Как DPU разгружает серверный процессор

В обычном сервере данные из сети поступают через сетевой адаптер, после чего значительная часть их дальнейшей обработки ложится на CPU. Центральному процессору приходится обслуживать виртуальные сети, сетевые протоколы, операции с хранилищами, шифрование и другие инфраструктурные функции одновременно с запуском основных приложений.

Проблема становится заметнее по мере роста пропускной способности серверных сетей. Чем больше пакетов проходит через систему, тем больше процессорного времени требуется на их обработку. В виртуализированной инфраструктуре к этому добавляются виртуальные коммутаторы, управление трафиком между виртуальными машинами и контейнерами, контроль доступа и работа с удалёнными хранилищами. Intel прямо относит сетевые, дисковые и защитные функции к задачам, которые специализированный инфраструктурный процессор может переносить с основного CPU.

DPU меняет этот путь: данные сначала проходят через специализированный процессор, который может выполнить необходимые инфраструктурные операции самостоятельно. CPU получает уже обработанный поток и тратит меньше вычислительных ресурсов на обслуживание самой инфраструктуры.

Это пример более общего перехода от универсальных вычислений к специализированным блокам. Подробнее этот подход разобран в статье "Эпоха универсальных процессоров заканчивается: почему CPU уступает место GPU, NPU и ASIC".

Обработка сетевого трафика

Одна из главных задач DPU - работа с сетевыми пакетами. Вместо того чтобы передавать каждый этап обработки центральному процессору, чип может самостоятельно выполнять маршрутизацию, фильтрацию, виртуальную коммутацию и другие операции непосредственно в тракте передачи данных.

Особенно полезно это в облачной инфраструктуре. На одном физическом сервере могут одновременно работать десятки или сотни виртуальных машин и контейнеров, каждый со своими виртуальными сетями и правилами доступа. Если все эти операции выполняются программно на CPU, инфраструктура начинает конкурировать за процессорное время с приложениями пользователей.

При использовании DPU часть сетевой логики переносится на отдельный процессор. Например, NVIDIA BlueField рассчитан на вынесение сетевых, дисковых и защитных сервисов с host CPU, благодаря чему вычислительные ресурсы сервера остаются доступнее для основной нагрузки.

При этом смысл DPU не только в том, чтобы "ускорить интернет" внутри сервера. Важнее то, что обработка трафика становится отдельной аппаратно-программной задачей и меньше зависит от загрузки основного CPU. Даже если приложение активно использует процессор, инфраструктурные функции продолжают обслуживаться специализированным чипом.

Почему это важно в дата-центрах

На одном домашнем компьютере несколько процентов дополнительной нагрузки на CPU часто остаются незаметными. В дата-центре ситуация другая: одинаковые инфраструктурные операции повторяются на тысячах серверов, поэтому даже небольшая экономия процессорного времени на одной машине масштабируется на весь кластер.

Кроме того, современные серверы всё чаще используются для дорогих вычислительных нагрузок - баз данных, аналитики, виртуальных машин и искусственного интеллекта. Использовать мощные универсальные ядра CPU для постоянной обработки сетевых пакетов или служебного трафика не всегда рационально, если эти операции можно выполнить специализированным оборудованием.

DPU позволяет разделить вычислительную и инфраструктурную части сервера. CPU занимается приложениями, GPU - массовыми параллельными вычислениями, а DPU обслуживает движение и обработку данных вокруг них. Такое разделение особенно важно в крупных дата-центрах, где сеть и системы хранения фактически становятся частью вычислительной архитектуры, а не просто периферией сервера.

Сети, хранение и безопасность: какие задачи выполняет DPU

Главное преимущество DPU в том, что он может брать на себя сразу несколько типов инфраструктурных операций. Вместо того чтобы использовать отдельные программные механизмы на CPU для сети, хранения и защиты данных, сервер переносит часть этой работы на специализированный процессор.

Это особенно полезно в дата-центрах, где данные постоянно перемещаются между сетевыми интерфейсами, оперативной памятью, накопителями и другими серверами. Чем больше таких операций выполняется без участия основного CPU, тем больше вычислительных ресурсов остаётся у приложений.

Сетевые операции

Работа с сетью - одна из ключевых задач DPU. Процессор может анализировать сетевые пакеты, применять правила фильтрации, управлять виртуальными сетями и выполнять часть операций маршрутизации непосредственно во время прохождения трафика через сервер.

В виртуализированных средах DPU также способен обслуживать виртуальные коммутаторы и сетевые функции, которые связывают между собой виртуальные машины и контейнеры. Вместо постоянного переключения между приложениями и обработкой сетевого стека CPU получает возможность сосредоточиться на основной вычислительной нагрузке.

Отдельное направление связано с технологиями прямой передачи данных между памятью разных систем. Например, RDMA позволяет сетевому адаптеру передавать данные напрямую в оперативную память удалённого сервера с минимальным участием CPU. Подробнее принцип этой технологии разобран в статье "RDMA: прямой доступ к памяти для ускорения серверных сетей".

Такие механизмы особенно важны для высокопроизводительных вычислений и AI-кластеров, где большие объёмы информации постоянно перемещаются между серверами и ускорителями. Если каждую такую передачу приходится подробно обслуживать CPU, сеть начинает отнимать ресурсы у основной задачи.

Работа с хранилищами

DPU может ускорять не только сеть, но и операции ввода-вывода. В современных дата-центрах накопитель часто находится не внутри конкретного сервера, а является частью распределённой системы хранения, доступной по сети.

В такой архитектуре запрос на чтение или запись данных должен пройти через сетевой стек, систему виртуализации, протокол хранения и механизмы контроля доступа. Если все эти операции выполняются центральным процессором, работа с дисками превращается в дополнительную нагрузку на CPU.

DPU способен взять часть этого пути на себя. Он может обрабатывать протоколы хранения, управлять передачей данных и выполнять аппаратное ускорение отдельных операций ввода-вывода. В результате данные могут перемещаться между сетью, памятью и накопителями с меньшим участием основного процессора.

Особенно заметно это при использовании быстрых NVMe-накопителей и сетевых систем хранения. Скорость современных SSD настолько высока, что ограничением всё чаще становится уже не сам накопитель, а программная обработка запросов и передача данных внутри инфраструктуры.

Аппаратная безопасность

Ещё одна важная задача DPU - перенос части механизмов безопасности за пределы основной операционной системы сервера. Это позволяет проверять и фильтровать данные ещё до того, как они попадут к приложениям или виртуальным машинам.

На DPU могут выполняться шифрование и расшифровка трафика, проверка сетевых правил, фильтрация пакетов и контроль доступа. Для некоторых подобных операций используются отдельные аппаратные ускорители, что позволяет обрабатывать большие объёмы данных без сильной нагрузки на универсальные ядра.

Есть и архитектурное преимущество. Если функции безопасности работают на независимом процессоре, они меньше зависят от состояния основной операционной системы. Даже при высокой загрузке CPU или проблемах внутри виртуальной машины инфраструктурный уровень продолжает контролировать сетевой трафик и доступ к ресурсам.

Поэтому DPU одновременно выполняет две задачи: ускоряет обработку данных и создаёт дополнительный уровень изоляции между инфраструктурой дата-центра и программами, работающими на сервере.

DPU, SmartNIC, CPU и GPU: в чём разница

DPU существует не вместо CPU или GPU, а рядом с ними. Современный сервер всё чаще состоит из нескольких типов процессоров, каждый из которых оптимизирован под собственный класс задач. CPU остаётся универсальным центром управления, GPU ускоряет массовые параллельные вычисления, а DPU занимается инфраструктурой, через которую проходят данные.

Такой подход позволяет не пытаться выполнять всю работу одним типом процессора. В крупных системах это особенно важно: использование специализированного оборудования обычно эффективнее, чем постоянное выполнение сетевых, графических и инфраструктурных операций универсальными ядрами CPU.

Похожий принцип используется и в системах, где одновременно работают несколько типов ускорителей. Подробнее об этом - в статье "Гибридные вычислительные системы: как CPU, GPU, NPU и FPGA работают как единая архитектура".

DPU и SmartNIC

SmartNIC - программируемая сетевая карта, способная выполнять часть операций с трафиком самостоятельно. В отличие от обычного сетевого адаптера, который в основном передаёт данные между сетью и сервером, SmartNIC может фильтровать пакеты, обслуживать виртуальные сети и ускорять некоторые сетевые функции.

Граница между SmartNIC и DPU не всегда чёткая. Производители используют эти термины по-разному, а функциональность устройств пересекается. Обычно DPU подразумевает более самостоятельную вычислительную подсистему: у него есть программируемые ядра, собственная память и аппаратные ускорители, позволяющие выполнять не только сетевые, но также дисковые и защитные функции.

Поэтому SmartNIC можно рассматривать прежде всего как расширенную сетевую карту, а DPU - как отдельный инфраструктурный процессор, установленный непосредственно на пути движения данных. При этом некоторые современные SmartNIC по возможностям приближаются к DPU, поэтому универсального технического разделения между этими классами нет.

DPU и CPU

CPU предназначен для выполнения самых разных программ. Он способен обрабатывать сложную логику, запускать операционные системы, базы данных, веб-серверы и практически любое другое программное обеспечение.

Такая универсальность имеет цену. Операции вроде обработки миллионов однотипных сетевых пакетов или постоянного шифрования потоков данных не всегда рационально выполнять на универсальных ядрах. Для них можно создать специализированные блоки, которые делают ограниченный набор операций быстрее и с меньшими затратами ресурсов.

DPU именно этим и занимается. Он не заменяет CPU, а освобождает его от части повторяющейся инфраструктурной работы. В результате центральный процессор получает больше времени для приложений, ради которых сервер и был установлен.

DPU и GPU

GPU тоже является специализированным процессором, но его специализация совершенно другая. Видеокарта содержит большое количество вычислительных блоков, способных параллельно выполнять сходные математические операции. Поэтому GPU используются не только для графики, но и для искусственного интеллекта, научных расчётов и моделирования.

DPU, напротив, ориентирован не столько на вычисление результата, сколько на эффективное движение и обработку данных вокруг вычислительных устройств. Он может принимать информацию из сети, применять к ней правила безопасности, передавать её в память или хранилище и направлять нужному приложению или ускорителю.

В AI-сервере эти процессоры могут работать одновременно. CPU управляет системой и приложениями, GPU выполняет обучение или инференс нейросети, а DPU обслуживает сетевой обмен и инфраструктурные операции. Чем крупнее такой кластер, тем важнее становится разделение обязанностей между разными типами чипов.

Где используются DPU и зачем нужен NVIDIA BlueField

DPU прежде всего рассчитаны на инфраструктуру, где через каждый сервер проходят большие объёмы сетевого и дискового трафика. Поэтому такие процессоры применяются не в обычных домашних компьютерах, а в дата-центрах, облачных платформах, системах виртуализации, высокопроизводительных вычислениях и AI-кластерах.

В облачной инфраструктуре DPU может обслуживать сетевые функции и безопасность виртуальных машин независимо от основного CPU. В системах хранения он помогает обрабатывать передачу данных между серверами и удалёнными накопителями. В кластерах искусственного интеллекта отдельный инфраструктурный процессор позволяет меньше отвлекать дорогие CPU и GPU на операции, непосредственно не связанные с вычислениями.

AMD, например, предусматривает установку DPU непосредственно в серверы дата-центра, где чипы могут выполнять сетевые, защитные и дисковые сервисы для работающих на машине приложений и виртуальных сред. Такой подход хорошо масштабируется: при добавлении нового сервера вместе с ним появляется и собственный набор инфраструктурных ресурсов.

NVIDIA BlueField DPU

Один из наиболее известных примеров технологии - семейство NVIDIA BlueField. Эти устройства объединяют высокоскоростной сетевой интерфейс, программируемые Arm-ядра и аппаратные ускорители для сетей, хранения и безопасности. Фактически BlueField представляет собой отдельную инфраструктурную вычислительную платформу внутри сервера.

Например, DPU может взять на себя программно определяемые сетевые функции, работу с NVMe over Fabrics, RDMA, шифрование, изоляцию нагрузок и применение политик безопасности. При этом основному CPU не требуется выполнять каждый этап этих операций самостоятельно.

Особенно актуален такой подход в AI-инфраструктуре. Для обучения крупных моделей необходимо постоянно перемещать огромные объёмы данных между хранилищами, серверами и GPU. Производительность системы поэтому зависит не только от мощности самих ускорителей, но и от того, насколько быстро данные попадают к ним.

DPU в такой архитектуре работает как инфраструктурный посредник: организует передачу данных, обслуживает сеть и хранилища, а также применяет необходимые механизмы защиты. GPU при этом может больше времени заниматься непосредственно вычислениями, а CPU - управлением приложениями и другими задачами.

Почему роль DPU растёт

Главная причина появления DPU - изменение самого устройства серверов. Раньше сетевой адаптер и накопители в значительной степени воспринимались как периферия вокруг центрального процессора. Сегодня сеть между серверами может работать на сотнях гигабит в секунду, данные хранятся в распределённых системах, а один физический сервер одновременно обслуживает множество изолированных рабочих нагрузок.

Одновременно растёт стоимость вычислительных ресурсов. Если часть мощного серверного CPU постоянно используется для обработки пакетов, шифрования или виртуальной коммутации, эти ядра нельзя использовать для баз данных, приложений и других полезных нагрузок.

Поэтому инфраструктурные функции постепенно переходят на специализированные процессоры. NVIDIA прямо позиционирует BlueField как платформу для вынесения сетевых, дисковых и защитных сервисов с host CPU, а современные версии семейства рассчитаны в том числе на крупные AI-центры обработки данных.

DPU становится ещё одним уровнем специализации серверного железа. Вместо модели, где центральный процессор отвечает почти за всё, формируется архитектура, в которой каждый класс чипов занимается наиболее подходящей для него работой: CPU - универсальной логикой, GPU - параллельными вычислениями, а DPU - инфраструктурой и движением данных.

Заключение

Процессоры обработки данных DPU появились как ответ на рост нагрузки, которую современная серверная инфраструктура создаёт вокруг основных вычислений. Сеть, виртуализация, системы хранения, шифрование и фильтрация трафика требуют всё больше ресурсов, и выполнять все эти операции на универсальных ядрах CPU становится невыгодно.

DPU переносит значительную часть такой работы на отдельный специализированный процессор. Центральный процессор остаётся занят приложениями и общей логикой, GPU - параллельными вычислениями, а DPU обслуживает движение, обработку и защиту данных между компонентами системы.

Для домашнего компьютера отдельный DPU практически не нужен. Его преимущества раскрываются в дата-центрах, облачных платформах и больших AI-кластерах, где даже небольшая экономия ресурсов CPU на каждом сервере масштабируется на тысячи машин. Поэтому DPU вроде NVIDIA BlueField становятся частью более широкой тенденции: вместо одного универсального процессора современные системы всё чаще используют набор специализированных чипов, каждый из которых выполняет свою задачу эффективнее.