CPU, GPU 그리고 DPU란 무엇일까?

"CPU와 GPU에 이어, DPU(Data Processing Unit)는 데이터 중심 가속 컴퓨팅의 또 하나의 핵심 축이 될 것이다”
- 젠슨 황(Jensen Huang) 엔비디아 창립자 겸 CEO

 

CPU, GPU는 많이 들어 보았지만, DPU라는 것은 무엇인가?

CPU는 Central Processing Unit, 중앙 처리 장치이다.
모든 PC에는 반드시 1개 이상의 CPU가 들어있다.
 
그리고 최근에는 GPU라는 Graphic Processing Unit, 그래픽 처리 장치가 컴퓨팅의 중심 역할을 하고 있다.
 
GPU의 원래 용도는 화려한 실시간 그래픽을 처리하기 위하여 개발된 GPU를 활용하여 병렬처리 기능으로 다양한 컴퓨팅 작업을 가속화할 수 있게 되었고, 특히 인공지능(AI)이나 딥 러닝, 데이터 분석 등의 핵심 인프라가 되었다.
 
이러한 프로세서는 모두 연산 처리에 촛점을 둔 아키텍처(compute-centric architecture)였다.

하지만, 주고받는 데이터의 양이 방대해지고 있어 데이터를 전담할 프로세서의 필요성이 커진 것이다. 이를 위하여 데이터 처리에 중점을 둔 DPU가 나타났다.

CPU란 ?

CPU(Core Processing Unit)는 컴퓨터의 두뇌로 많은 처리 장치 중 하나지만 가장 중요한 구성 요소이다. CPU는 억, 해석, 연산, 제어라는 4대 주요 기능을 관할하는 장치를 말한다. 결과를 출력하기 위하여 컴퓨터의 RAM에서 입력을 가져와 명령문을 이해하고 처리한다.

CPU는 특히 대기 시간이나 코어당 성능이 중요한 워크로드에 적합하다. CPU는 강력한 실행 엔진으로서 코어 수가 적으며 개별적인 작업과 신속한 작업 처리가 가능하다.
 

반응형

GPU란 ?

우선 CPU와 GPU는 서로 공통점이 많다.

GPU(Graphic Processing Unit)로 그래픽 처리 장치로, 그래픽 처리, 특히 3D 렌더링 작업 속도를 단축하기 위해 개발된 전문 ASIC으로부터 발전했다. GPU의 주요 기능은 생생한 그래픽의 게임을 지원하여 최근에는 범용적인 병렬 프로세서로도 발전하여 점점 더 다양한 응용 프로그램을 처리하고 있다.

CPU의 연산을 담당하는 연산장치(ALU)는 구조가 매우 복잡하고, 각종 제어 처리를 담당하고 있어 명령어가 입력된 순서로 출력하는 직렬 처리 방식 및 복잡한 계산에 대한 빠른 처리가 가능하다.

GPU는 연산 장치(ALU)의 구조가 단순하고, 작은 제어/캐시 영역을 갖고 있어 상대적으로 성능이 떨어진다. 하지만, 이러한 구조적인 특징으로여러 개의 코어를 동시에 병렬로 작동시켜 부동 소수점 연산 등 특정 단순 계산을 빠르게 할 수 있다.
 
그래픽 처리 장치(GPU)는 처음에는 컴퓨터 그래픽과 이미지 처리를 가속화하기 위해 설계된 특수 전자 회로(비디오 카드에 탑재되거나 마더보드, 휴대폰, 개인용 컴퓨터, 워크스테이션, 게임 콘솔에 내장되어 있음)이지만, 이후 병렬 구조로 인해 난처한 병렬 문제를 포함하는 비그래픽 계산에 사용되었다.
 
비그래픽 용도로는 인공지능 신경망 훈련과 암호화폐 채굴 같은 분야에서도 사용된다.

최근에는 이런 특성으로 인공지능용으로 GPU가 활용되고 있다.

DPU는 데이터 처리 장치

Data Processing Unit로, DPU는 업계 표준의 소프트웨어 프로그래밍 가능 멀티코어 중앙처리장치(CPU)라고 보면 된다.
데이터 중심 가속 컴퓨팅의 또 혁신할 것이며, DPU는 차세대 프로그래밍 가능 프로세서가 될 것으로 보인다. 아마존, 마이크로소프트, 구글 등의 클라우드 데이터센터가 확장되면서 하나의 컴퓨팅 환경처럼 통합적으로 관리할 수 있는 프로세서가 있어야 한다.

이러한 데이터센터와 장비, 네트워크 간 데이터 처리를 효율적을 할 수 있어야 하고, 이를 담당하는 프로세서가 데이터 처리장치(DPU)이다.

엔비디아는 연례 컨퍼런스 GTC 2020에서 ‘블루필드-2’라는 DPU(Data Processing Unit)를 발표했다.

블루필드-2 DPU는 기업 데이터 센터에 최적화된 칩 아키텍처 상에 세계 최초의 데이터 센터용 인프라를 구축할 수 있게 한다. 블루필드-2 DPU는 Arm 코어가 탑재되어 초당 200기가비트의 데이터 전송 속도를 제공한다.

DPU의 주요 특징은 아래와 같다.

• 고성능 네트워크 인터페이스로 데이터 파싱(parsing), 데이터 처리, 데이터를 GPU 및 CPU로 효율적으로 전송할 수 있다.
• 프로그래밍 가능한 가속화 엔진으로 인공지능(AI), 딥러닝, 머신러닝, 보안, 데이터 저장 등을 위한 애플리케이션 성능을 향상시킬 수 있다.
• 업계 표준의 소프트웨어 프로그래밍이 가능한 멀티코어 CPU로, 일반적으로 널리 사용되는 Arm 아키텍처를 기반으로 하며 다른 시스템 온 칩(SoC) 구성 요소와 긴밀하게 결합된다.
• 고성능 네트워크 인터페이스를 통해 데이터를 구문 분석 및 처리하고 데이터를 GPU 및 CPU로 효율적으로 전송한다.
• 유연하고 프로그래밍 가능한 가속 엔진으로 인공 지능(AI), 머신 러닝, 보안, 통신, 스토리지 등의 애플리케이션 성능을 오프로드하고 향상시킨다.
• 이러한 DPU 기능은 차세대 클라우드 컴퓨팅 환경이 될 베어메탈 클라우드 네이티브 컴퓨팅을 구현하는 데 매우 핵심적인 기능이다.

 

DPU는 스마트NIC(Smart NIC)와 통합되어 있다. NIC는 네트워크 인터페이스 제어장치, Network Interface Controller로 단일 컴퓨터 간 네트워크를 담당하는 컨트롤러인데, 이것을 스토리지, 컴퓨팅 가속화 기능과 결합된 것이 스마트NIC이다.
 
엔비디아의 블루필드-2 DPU는 현재 시제품을 제공하여 필드 테스트 중이며, 이후 버전인 블루필드-2X DPU는 현재 제품 개발 단계에 있으며 2021년에 출시되었다.
 
블루필드-2 DPU는 중요한 네트워크, 스토리지 및 보안 작업을 CPU에서 최적화된오프로딩을 지원한다. 이를 통해 조직 내 IT 인프라의 제로 트러스트(Zero Trust) 보안 기능을 가속화하고, 프로그래밍이 가능한 최첨단 데이터센터로 전환해 데이터 침해 및 사이버 공격을 방지할 수 있다.

최대 125개의 CPU 코어 기반의 데이터센터와 동일한 수준의 서비스를 제공하는 단일 BlueField-2 DPU는 CPU 코어의 효율성을 극대화해 엔터프라이즈의 다양한 애플리케이션 실행을 지원한다.