[IT상식] HBM 이란? - 엔비디아의 AI 반도체 H200의 핵심!

 

안녕하세요. Jamond입니다.

최근 엔비디아에서 고성능 AI반도체 H200을 공개했습니다.

 

우리나라에서는 AI에 대한 관심도가 낮지만 미국에서는 엄청난 관심을 보이고 있습니다.

H200과 같은 완제품의 관심도가 많지만 저는 핵심부품에 대해서 궁금증이 생기더라고요.

 

 

 

 

오늘은 고성능 반도체에서 필수적인 요소인 HBM에 대해서 알아보겠습니다.

출처 sk하이닉스

---

1. HBM 이란?

 

AI 반도체 관련 기사에서 연산처리 속도가 빠르다는 내용을 볼 수 있습니다.

AI 반도체는 연산처리능력이 중요하지만 

결국에는 데이터를 전송하는 장치가 제 역할을 하지 못하면 성능을 발휘 못합니다.

이것을 도와주는 것이 HBM(high bandwidth memory)입니다.

 

 고성능 컴퓨터 (AI를 이용한 또는 연구하는)에서 사용되는 메모리 기술입니다.

이 반도체는 높은 대역폭, 낮은 전력소비, 방대한 데이터 처리속도로 효율성이 높다는 특징이 있습니다.

 

 

---

2.  HBM의 특징

• 3D 스택 구조 : HBM은 메모리 칩을 3D로 쌓은 구조입니다. 기존의 1개의 층으로 넓게 사용하는 것보다 더 높은 데이터 처리 속도, 낮은 지연시간을 제공합니다. 3D로 쌓은 구조에서 각 층 사이에 전기적 연결 TSV를 사용합니다.
• 대역폭: HBM은 매우 넓은 대역폭을 제공하는데요. 간단하게 설명하면 데이터가 다니는 길을 왕복 2차선이 아닌 왕복 10차선으로 넓어진다는 의미입니다. 이것으로 방대한 데이터를 빠르게 전송해야 하는 업무에서 필요한 요구를 충족시켜 줍니다.
• 낮은 전력 소비량: 낮은 전력 소비를 가지고 있다는 의미는 열 발생량을 줄인다는 것입니다. 이것은 결국 더 작은 공간에 더 많은 칩을 넣을 수 있다는 거죠.

 

---

3.  HBM을 만드는 기업

 

대표적으로 3개의 기업을 볼 수 있는데요

• 삼성전자: 자체 개발하여 삼성전자 자체에서 만드는 반도체에 HBM을 사용한다고 합니다. 정확한 내용은 찾을 수 없네요ㅠ
• SK하이닉스: 엔비디아와 AI반도체 내 HBM을 공급하는 계약을 A100때부터 해왔다고 하네요.
• 마이크론 테크놀로지

---

4.  마무리

오늘은 고성능 반도체에 들어가는 핵심 부품 중 하나인 HBM에 대해 알아봤습니다. 

HBM의 데이터 처리속도가 증가하는 업그레이드가 생기면 AI반도체 또한 다음 세대가 출시되더라고요.

그만큼 HBM이 중요한 부품이라는 생각이 들어요.

 

아직은 대중에 알려진 내용이 별로 없다 보니 제가 찾아온 내용도 조금 부실한데요. 

이후 추가적으로 알 수 있는 내용이 있다면 더 추가해 볼게요!

 

 

 

2021.03.31 - [알면 쓸데 있을지 모를 궁금한 것/IT & 소식] - [IT 정보] 파운더리? IDM? 반도체 기업의 종류!

[IT 정보] 파운더리? IDM? 반도체 기업의 종류!

2021.03.18 - [알면 쓸데 있을지 모를 궁금한 것/IT & 소식] - [IT 정보] 반도체가 만들어지는 공정에 대해 알아봐요! #1

[IT 정보] 반도체가 만들어지는 공정에 대해 알아봐요! #1