AI모델의 핵심 기술 HBM 알아보기(+기술 보유 기업 소개)

요즘 생성형 인공지능의 열풍에 따라 GPU(자연어처리 AI모델)에 대한 관심이 뜨겁습니다.

이러한 관심속에 빠질 수 없는 HBM(High Bandwidth Memory) 기술에 대하여 소개하겠습니다.

먼저 AI 모델은 컴퓨터가 '인간'처럼 학습하고 문제를 해결하는 프로그램입니다.

그리고 이러한 복잡한 모델을 만들기 위해 GPU가 사용됩니다. 즉 GPU는 간단히 설명하면 컴퓨터의 '두뇌' 역할을 합니다. GPU가 사용되면 AI 모델은 더 빠르게, 더 정확한 예측을 할 수 있게 되는 것이죠.

그렇다면 GPU는 많은 양의 데이터를 빠르게 처리하고 그 데이터를 극대화 하기 위해 고도의 계산 능력이 필요합니다.

이러한 계산 능력을 제공하기 위해 고성능 메모리가 필요한데, 이때 HBM이 중요한 역할을 합니다.

HBM(High Bandwidth Memory) 은 말 그대로 고대역폭 메모리입니다.

GPU가 수많은 연산을 처리할 때 HBM은 연산에 필요한 데이터를 조달하죠. 데이터를 지체없이 보내려면 엄청난 기술력이 필요한데, 국내 기업은 패키징 기술과 적층 기술로 대역폭 구현을 제시하였습니다.

간단히 말해 메모리 칩들을 적층시켜 이전보다 빠르고 전력 소비는 줄어들어 높은 성능을 제공하는 혁신적인 기술입니다.

대용량 메모리가 필요해짐에 따라 GPU 집적도가 높아야하는데, 밀도를 늘리는 것에는 한계가 있습니다.

그에 따라 메모리를 쌓는 HBM 기술이 각광 받고 있습니다.

* 같은 크기의 기존 GGDR과 비교하면 용량/대역폭이 2배 정도 성능이 뛰어납니다.

이러한 적층 기술은 TSV(Through Silicon Via)를 통하여 실현할 수 있었습니다.

TSV는 씨티셀 단자 구조의 약자로, 작은 구조를 통해 다양한 칩이 서로 연결되게 하는 기술입니다. 기존에 와이어로 연결하던 칩을 구멍을 뚫어 수직으로 연결하여 기존보다 성능이 더욱 좋아졌습니다.

전기 신호 전달은 경로가 짧아져 오류가 나지 않고, 많은 전극을 칩 간 연결할 수 있게 됐죠.

트렌드포스에 따르면, HBM 시장 규모는 2028년에는 170억 달러에 육박할 것으로 예측됩니다.

전 세계 수요가 2023년 매년 거의 60% 성장할 것으로 전망하며,

업계 1위 SK하이닉스, 이어서 삼성전자가 성장 동력으로 삼아 더더욱 부상할 것으로 보입니다.

* 최근 기관을 대상으로 한 기업설명회에서 TSV 공정 생산능력을 두 배로 늘린다고 하였습니다.

관련 기업은 윈팩, 한미반도체, 코세스

시사저널에 따르면 피에스케이홀딩스, 에스티아이, 레이저쎌이 생산하는 장비가

HBM 공정에 쓰일 수 있다하여 관련 기업으로 보입니다.

지금까지 AI모델과 GPU의 관계 그리고 핵심기술인 HBM까지 간략하게 관련하여 알아보았습니다.

다음에는 더욱 유익한 IT기술에 대해 알아보고 관련 기업도 소개드리도록 하겠습니다.

고몽'S 인사이트북