AI 메모리 새 해법 찾는 반도체 업계…"HBM만이 답 아니다"

← 피드로

[지디넷코리아]AI 가속기 성능을 좌우하는 핵심 요소가 연산 능력뿐 아니라 메모리 대역폭으로 옮겨가면서 고대역폭메모리(HBM)은 AI 시대의 필수 부품으로 자리 잡았다. 거대언어모델(LLM)의 학습과 추론 과정에서는 초당 수 테라바이트(TB)에 이르는 메모리 대역폭이 요구되기 때문이다.엔비디아 블랙웰 울트라(GB300), AMD 인스팅트 MI350 등 최신 AI GPU 대부분은 200GB 이상의 HBM을 탑재하고…

원문 보기 ↗