삼성전자(005930)가 세계 최초로 메모리 반도체와 인공지능 프로세서를 결합한 'HBM-PIM(Processing-in-Memory)'을 개발했다고 17일 밝혔다.
삼성전자는 슈퍼컴퓨터(HPC)와 AI 등 데이터 분석에 활용되는 ‘HBM2 Aquabolt(2세대 고대역폭 메모리 반도체)’에 인공지능 엔진을 탑재해 HBM-PIM을 개발했다. 이번 개발에 활용된 PIM(Processing-in-Memory)은 메모리 내부 연산 작업에 필요한 프로세서 기능을 더한 융합기술로 알려져 있다.
AI 시스템에 HBM-PIM을 탑재할 경우, 기존 HBM2를 이용한 시스템과 비교해 성능이 2배 이상 높아지고 시스템 에너지는 70% 이상 감소될 것으로 분석된다. 또한 기존 HBM 인터페이스를 그대로 이용할 경우에도 하드웨어나 소프트웨어의 변경 없이 AI 가속기(인공지능 실행 하드웨어) 시스템을 구축할 수 있게 됐다.
삼성전자의 HBM-PIM개발 배경으로, 인공지능의 응용 영역이 확대되고 기술이 고도화됨에 따라 고성능 메모리에 지속적인 요구가 있어 왔다.
기존의 메모리는 폰 노이만 구조의 한계를 극복하기 어려웠다. 노이만 구조는 CPU가 메모리로부터 명령어를 불러오고 실행해 그 결과를 기억장치에 저장하는 작업구조이다. 이 구조의 문제는 CPU와 메모리간 주고받는 데이터가 많아지면 작업처리가 지연된다는 것이었다.
이를 극복하기 위해 삼성전자는 메모리 내부 각 뱅크(주기억장치 최소 단위)에 인공지능 엔진을 장착해 병렬처리를 극대화했다. 또한 HBM-PIM은 메모리 내부에서 연산처리가 장착돼 CPU와 메모리간 데이터 이동이 줄어들어 에너지 효율을 높일 수 있게 됐다.
박광일 삼성전자 메모리 사업부 전무는 "HBM-PIM은 AI 가속기의 성능을 극대화시킬 수 있는 업계최초의 인공지능 맞춤형 PIM 솔루션이 될 것으로 기대된다”며 “삼성전자는 고객사들과 지속적으로 협력해 PIM 에코 시스템을 구축해 나갈 것"이라고 밝혔다.