메모리와 인공지능 칩이 결합됐다. 삼성전자는 메모리 내부에 연산 작업에 필요한 칩을 더하는 신개념 융합 기술 PIM(Processing-in-Memory)를 활용한 세계 최초의 ‘인공지능 HBM(고대역폭 메모리)-PIM’ 개발에 성공했다.

최근 인공지능 응용 영역이 확대되고 기술 고도화에 고성능 메모리에 대한 요구가 지속적으로 높아지는 상황에서 나온 반가운 소식이다. 인공지능(AI) 시스템에 HBM-PIM을 탑재할 경우 기존 고대역폭 메모리가 탑재된 시스템 대비 성능은 약 2배 이상 향상되고, 에너지 소비는 70% 이상 감소된다는 게 회사 측 설명이다.

기존 HBM 인터페이스를 그대로 지원하므로 HBM 시스템 고객은 하드웨어나 소프트웨어의 변경 없이 HBM-PIM으로 갈아타 강력한 AI 가속기(인공지능을 실행하기 위한 전용 하드웨어) 시스템을 구축할 수 있다.

오늘날 대부분의 컴퓨터에서 사용되는 폰 노이만 구조는 CPU가 메모리에서 명령어를 불러와 실행하고 그 결과를 다시 기억장치에 저장하는 작업을 순차적으로 진행한다 CPU와 메모리 간 주고받는 데이터에 비례해 지연 시간 또한 증가하는 구조다.

삼성전자는 인공지능 HBM-PIM에서 메모리 내부의 각 뱅크에 인공지능 엔진을 장착하는 방법으로 병렬처리 성능을 극대화했다. 메모리 내부에서 연산처리가 가능한 만큼 CPU-메모리 사이 데이터 이동은 줄어들고 결과적으로 AI 가속기 시스템의 에너지 효율을 높일 수 있다.

미국 아르곤 국립 연구소 CELS(컴퓨팅, 환경 및 생명과학) 연구실장 릭 스티븐스는 “HBM-PIM은 AI 응용을 위한 성능 및 에너지 효율 측면에서 놀라운 성과로 HBM-PIM 시스템 평가를 위해 향후 삼성전자와 지속적인 협력을 기대한다.”라고 밝혀 기대감을 나타냈다.

삼성전자는 반도체 분야 세계 최고권위 학회인 ISSCC에서 논문을 공개했다.

첨단 기술의 상징
이상우
기술을 사랑합니다.