차세대 인공지능·빅데이터 혁신 가속… 글로벌 PIM 반도체 시장 선점 기대

KAIST 연구진이 기존 대비 최대 11배 빠른 성능을 제공하는 PIM(Processing-in-Memory) 반도체 전용 네트워크 기술을 개발했다. 이번 연구를 통해 PIM 반도체 간 데이터 이동 속도를 획기적으로 개선함으로써 차세대 고성능 컴퓨팅, 인공지능(AI), 빅데이터 분석 기술 발전에 크게 기여할 것으로 기대된다.

PIM 반도체, 데이터 이동 병목 해결이 핵심

최근 인공지능, 빅데이터, 생명과학 연구가 활성화되면서 메모리 대역폭의 중요성이 증가하고 있다. 이에 따라 연산 장치를 메모리 내부에 배치하는 PIM 반도체 기술이 주목받고 있다. 그러나 기존 PIM 반도체는 내부 연산 장치 간 데이터 이동 시 CPU를 거쳐야 하는 구조적 한계를 지니고 있어 성능 병목이 발생하는 문제가 있었다.

KAIST 전기및전자공학부 김동준 교수 연구팀은 미국 노스이스턴 대학(Northeastern University), 보스턴 대학(Boston University), 스페인 무르시아 대학(Universidad de Murcia) 연구진과 협력하여 PIM 반도체 간 직접 통신을 가능하게 하는 인터커넥션 네트워크 구조를 개발했다.

기존 대비 최대 11배 성능 향상… 새로운 PIM 네트워크 구조 적용

이번 연구에서는 기존 PIM 반도체 내부 데이터 이동을 위한 버스(bus) 구조를 최적화하고, PIM 반도체 내부 연산 장치를 직접 연결하는 인터커넥션 네트워크(interconnection network)를 적용했다.

인터커넥션 네트워크는 병렬 컴퓨팅 및 기계학습 분야에서 필수적인 집합 통신(Collective Communication) 패턴에 최적화되어 있으며, 연산 장치 간 통신량과 데이터 이동 경로를 사전에 예측할 수 있는 결정성(determinism) 특성을 활용했다. 이를 통해 기존 네트워크에서 비용을 증가시키는 요소를 최소화하는 데 성공했다.

이러한 최적화 덕분에 기존 시스템 대비 최대 11배 빠른 성능 향상을 달성했으며, 대규모 PIM 메모리 시스템에서도 확장성을 유지할 수 있도록 설계됐다.

차세대 고성능 컴퓨팅 기술로 AI·빅데이터 시장 혁신 기대

KAIST 연구진이 개발한 PIM 특화 네트워크 구조는 인공지능, 빅데이터, 고성능 컴퓨팅(HPC) 등 다양한 응용 분야에서 성능 향상을 이끌 것으로 기대된다. 기존 PIM 반도체는 데이터 이동 과정에서 발생하는 병목 현상으로 인해 활용성이 제한적이었지만, 이번 연구를 통해 PIM 연산 장치 간 원활한 통신이 가능해지면서 PIM 기반 AI 및 빅데이터 응용 기술 발전이 더욱 가속화될 전망이다.

김동준 교수는 “데이터 이동(data movement) 최소화는 PIM을 포함한 모든 시스템 반도체에서 핵심적인 요소”라며, “이번 연구를 통해 PIM의 확장성을 높이고, 차세대 반도체 기술의 발전에 기여할 것”이라고 밝혔다.

국제 학술대회 발표 및 연구 지원

이번 연구는 KAIST 전기및전자공학부 손효준 박사과정이 제1 저자로 참여했으며, 오는 3월 미국 네바다주 라스베이거스에서 열리는 국제 컴퓨터 구조 학술대회 ‘2025 IEEE HPCA(High Performance Computer Architecture)’에서 발표될 예정이다. 또한 이번 연구는 한국연구재단, 삼성전자, 정보통신기획평가원(IITP) 차세대 지능형 반도체 기술 개발 사업의 지원을 받아 수행됐다. KAIST 연구팀의 이번 연구 성과는 차세대 고성능 PIM 반도체 시장에서 기술 우위를 확보하는 데 기여할 것으로 기대되며, 앞으로 AI 및 빅데이터 중심의 컴퓨팅 환경에서 중요한 역할을 하게 될 전망이다.