뉴로모픽이 AI 전력 대란 끝낸다

거대 언어 모델(LLM)은 매 단어를 생성할 때마다 메모리를 빈번하게 참조해야 한다. 연산과 저장이 분리된 폰 노이만 방식의 물리적 거리가 데이터 병목과 전력 낭비를 초래한다는 게 정대성 교수의 설명이다.

AI 거대 언어 모델은 단어를 생성할 때마다 메모리를 빈번하게 참조해야 하는 구조적 한계를 안고 있다.

CPU와 메모리 간의 물리적 거리는 전자 세계에서 매우 멀어 데이터 병목과 전력 낭비가 발생한다.

삼성전자와 SK하이닉스 등 주요 반도체 기업들은 현재 프로세싱 인 메모리(PIM) 기술을 개발 중이다.

이 기술은 메모리 칩 안에 최소한의 연산 능력을 넣어 CPU와 메모리 간의 물리적 거리를 최소화하는 방식으로 전력 효율을 높이려 한다.

정 교수는 이 같은 작업량 차이가 비교 불가능한 수준이라고 덧붙였다.

정 교수는 AI가 언어 생성 과정에서 메모리를 방문하는 빈도가 게임과는 비교가 되지 않는다고 강조했다.

게임은 주로 CPU가 연산을 수행하는 방식이어서 AI와는 근본적인 데이터 처리 방식에서 차이가 있다.

하드웨어 수준에서 뇌 구조를 물리적으로 모사하는 것이 최신 연구의 핵심이다.

현재 연구되는 뉴로모픽 기술은 하드웨어 수준에서 인간의 뇌 구조를 물리적으로 모사하는 것을 목표로 한다.

인공신경망 소프트웨어는 인간 뇌를 닮았지만, 하드웨어는 여전히 폰 노이만 방식을 유지하여 상당한 데이터 병목현상이 발생했다.

구조적 미스매치는 2세대 뉴로모픽 칩의 한계다. 정 교수는 인간의 뇌를 닮은 하드웨어로의 전환이 필수적이라고 지적했다.

현재 2세대 뉴로모픽 칩은 시냅스 하나를 모사하기 위해 수십 개의 실리콘 트랜지스터를 조합해야 한다.

뇌의 100조 개 이상 시냅스를 구현하려면 집채만 한 크기의 칩이 필요하다는 점은 물리적 공간 효율성 측면에서 큰 과제다.

3세대 뉴로모픽 칩의 핵심은 트랜지스터 하나가 시냅스 하나의 기능을 수행하는 일대일 매칭 기술이다.

이를 통해 기존 칩의 물리적 공간 문제를 완전히 해결할 수 있으며, 대표적인 기술로 전기 화학 트랜지스터가 연구되고 있다.

전기 화학 트랜지스터는 화학적 이온 농도 변화에 따라 전기적 특성이 달라져 뉴런과 시냅스의 구조적 효율성을 획기적으로 높일 수 있다.

시냅스처럼 주변 화학 환경 변화에 따라 전기적 특성이 변하는 기능을 구현하려면 유기물 기술 도입이 필수적이다.

하지만 유기 반도체는 수분과 산소에 취약하여 안정성이 떨어지는 단점이 있어 학계의 최대 난제로 꼽힌다.

현재 OLED 등 기존 사례를 바탕으로 유기물 안정성 개선 연구가 진행 중이며, 산화물이나 양자점 같은 대체 소재 연구도 병행되고 있다.

이러한 안정성 문제는 상용화를 위한 핵심 과제로 남아있다.

PIM은 기존의 연산·저장 분리 구조를 해결하기 위한 절충안으로, 2세대 뉴로모픽의 사촌 격 기술이라 할 수 있다.

2세대 뉴로모픽은 연산과 저장 기능을 동시에 갖춘 칩을 병렬 배치하는 방식이며, 아날로그 칩 단계로 발전하면 PIM과 뉴로모픽은 결국 동일한 지향점을 갖게 될 것으로 전망된다.

인텔 '로이(Loihi)'와 IBM '노스폴' 등 2세대 뉴로모픽 칩의 시제품은 이미 개발되었지만, 일상생활에 보급되지 못하는 주요 원인은 소프트웨어 생태계의 부재 때문이다.

폰 노이만 구조에 익숙한 개발 환경 탓에 뉴로모픽 전용 소프트웨어 개발은 더디다. 정 교수는 상용화를 위해 시장 형성과 개발자 참여가 관건이라고 말했다.

폰 노이만 컴퓨터가 상시 가동되어 전력을 낭비하는 것과 달리, 뉴로모픽 칩은 이벤트가 감지된 영역의 픽셀만 활성화되어 정보를 획득하고 연산한다.

이 기능은 24시간 감시가 필요한 CCTV나 배터리 기반의 IoT 단말기 등 저전력 환경에 최적화된 대안으로 평가받는다.

웨어러블 글래스나 워치 등 현재 웨어러블 기기는 GPU의 상시 구동으로 인해 배터리 교환 주기가 짧은 문제가 있다.

심박수나 체온 측정 등 감지 기능을 뉴로모픽 칩으로 전환하면 전력 소모를 비약적으로 개선할 수 있다.

산업용 머신 비전에 이어 웨어러블 시장이 뉴로모픽 칩의 주요 적용 분야로 부상할 것으로 예상된다.

정대성 교수에 따르면 1세대 뉴로모픽 기술은 스마트폰의 음성 인식 기능처럼 이미 상용화되어 탑재되어 있다.

2세대 뉴로모픽 기술은 대기업들 사이에서 머신 비전이나 자율주행 보조용으로 테스트가 진행되는 단계이며, 3세대 기술은 대형 언어 모델(LLM)까지 처리 가능한 수준으로 현재 연구 단계에 있다.

뉴로모픽 칩의 도입은 기존 반도체 산업 생태계에 큰 변화를 가져올 것으로 전망된다.

중앙 서버가 아닌 단말기 자체 판단이 중요해지면서 기존 센서 회사들이 칩 개발을 직접 추진하고, 뉴로모픽 칩 개발 회사들도 센서 개발을 병행하는 통합 추세가 나타날 것이다.

특허와 실리콘 구성 능력을 겸비한 기업들의 뉴로모픽 시장 진입이 가속할 것으로 보인다.

정 교수는 이 기술이 HBM이나 GPU 의존도를 없애고 모든 AI 활용 환경을 대체할 것으로 내다봤다.

정대성 교수는 이러한 기술 발전이 스마트폰 정도 크기의 기기 내에서도 중앙 서버 통신 없이 LLM 역할을 수행하는 시대를 열 것이라고 전망했다.

이는 엣지 컴퓨팅의 정점을 의미하며, 모든 AI 활용 분야에서 혁명적인 변화를 가져올 것으로 기대된다.

2세대 뉴로모픽 기술은 미국의 인텔과 IBM이 선도하고 있는 것이 사실이다.

하지만 3세대 뉴로모픽 칩 개발에서는 중국이 압도적인 속도로 앞서나가고 있다.

정 교수는 중국이 국가 주도의 거대 자본을 집중 투자해 최첨단 기술 확보에 최적화된 환경을 갖췄다고 평가했다.