정림반도체, 추론 NPU ‘가온2’ 공개…“전력효율 2.3배 개선”

팹리스 기업 정림반도체가 추론 전용 신경망처리장치(NPU) ‘가온2’를 17일 공개했다. 전작 대비 전력효율을 2.3배 높이고 대형언어모델(LLM) 추론 처리량을 1.8배로 끌어올렸다는 게 회사 설명이다.

가온2는 4나노 공정으로 생산되며 칩 한 장에 128기가바이트(GB)의 메모리를 얹었다. 회사는 700억 매개변수급 모델을 카드 두 장으로 구동할 수 있다고 밝혔다. 카드당 소비전력은 250와트(W) 수준이다.

겨냥한 시장은 기업용 온프레미스 추론이다. 학습용 그래픽처리장치(GPU) 시장은 이미 판도가 굳어졌지만, 추론은 비용 민감도가 높아 후발주자에게도 기회가 있다는 판단이다. 정림반도체는 현재 국내 금융·공공 부문 6곳과 실증 사업을 진행 중이다.

정림반도체 관계자는 “절대 성능으로는 최상위 GPU를 따라가지 못한다”면서도 “추론 토큰당 비용에서는 40%가량 앞선다는 것이 실증에서 확인됐다”고 말했다. 양산 목표 시점은 내년 1분기다.

관건은 소프트웨어 생태계다. 한 업계 관계자는 “개발자가 쓰던 프레임워크를 코드 수정 없이 그대로 올릴 수 있느냐가 국산 NPU의 오랜 숙제”라고 지적했다. 정림반도체는 주요 오픈소스 추론 엔진과의 호환 계층을 연내 공개하겠다고 밝혔다.