[녹색경제신문 = 이지웅 기자] 박종세 카이스트 전산학부 연구팀이 온디바이스의 자율 시스템 환경에서 원격 컴퓨팅 자원 없이도 기기 자체에 내장된 칩을 통해 적응형 AI를 실현하는 기술을 개발했다. 

‘온디바이스 AI’는 서버나 클라우드에 연결할 필요 없이 모바일 기기 자체적으로 정보를 처리할 수 있다는 것을 의미한다. 다양한 IT 기업들이 이를 활용한 반도체를 설계 및 생산하고 있으나 ▲AI 모델의 경량화 ▲정확도 저하 등과 같은 문제점을 안고 있었다. 이를 해결하기 위해 배포된 모델을 새로운 데이터에 지속적으로 학습시켜 변화된 환경에 대한 적응도와 정확도를 높이는 ‘연속학습’ 기법 연구가 각광받고 있다. 

여기서 박 교수 연구팀은 연속학습에 필요한 ▲추론 ▲재훈련 ▲데이터 라벨링 작업에서 활용 가능한 신경망 처리 장치(NPU; Neural Processing Unit)를 개발했다. 이를 통해 낮은 연산량을 요구하는 추론 작업에 최소한의 자원을 할당해 입력 데이터의 추론 작업을 보장했으며, 남은 하드웨어 자원을 높은 연산량을 요구하는 재훈련 및 데이터 라벨링에 시간적으로 공유할 수 있도록 설계하였다. 이 때 급격한 환경 변화를 탐지한 경우, 추가적인 라벨링 시간을 할당해 새로운 입력 데이터의 습득량을 높여 연속학습의 적응력을 높이게 했다. 

이러한 연구를 토대로  박 교수 연구팀은 지난 6월 29일부터 7월 3일까지 아르헨티나 부에노스아이레스에서 열린 ‘2024 국제 컴퓨터구조 심포지엄(ISCA 2024)’에서 최우수 연구 기록물상(Distinguished Artifact Award)을 수상했다. 

해당 상은 ISCA에 제출된 논문 중 연구 기록물의 혁신성, 활용 가능성, 영향력을 고려해 선정되는 특별한 상이다. 

ISCA는 ▲NPU(신경망처리장치) 구조 및 온디바이스 소프트웨어 시스템 최초 개발 ▲연구의 지속적인 발전을 위해 오픈소스로 공개한 코드 및 데이터 등의 완성도 등을 높게 평가한 것으로 보인다. 

카이스트 측은 “올해부터 독립적으로 발전해 오던 인공지능과 온디바이스 자율 시스템 환경 관련 기술이 밀접하게 결합되어 기존에 없던 새로운 가능성이 만들어 질것”이라며 “박 교수 연구팀에서 제안한 신경망 처리 장치 기술은 이 비전을 현실화하는 초석 중 하나가 될 것”이라 전했다. 

박 교수는 “이번 연구를 통해 온디바이스 자원만으로 적응형 AI를 실현할 수 있다는 것을 입증하게 되어 매우 기쁘고 이 성과는 학생들의 헌신적인 노력과 구글 및 메타 연구자들과의 긴밀한 협력 덕분”이라며 “앞으로도 온디바이스 AI를 위한 하드웨어와 소프트웨어 연구를 지속해 나갈 것”이라 밝혔다.