AI기술이 대중화됨에 따라 TV에도 인공지능 기술이 탑재되고 있다. 인공지능 TV의 경우 보편적으로 쓰이는 생성형AI모델이 아닌 기기 자체 내에 작동하는 '온디바이스 AI' 모델이 탑재된다. 대표적으로 삼성전자도 자사의 인공지능TV에 온디바이스AI를 탑재하고 있다. 삼성전자는 TV에 탑재하는 인공지능 모델로 온디바이스AI를 택한 이유를 '경량화·고성능·사생활 보호'로 꼽았다. 

(*온디바이스 AI:On-Device AI, 서버나 클라우드 없이 기기 내에서 자체적으로 AI를 구동하는 기술이다. 네트워크 연결이 필요 없어 사용자가 언제나 빠른 반응 속도로 AI 기능을 사용할 수 있으며, 개인정보 보안에 있어서 강점을 가진다.)

15일 삼성전자는 자사의 뉴스룸과 공식 유튜브 채널을 통해 온디바이스AI가 가져오는 혁신에 대한 기고글과 영상을 게시했다.

삼성전자 유튜브 채널에는 ‘삼성 TV에 적용된 온디바이스 AI’ 제목의 영상에는 함철희, 김선민 삼성전자 VD사업부 마스터가 출연해 삼성TV 내 탑재된 AI 기능에 대해 설명했다.

김선민 마스터는 “실시간 시청을 하며 짧은 순간에 극소의 데이터가 오고가야 하는 인공지능TV의 경우 방대한 양을 학습해 서버를 통해 작동하는 생성형 AI모델보다 온디바이스AI가 적합하다”라고 설명했다.

그러면서 “기기 내의 온디바이스AI를 특정 임무를 위한 데이터를 학습해 이를 실제로 효율적으로 구현해내도록 하는데 집중했다”라고 설명했다.

온디바이스AI 모델의 최적화를 위해 삼성전자는 AI모델의 크기를 경량화했다. 알고리즘을 단순화하는 양자화(Quantization) 기법, 대형모델에서 필수 요소만 남겨 소형 모델을 만드는 프루닝(Pruning) 기법 등을 이용해 가볍고 빠른 AI 모델을 개발했다.

여기에 하드웨어 최적화와 데이터 처리 가속화 분야에도 집중하고 있다. 대형 모델을 분할해 AI를 구동하는 플래시 메모리 최적화(Flash Utilization) 기술을 적용해 메모리 사용량을 대폭 줄이고 연상능력을 향상시키는 연구를 진행 중이다.

향후 삼성전자는 온디바이스 AI 기술 혁신을 위해 국내 연구 조직과 함께 해외 연구 네트워크를 통해 협력한다는 계획이다. 선행연구를 담당하는 삼성리서치는 영국, 미국 연구소에서 AI 모델 구조 개발과 경량화 연구를, 인도와 폴란드 연구소에서는 AI 구동 가속화 솔루션 개발을 진행하는 등 연구소별 전문성을 살려 경쟁력을 더욱 높일 예정이다.

[녹색경제신문 = 조아라 기자]