국내 초거대 인공지능(AI) 사업을 본격화하겠다고 나선 기업들은 많지만, 이를 뒷받침해 줄 하드웨어 품귀 현상이 심각한 수준이다. 세계 최고의 그래픽처리장치(GPU) 회사 엔비디아가 AI 반도체를 공급하고 있지만, 이미 마이크로소프트(MS)·구글·아마존 등 빅테크들이 초거대 AI 선두권을 확보하기 위한 치열한 선점 경쟁을 펼치는 상황이다. 더군다나 엔비디아의 칩은 가격 부담이 심할뿐더러, AI 특화 반도체에서는 경쟁력이 그리 높지 않다는 시각도 크다.

결국, 자체 기술력을 바탕으로 한 AI 반도체의 필요성이 크게 부각되고 있다. 구글은 이미 한참 전부터 자체 칩 생산에 나섰으며, MS도 최근 대규모 언어모델을 구동하는 자체 AI 반도체를 개발하고 있다고 공식화했다. SKT·KT·LG·네이버·카카오 등 국내 대표 AI 기업들은 어떻게 AI 반도체 국산화 작업을 펼치고 있는지 <녹색경제신문>이 짚어봤다.

국내 대표 이동통신사 SK텔레콤과 KT가 각각 자사의 초거대 AI 비전을 내세운 가운데, 양사 모두 자체 서비스를 극대화하기 위한 나름의 AI 반도체 솔루션 전략을 펼치고 있다.

특히, 최근에는 의미 있는 성과들도 보여주고 있어 업계 기대를 모으고 있다.

◇ 사피온, 성능 4배 올린 ‘X330’ 올 하반기 출격...SKT ‘에이닷’ 고도화 지원

SK텔레콤은 자사에서 독립한 AI 반도체 전문법인 ‘사피온(SAPEON)’의 하드웨어 기술력을 기반으로 초거대 AI 강화를 가속할 방침이다. 사피온은 올 하반기 AI 반도체 ‘X330’을 출시할 계획으로, SK텔레콤의 ‘에이닷(A.)’ 서비스 고도화에 기여할 것으로 기대된다.

이 사안을 잘 아는 한 AI 반도체 공급업체 관계자는 <녹색경제신문에> “사피온의 차세대 AI 반도체 X330이 SK텔레콤의 에이닷 서비스에 곧바로 적용되는 부분은 아직 확정되지 않았지만, 이는 챗GPT에 적용 가능한 칩이 될 것으로 예상돼, SKT의 초거대 AI에 적용하는 것도 별 무리는 없을 것으로 본다”라고 말했다.

그러면서 “이미 전작인 X220의 경우에도 챗GPT의 원천 기술인 트랜스포머를 가속한 경험이 있다”라고 덧붙였다.

사피온은 작년 초 SK텔레콤·SK하이닉스·SK스퀘어가 SK ICT 연합 출범을 공식화하면서 3사의 공동투자로 세운 미국 별도 법인으로, 국내에는 지사 형태로 ‘사피온코리아’를 운영하고 있다. 지난해 4월 국내 최초 AI 반도체로 알려진 ‘X220’를 개발해 실제 출시까지 성공하면서 업계 이목을 끈 바 있다.

SK텔레콤에 따르면 사피온은 지난해 투자금 800억원을 바탕으로 SKT 계열사로 분사했지만, 현재는 기업 가치가 5000억원까지 오른 것으로 평가된다. 최근 열린 MWC와 WIS 등 굵직한 IT 행사에서도 퀄컴 등 글로벌 참관객들의 관심을 한몸에 받은 것으로 전해진다.

회사측은 올 하반기 출시 예정인 X330이 전작 대비 4배를 뛰어넘는 성능을 구현할 것이라고 자신했다.

올 초 ‘MWC 2023’에 SK텔레콤과 함께 참석한 류수정 사피온 대표는 “차세대 AI 반도체인 X330을 올해 하반기에 출시할 예정”이라며, “전 모델인 X220 대비 4배 이상 성능이 향상되며 챗GPT 같은 거대모델 처리에서 높은 효율과 성능을 보였다”라고 강조했다.

◇ 리벨리온, KT ‘믿음’에 엔비디아 GPU보다 빠른 반도체 칩 제공한다

SK텔레콤과 사피온 연합에 도전장을 내건 경쟁사로는 KT와 리벨리온이 있다. 리벨리온은 AI 반도체를 전문으로 하는 스타트업으로, KT가 이른바 자사의 ‘AI 풀스택’을 완성하기 위해 점찍은 핵심 파트너사로 지목된다.

리벨리온은 특히, SK텔레콤과 사피온이 AI에 특화된 반도체로서는 KT에서 추구하는 풀스택과 방향성이 다르다며 직접적인 비교를 꺼리기도 했다.

박성현 리벨리온 대표는 지난해 11월 KT의 AI 전략 기자간담회 무대 위에 올라 “KT와 SKT가 통신 부문에서는 경쟁 업체이긴 해도, 데이터센터 쪽에서는 사실상 체급이 다르다. KT가 훨씬 더 큰 규모의 데이터센터를 만들고 있고 여기에서는 경쟁 상대라고 말하기에 민망한 수준”이라며, “SKT의 사피온은 반도체 연장선상에서 AI 반도체를 바라보고 있지만, KT가 조성한 AI 반도체 풀스택은 AI 알고리즘에 완전히 특화된 방향으로 접근하고 있어, 서로 방향성이 다르다고 볼 수 있다”라고 언급한 바 있다.

그러면서 “KT는 국내 가장 최초로 엔비디아에 의존하지 않는 AI 생태계 조성을 시도한 유일한 팀”이라고 강조했다.

이러한 자신감을 증명이라도 하듯, 리벨리온은 최근 AI 반도체 성능에서 좋은 성과를 거둬 업계를 놀라게 했다. 지난달 벤치마크 대회 ‘엠엘펄프(MLPerf)TM(v3.0)’에서 자사의 AI 반도체 ‘아톰’이 엔비디아·퀄컴 등 글로벌 빅테크에서 만든 반도체 칩보다 높은 성능을 달성하는 데 성공한 것이다.

리벨리온에 따르면 아톰은 언어모델 ‘BERT-Large(BERT)’ 부문 처리 속도 면에서 퀄컴, 엔비디아가 제작한 동급 GPU 대비 1.5~2배 앞섰으며 비전모델 ‘ResNet50’ 부문에서는 싱글 스트림 속도 0.239마이크로초(ms)로 퀄컴 반도체 대비 1.4배, 엔비디아 GPU 대비 3배 이상 빠른 성능을 보였다. 작업 범위를 효율화함으로써 전력 소비량 또한 엔비디아 ‘A100’의 20% 수준까지 감소한 것으로 나타났다.

아톰은 현재 KT 데이터센터에서 테스트 중이며, 테스트를 모두 완료할 시 KT가 올 하반기 출시할 초거대 AI 서비스 ‘믿음(Mideum)’에 즉시 적용될 것으로 전해졌다.