[녹색경제신문 = 조아라 기자]

재계는 급변하는 글로벌 시장에 대응하기 위해 ESG에 사활을 걸고 있다. 이제 ESG는 거스를 수 없는 대세로 자리잡고 있다. ESG는 환경적 건전성(Environment)과 사회적 책임(Social), 투명한 지배구조(Governance)를 바탕으로, 기업 가치를 높이고 지속가능발전을 추구하는 경영 전략이다. ESG 중심에는 사람이 있다. 이에 <녹색경제신문>은 ESG를 이끄는 사람들을 연중 기획으로 소개한다. <편집자 주(註)>

챗GPT를 시작으로 AI의 영향력이 산업계 전반에 끼치는 가운데 그 확산세가 더 빨라지고 있다. AI의 영향력이 커지는 만큼 이에 대한 윤리 문제 역시 대두되고 있다. 최근 각국 정부의 AI 규제 움직임도 돋보인다.

이와 관련해 자연어 처리 기반의 AI 스타트업 기업 ‘튜닙’의 박규병 대표와 만나 이야기를 들어봤다. 튜닙은 욕설이나 혐오표현을 판별하는 엔진을 이용한 ’윤리성 판별 API 서비스와 페르소나 AI를 이용한 '디어메이트' 앱을만든 회사다.

박규병 튜닙 대표는 지난 MS사의 테이, 스캐터랩의 이루다 탯봇을 언급하며 AI 영역에서의 혐오표현과 윤리 문제를 경고했다.

박 대표는 “이같은 사례들을 통해서 주관식형 챗봇의 경우에 혐오표현이나 윤리 문제가 얼마나 위험한 일인가를 알 수 있고 그래서 저희가 하려고 하는 사업이 딱 그런 거였기 때문에 윤리를 담보하지 않으면 서비스 자체가 불가능하겠다는 생각했다”라고 설명했다.

그러면서, “그래서 챗봇을 만드는 것과 거의 동시에 ’윤리 엔진을 만들어야 겠다, 얘가 이제 헛소리를 하지 않도록 나쁜 말 하지 않도록 해야 되겠다‘는 생각을 하고 출발했다”라고 덧붙였다.

이어 “이같이 혐오표현이나 윤리성에 대비하는 것이 (업계에서) 그렇게 특별한 일은 아니다”라면서 ”챗GPT를 만든 오픈AI도 ’얼라인먼트 팀‘을 만들었고 다른 기업들도 여기에 대비하는 추세다“라고 설명했다.

AI 기술 규제 관련해서 박 대표는 “어려운 얘기인데 규제와 공존이 같이 가야 한다”고 언급했다. 그는 “인간 사회도 그렇듯 규제와 규제를 풀어주는 것이 공존하는 가운데 신사업 가이드라인을 마련하는 작업이 필요하다”라고 주장했다.

다만, “이제 AI산업의 발전 가능성을 막는 방향으로 가는 건 가능하지 않다”면서, “그게 옳으냐 그르냐를 떠나서 시대의 흐름상으로 막을 수 가 없다”라고 했다.

◇박규병 튜닙 대표 약력

-現 튜닙 대표이사

-前 카카오브레인 자연어처리(NLP) 팀장

-서울대학교 국어국문학과 전공(학사), 하와이대학교 언어학 전공(석사)

다음은 박규병 튜닙 대표와의 인터뷰 전문이다.

Q1. ‘튜닉’은 어떤 회사입니까?

튜닉은 2021년 3월에 창업을 한 인공지능 자연어 처리 기반의 기술 스타트업이고요. 지금 이제 ‘디어메이트’라고 하는 서비스 앱 서비스를 운영을 하고 있고 이거는 페르소나 챗봇 들의 SNS 서비스예요. ‘페르소나 챗봇’ 개념이 조금 낯설 수 있는데 ‘인스타그램에 챗봇이 더해졌다‘라고 생각하면 더 직관적으로 이해할 수 있는 그런 서비스예요.

Q2.페르소나 챗봇에 대해 궁금합니다.

쉽게 생각하면 캐릭터 챗봇이라고 이해하시면 돼요.

그러니까 인스타그램에 보면 저마다 사람들 자기 개성을 표현하듯이 챗봇들도 예를 들면 우리가 흔히 쓰는 챗GPT나 이런 챗봇은 정보 전달을 통해 우리 편의를 도와주는 그런 페르소나를 지닌 하나의 챗봇이라고 볼 수 있는 겁니다.

그 챗봇이 어떤 다른 존재로 변신해서 연예인인 척할 수도 있고 하나 하나를 이제 페르소나로 정의할 수 있는 거죠. ’디어메이트‘ 앱에 들어가 보면 다양한 인간 군상들이 있듯이 다양한 어떤 성격을 지닌 여러 캐릭터 챗봇이 있는 걸 보실 수 있습니다.

Q3. 페르소나 챗봇과 대중들이 흔히 아는 챗봇의 차이점이 궁금합니다.

AI 자체는 다 AI인데요. AI를 활용하는 분야가 다르다고 보시면 될 것 같아요.

챗봇의 활용 분야는 전통적으로 보면 두 개로 나누어져서 첫 번째는 정보 전달, 다른 하나는 감성형 챗봇으로 쓰여왔습니다. 정보 전달의 경우 챗GPT를 통해서 우리가 이제 그 파급력을 잘 알게 됐죠.
후자는 그동안 심심이 서비스라든지 어떤 반려견 로봇 같은 거 한번 생각해 볼 수 있죠. 컴패션이라고 부르는 데 어떤 로봇이 나를 위한 로봇이 있어서 내가 심심할 때 정보를 전달해 주는 것은 물론이고 내 감성을 어루만져주는 이런 지점에서 활용되는 거죠.

Q4. 튜닙은 그 후자(감성형 챗봇)에 집중한 이유가 궁급합니다.

정보 제공이나 실용성이라는 측면에서 보면 인간에게도 어떤 이성적인 영역이 있고 감성적인 영역이 있는데 각각의 특징이 있잖아요. 이성적인 영역에서 보면 기술적으로 보면 이성적인 영역에서는 문제를 해결하려고 하면 틀리면 안 되고 아는 게 많아야 되고 뭐 이런 영역이 있고 감성적인 영역은 그 대신 재미나 사람의 마음을 공감해 주는 게 더 중요하죠. 정보 전달과 감성적 측면 둘 다 잘하면 좋겠지만 하나를 잘하기도 힘든 거고요. 저는 감성(형 챗봇) 쪽이 더 재미있다고 생각하고 제가 하고 싶은 방향과도 맞았다고 생각합니다.

Q5. 욕설이나 혐오표현을 판별하는 엔진을 이용한 ’윤리성 판별 API 서비스‘를 만든 배경이 궁금합니다.

(튜닙이 지난 2022년 공개한 윤리성 판별 API는 사용자가 텍스트를 입력하면 튜닙의 딥러닝 모델이 문맥을 분석한 뒤 혐오 표현을 자동 탐지해 모욕, 욕설, 폭력/위협, 범죄 조장 등 11가지 항목으로 분류하는 것이 가능하다.)

거슬러 올라가면 2021년도 초 2022년도 말에 챗봇 이루다 서비스가 나오면서 국내에서 혐오 발언 이슈로 논란이 됐었죠. 한국의 경우 그때 챗봇의 윤리성 문제가 수면 위로 올라왔지만 사실 그 이전에 2016년에 출시된 MS(마이크로소프트)사의 테이라는 챗봇이 혐오표현 문제로 24시간 만에 문을 닫았어요.

이같은 사례들을 통해서 주관식형 챗봇의 경우에 혐오표현이나 윤리 문제가 얼마나 위험한 일인가를 알 수 있고 그래서 저희가 하려고 하는 사업이 딱 그런 거였기 때문에 윤리를 담보하지 않으면 서비스 자체가 불가능하겠다는 생각을 했고요.

그래서 챗봇을 만드는 것과 거의 동시에 ’윤리 엔진을 만들어야 겠다, 얘가 이제 헛소리를 하지 않도록 나쁜 말 하지 않도록 해야 되겠다‘는 생각을 하고 출발했죠.

그리고 이런 생각은 그렇게 특별할 것도 없는 게 챗GPT도 ’얼라인먼트 팀‘이라고 해서 요즘 화제가 되고 있는데 다른 회사들도 너무너무 중요하기 때문에 시작을 한 거죠.

Q6. 튜닙의 API 서비스가 비단 명시적인 욕설 표현뿐만 아니라 맥락적 상황에서의 혐오표현도 판별이 가능하다고 알고 있는데 그럼 최근에 생겨난 시의성있는 ’밈적‘ 혐오표현도 판별이 가능할까요?

한국어 중심의 데이터 모델로 최신 데이터를 계속 추가하고 있어요. 최근 숭실대 연구팀과 공동 연구를 진행해 비꼬기 등 암시적인 형태의 혐오 발언 탐지가 가능하도록 라벨링 가이드라인을 구축했고, ’한국어 라벨링 데이터셋 K-HATERS‘ 완성한 바 있습니다.

Q7. 최근 논의가 활발한 AI규제에 대해서는 어떻게 생각하는지 궁금합니다.

어려운 얘기인데 규제와 공존이 같이 가야 된다고 생각합니다. 인간 사회도 그렇잖아요.
인간들끼리 사는 세계에도 늘상 규제도 하고 또 풀어주기도 하고 하듯이 가이드라인을 마련하는 작업을 계속해야 될 것 같고요.

그런데 이제 AI산업의 잠재가능성을 막는 방향으로 가는 건 가능하다고 보지 않고요. 그게 옳으냐 그르냐를 떠나서 시대의 흐름 상으로 막을 수가 없다고 생각합니다.

Q8. 튜닙의 향후 계획과 목표는 어떤 것일까요.

향후 계획은 ’디어메이트‘ 서비스를 활성화시켜가지고 페르소나 챗봇과 같은 감성형 챗봇이 주류가 되는 시대가 올 때 주도권을 지는 게 저희가 가지고 있는 목표예요.

시대적 흐름을 보면 챗GPT와 같은 생산성 측면의 챗봇 활용의 경우 그 활용도와 필요성이 여지 없이 입증되었고 이제는 완전히 자리를 잡아서 비즈니스 모델로 수익창출이 가능한 시대까지 왔습니다.

여기 한 발 뒤에 있는 게 있는데 저는 그게 감성형 (챗봇)이라고 생각해요.생산성과 대척점이 있는 부분이죠. 그래서 이제 이걸 가지고 놀기 시작하는 거예요. 인간의 감성을 자극하고 외로움을 달래줄 수도 있구요.

챗봇을 단순히 생산성 측면 뿐만 아니라 오락 기능을 수행하는 감성형 로봇의 시대가 아직은 제대로 오지 않았다고 생각해요. 그래서 그 세상에 빨리 오길 기대하고 있고 그 세상에 마중물이 되고 싶습니다.