최근 금융권에서는 MAU(월간 활성 이용자수)를 높이기 위해 마이데이터, 챗봇 등 AI를 활용한 금융서비스를 잇달아 제공하고 있다. 또한 비대면으로 은행 업무를 해결하는 고객이 늘면서 개인별 맞춤 금융서비스를 추천하고 제공하는 AI기술의 필요성도 제기되고 있다.

이 가운데 KB금융지주는 AI기술을 잠시 재정비하는 기회를 가졌다. AI의 기술적인 측면뿐만 아니라 윤리적인 측면도 검토해 AI가 편향된 시각으로 데이터를 다루지 않도록 하겠다는 것이다. 이에 따라 AI가 성별, 직업, 학력 등에 따라 차별화된 금융서비스를 제공하는 일이 발생하지 않을 것으로 보인다.

25일 녹색경제신문 취재결과를 종합하면 KB금융지주는 금융권 최초로 AI윤리기준을 제정했다. 지난 8월 금융위원회가 ‘금융분야 AI개발 활용 안내서’를 배포한지 약 2개월만이다.

KB금융지주 관계자는 “지난 8월에 발표한 금융위원회의 AI활용 안내서와 별개로, 내부에서 AI윤리의 기준을 마련해야한다는 목소리가 있었다”며, “금융 임직원과 소비자 의견을 수렴한 후 교수 자문을 통해 KB금융지주 자체 AI윤리기준이 제정됐다”고 말했다.

이어, “이후 임직원을 대상으로 AI윤리실천서약을 실시할 예정이며, 추후 AI윤리위원회를 설립해 AI 관련 최고의사결정기관으로서 소명을 다할 것”이라고 덧붙였다.

AI윤리란 AI기술을 개발하고 운영할 때 지켜야할 윤리적인 원칙이다. 현재 구글, 메타, 네이버, 카카오 등 빅테크 기업을 중심으로 AI윤리기준 및 전담조직이 구성된 상태다.

업계에서는 KB금융지주가 AI윤리기준 제정을 통해 내부 AI기술이 윤리적으로 아무 문제가 없는지 재정비하는 시간을 가질 것으로 보고 있다.

업계 관계자는 “이미 많은 기업이 자체 AI를 개발하다 윤리적인 문제에 부딪쳐 정식 출시하기도 전에 대중의 반발을 받는 등 시장진입에 어려움을 겪는 일이 많았다”며, “이를 사전에 예방하기 위해 KB금융지주가 자체 AI윤리기준을 마련하게 됐다”고 말했다.

이어, “이번 일로 다른 시중은행도 AI윤리기준을 성립하는 계기가 되길 바란다”고 덧붙였다.

KB금융지주 관계자는 “이미 운영되고 있는 AI금융비서, KB-STA(자연어처리 엔진), 챗봇 비비 등도 AI윤리기준에 맞는지 관리할 예정”이라며, “만일 기존 AI가 윤리기준에 맞지 않게 행동한다면 이를 적극적으로 수정해나갈 것”이라고 말했다.

AI의 편향된 데이터 습득 방지...“차별서비스 제공 방지할것”

일각에서는 KB금융지주의 AI윤리기준 성립을 통해 AI가 성별, 직업, 학력 등에 따라 차별화된 금융서비스를 제공하는 일이 발생하지 않을 것으로 보고 있다.

한 소형 AI업계 관계자는 “아무리 금융데이터가 양질의 데이터라 해도, AI에게 편향된 데이터를 제공하면 AI 스스로 특정 계층에 부정적인 편견을 가지는 일이 생길 수 있다”며, “예로 들어 AI가 학력에 따라 신용등급이 좋다며 금리가 낮은 대출상품을 제시하거나 금리가 높은 적금상품을 제공하는 등의 차별이 발생할 수 있다”고 말했다.

이어, “아직 금융권 AI가 개인 맞춤 금융상품을 제공하는 단계까지 오지 않았지만, 향후 출시될 가능성이 있기에 미리 방지하는 차원에서 AI윤리기준 제정은 필수”라고 덧붙였다.

KB금융지주는 AI기술을 활용한 금융서비스의 신뢰도를 향상시키기 위해 7가지 윤리가치를 제시한 바 있다.

주 내용으로는 AI가 고객을 공정하게 대하도록 활용해야하며, 개인정보와 프라이버시가 침해되지 않도록 하며, 문제 발생시 즉시 AI를 통제해 적절한 조치를 취한다 등이 있다.

일각에서는 AI윤리기준 제정이 지난 5월 윤종규 KB금융지주 회장이 한국금융미래포럼에서 밝힌 비전의 연장선이라는 해석도 나온다.

윤종규 회장은 “빠른 변화 속에 소외되고 피해보는 사람이 없어야 한다”며, “모든 기술의 발전과 제도의 변화는 결국 사람의 행복을 위해 이뤄져야 한다”고 연설한 바 있다.

KB금융지주 관계자는 “해당 발언은 AI윤리기준 제정에 직접적인 연관이 없다”며, “해당 경영철학이 있었기에 AI윤리기준 제정이 원활히 이뤄질 수 있었다”고 말했다.