[녹색경제신문 = 나아영 기자] 금융감독원이 금융회사의 인공지능(AI) 시스템 전 주기 위험을 체계 관리하는 '금융분야 AI 위험관리 프레임워크(AI RMF)'를 처음 도입한다. AI RMF는 거버넌스·위험평가·위험통제 3대 축으로 구성됐으며, 법적 강제력 없는 자율 가이드라인으로 1분기 중 시행된다.

금감원은 15일 금융권이 혁신과 책임의 균형 하에 건전하게 AI를 활용할 수 있도록 AI RMF를 마련했다고 밝혔다. 금감원에 따르면 최근 금융권에서는 AI 기반 대고객 서비스 출시와 내부 업무 혁신 사례가 크게 확대되고 있다. 세계경제포럼(WEF)은 지난달 금융산업을 AI 도입 효과가 가장 큰 분야 중 하나로 꼽으며, 업무의 32~39%를 완전 자동화할 수 있다고 평가했다. 하지만 AI의 복잡성과 불투명성, 데이터 편향 등이 잘못된 의사결정이나 차별, 대규모 시스템 리스크를 초래할 수 있다는 지적이 나왔다. 금감원이 지난해 4월 은행·증권·보험·카드 등 118개 금융사를 전수 점검한 결과, AI 관련 의사결정기구를 설치한 곳은 은행 5곳(25%), 보험사 4곳(7.5%), 증권사 1곳(2.7%)에 불과했다. 약 85%의 금융회사는 AI 윤리원칙이나 위험관리 기준 등을 마련하지 않았다.

이번에 도입된 AI RMF는 금융회사가 규모와 AI 활용 수준에 따라 선택 적용할 수 있는 자발적 지침이다. 프레임워크는 금융 AI 7대 원칙 중 거버넌스 원칙을 구체화한 것으로, 거버넌스·위험평가·위험통제 3대 축으로 구성됐다.

먼저 거버넌스 영역에서 금융회사는 AI 윤리위원회나 AI 위험관리위원회 등 의사결정기구와 전담 조직을 설치해야 한다. 위원장은 CEO가 AI 관련 사업계획과 전략, 위험 등을 명확히 인식할 수 있도록 정기적으로 보고해야 한다. 또한 AI 도입·개발 추진 조직과 독립된 위험관리 전담 조직을 설치하고, AI 위험관리 규정과 지침 등 내규를 수립해야 한다. 금융 및 AI 관련 법규 준수 의무를 부과하고, 최종 의사결정 책임을 임직원이 지도록 내규화해야 한다.

위험평가 단계에서는 금융 AI 7대 원칙 중 정량적 요소를 토대로 위험평가 체계를 설계한다. 위험 인식·측정에서 위험 경감, 잔여위험 평가, 위험등급 산정까지 종합적·체계적 평가를 통해 AI 서비스별 위험을 분류한다. 특히 대출 심사 등 개인의 권리·의무에 중대한 영향을 미치는 AI기본법상 고영향 AI는 위험점수와 관계없이 고위험 서비스로 분류한다.

위험통제 단계에서는 위험 수준별로 차등화된 통제·관리를 수행한다. 금융안정성 훼손이나 소비자 권익 침해 우려가 있다고 AI 의사결정기구가 판단하는 초고위험 AI에 대해서는 출시 여부를 재검토하는 등 위험통제 절차를 이행해야 한다.

다만 AI RMF가 법적 강제력이 없는 자율 가이드라인이어서 실효성 논란이 제기될 수 있다. 금융회사가 회사 여건에 따라 강화·완화 또는 선택 적용이 가능하도록 설계됐기 때문이다. AI 서비스를 개발·활용하는 과정에서 감독당국이 제시한 AI 관련 가이드라인을 적용한 비율도 약 60%로 저조한 상황이다.

금감원은 상당수 금융회사가 AI 거버넌스와 위험관리에 관한 불확실성 해소 및 책임소재 명확화를 위해 금융권 특수성을 반영한 가이드라인 제시를 요청했다고 설명했다. 실제 AI 서비스를 개발·활용하는 금융회사들은 관련 법규와 윤리 기준이 불명확해 현장 적용에 어려움을 겪어왔다. 금융당국은 지난해 12월 '인공지능 대전환(AX), 금융이 선도하겠습니다' 정책을 발표하며 AI 가이드라인 개정 방향을 제시한 바 있다.

금감원은 업권별 협회 등을 통해 금융권에 AI RMF 초안을 배포하고, 설명회와 간담회 등을 통해 충분한 의견수렴을 거친 후 올해 1분기 중 최종안을 확정·시행할 예정이다. 금감원은 "모범사례 전파와 도입회사 실태점검 등을 통해 AI RMF의 거버넌스, 위험관리, 위험통제 프로세스가 금융회사의 내부통제 체계에 안착할 수 있도록 충실히 지원할 계획"이라고 밝혔다.