□ 금융위원회 도규상 부위원장은 ‘21.7.8.(목) 14:00 제1차 ｢디지털금융협의회 데이터 분과회의｣를 개최하였습니다.

□ 금번 회의에서는 인공지능(Artificial Intelligence, 이하 AI) 기반 금융서비스 개발을 위한 ｢금융분야 AI 가이드라인｣이 발표되었습니다.

(☞ 모두말씀 원문 별첨)

□ 도규상 금융위 부위원장은 모두발언을 통해 이하 내용을 언급.

ㅇ 최근 우리 금융산업은 금융규제 혁신과 새로운 혁신적 Player들에 의해 금융의 외연이 확장되는 양적 변화를 경험

ㅇ 앞으로는 AI 등 기술혁신이 금융의 질적변화를 주도할 전망

 - AI를 통해 비정형·비금융 데이터 활용이 활성화되면서 금융데이터가 부족한 금융소외계층을 포용할 수 있게 되고,

 - 데이터 처리의 속도와 정확성이 제고되면서 금융거래비용은 낮아지고 금융 중개기능의 효율성은 높아질 것임 

 * 美 10대 대형은행 주택담보대출 심사시간 단축(1시간→ 5분), 

   英 Monzo사 AI 사기방지시스템 운영으로 직불카드 사기율 하락(0.84%→0.01%)

ㅇ 반면, AI 기술의 안전성 등에 대한 사회적 신뢰가 충분하지 않은 만큼, ｢금융분야 AI 가이드라인｣을 통해 AI 금융서비스에 대한 사회적 신뢰를 공고히 하고 지속가능한 금융혁신 환경 조성 추진

□ ｢AI 가이드라인｣에서는 4가지 핵심가치를 구현하고자 하였음

❶ 금융산업의 책임성 강조

- 서비스 개발·운영에 따른 발생가능한 위험을 명확히 인지하고 금융서비스 목적에 맞게 위험을 통제하기 위한 전사적 노력 추진

❷ AI 학습용 데이터의 정확성·안전성 확보

- 안전하고 효율적인 데이터 관리를 위해 AI 학습데이터의 품질을 엄격히 관리하고 개인정보보호 체계도 한층 강화

❸ AI 금융서비스의 투명성·공정성 담보

- 금융서비스가 합리적이고 공정한 기준에 따라 제공·관리된다는 금융소비자의 믿음을 확보할 수 있도록 일반적이고 건전한 상식·사회규범에 어긋나지 않는 AI 서비스 운영 도모

❹ 금융소비자 권리의 엄격한 보장

- 사람에 의한 금융서비스를 제공받을 때와 같이, 금융소비자가 서비스를 이해하고, 자신의 권리를 불편함없이 행사토록 지원

□ AI 기술혁신의 과실이 금융소비자에게 돌아갈 수 있도록 금융권의 지속적인 협조와 노력을 당부

(☞ 가이드라인 원문 별첨)

□ (대상) AI를 금융거래 및 대고객서비스에 적용한 全금융업권

ㅇ 비금융업이라도 AI 활용의 결과가 금융거래에 미치는 영향이 큰 경우(예 : 신용평가회사의 개인신용평점 개발) 확대 적용

□ (AI윤리) 금융회사는 회사별 가치, AI 활용 상황(고객군, 서비스 내용 등)등에 따라 AI 서비스 개발·운영시 준수해야할 원칙·기준 수립

□ (AI조직) AI의 잠재적 위험을 평가·관리할 구성원의 역할·책임·권한을 서비스 全단계(기획·설계·운영·모니터링)에 걸쳐 구체적 정의

□ (위험관리) AI 서비스 자체 평가·관리정책을 마련하고, 개인권리에 중대한 위험을 초래할 수 있는 서비스에는 강화된 위험관리 적용

ㅇ (고위험AI) AI 의사결정이 개인의 금융거래계약의 체결·유지*에 중대한 영향을 가져오는 경우, 이에 대한 내부통제·승인절차 등을 마련하고 별도의 책임자를 지정 

 * 예 : 신용평가, 대출심사, 보험심사, 카드발급 심사 등

ㅇ (통제가능성) AI가 사람의 의사결정과정을 대체하는 경우, 필요시 사람에 의한 AI시스템 감독·통제가 가능*하도록 시스템 설계

 * 이자율 산정 등 금융관련 중요 의사결정을 대체한 AI에 대해 결과의 설명 및 사후검증을 할 수 없다면 금융거래 투명성 및 신뢰성 저하 발생

ㅇ (모니터링) AI시스템 성능을 주기적으로 모니터링하고, AI 개발 환경의 보안취약성 점검 시스템 마련 등 위험완화 조치 시행

□ (학습데이터 관리) AI 학습에 사용되는 데이터의 출처·품질·편향성·최신성 등을 조사·검증하고 개선노력 지속

□ (개인정보 보호) AI 개발 과정에서 개인신용정보 오·남용을 방지하고, 불필요한 개인신용정보 처리를 최소화하는 시스템 마련

ㅇ 특히, 사생활정보 등 민감정보를 활용하고자 하는 경우, 비식별 조치 등 안전한 정보 활용을 위한 충분한 조치를 거친 뒤

ㅇ 해당 정보 미사용시 AI 시스템에 성능 저하가 발생하는지, 해당 정보 사용시 효과와 혜택을 보는 집단은 누구인지* 등 정보활용 필요성을 면밀히 평가하고 재식별·유출 등 방지

 * 예 : 해당 정보를 활용하지 않는 경우 보호대상 집단에 불이익이 초래되는 경우 등에는 해당 정보를 활용해야 할 정당성이 인정

□ (성능평가) AI 시스템 운영과정에서 나타날 수 있다는 다양한 위험요인*을 서비스 특성에 맞게 합목적적으로 통제 

 * 은행이 대출부적격자를 걸러내기 위해 여신심사를 강화하는 경우 대출적격자(True)에 대한 여신이 거절(False)되는 경우도 증가

□ (공정성 제고) AI에 따른 집단간 차별 등 기본권 침해행위가 발생하지 않도록 서비스 특성별 공정성 기준을 설정·평가

ㅇ 금융소외계층에 대한 금융접근성 제고를 목적으로 한 정책금융상품 등 결과적 평등이 중요한 금융상품의 경우, 집단간 대출 승인율 등 인구통계적 동등성 지표를 기준으로 공정성 평가

ㅇ 소속 집단 등과 무관하게 자격이 있는 소비자를 판단해야 하는 신용평가, 카드발급심사 등의 경우, 집단간 재현율* 등 기회의 균등 기준을 기준으로 공정성하게 서비스가 개발되었는지 평가

 * 재현율(True Positive Rate) : 전체 대출적격자 중 AI가 대출적격자로 예측한 비율

□ 금융소비자에게 AI가 활용된다는 사실을 사전고지하고, 소비자의 권리 및 이의신청·민원제기 등 권리구제 방안 등을 알기쉽게 안내

ㅇ 특히, AI를 통해 신용평가, 보험가입 등 금융거래·계약체결 여부 결정 등을 한 경우 ‘설명요구·정정요구권*’이 있음을 고지

 * ｢신용정보법｣ 제36조의2 ‘프로파일링(Profiling) 대응권’

- 소비자는 AI 평가결과 및 주요 평가기준, 사용된 기초정보에 대한 설명을 들을 수 있고, AI 평가에 활용된 자신에 대한 정보의 정정·삭제요구, 결과 재산출 등을 요구할 수 있음

□ (위험관리) 외부기관에 대한 AI시스템 개발·운영 위탁시 수탁기관이 준수하여야 할 위험관리지침을 마련하고, 주기적 보고·점검 

□ (손해배상) AI 서비스로 인한 소비자 피해 발생시 조속한 피해구제가 가능하도록 명확한 손해배상 처리 절차 등을 마련

 * 예 : 문제사례별 명확한 책임주체 및 손해배상 절차 등을 상세히 마련

가. 가이드라인 등 시행

□ (가이드라인) 금융권의 내실있는 ｢금융분야 AI 가이드라인｣ 이행을 위하여 충분한 준비기간을 거쳐 가이드라인이 연내 시행되도록 할 계획입니다.

□ (실무지침) 금융업권 및 기능·서비스별 특성을 고려하여 가이드라인을 구체화한 세부 실무지침도 마련할 계획입니다.

ㅇ 가이드라인은 AI 활용 활성화를 위해 AI서비스 신뢰제고에 필요한 필요최소한의 준칙을 제시하는데 초점을 맞추었습니다.

- 반면, AI 서비스 개발·운영 과정에서의 규제 불확실성 등을 해소하기 위해서는 업권·기능·서비스 특성 등을 고려한 보다 구체적 행위지침이 필요하다는 금융권 실무자들의 의견이 있었습니다.

ㅇ 이에 금융업권협회 등을 중심으로 실무지침 제정반을 구성·운영하여 3분기 내 실무지침을 마련할 예정입니다.

- 금융서비스 특성 등에 맞추어 실무지침을 세부적으로 마련하고, 금융업법상 규제를 AI 서비스에 적용할 때 나타날 수 있는 규제 불확실성을 해소*할 수 있도록 지원하겠습니다.

 * 예 : AI 챗봇을 통한 금융상품 설명시 금융업법상 설명의무를 이행한 것으로 간주될 수 있는 적정한 AI 설계·운영 절차 등

나. 금융분야 AI 활성화 추가방안

□ 금융권의 AI 활용을 촉진·지원하기 위한 ｢AI 인프라 정비 방안｣도 Working Group 논의 등을 거쳐 3분기 중 발표할 계획입니다.

ㅇ AI 개발 데이터를 제공하는 ‘데이터 인프라(Data Library)’와 소규모 핀테크 회사 등도 손쉽게 AI 서비스를 개발하고 검증할 수 있도록 지원하는 ‘AI 테스트베드’ 등이 구축될 예정입니다.

출처: 금융위원회() 2021-07-08