법이 정한 영역
채용, 대출 심사 등 개인의 권리·의무 관계에 중대한 영향을 미치는 판단 또는 평가
법 제2조제4호 사목
무엇을 뜻하나
인공지능시스템을 통해 대출 심사를 하는 과정에서 금융회사 등이 개인에 대한 부당한 차별 등 개인의 권익과 안전, 자유에 대해 중대한 영향을 미치는 것을 말한다. 인공지능시스템 활용에 따라 개인의 금융거래계약의 체결·유지 등에 직접적인 차별이 발생하는 경우 개인의 권리에 중대한 영향을 미친다고 볼 수 있으나, 실제 인공지능시스템의 활용 사례별 개인의 권리에 미치는 영향도를 판단함에 있어서 개별 요소를 종합적으로 고려하는 것이 필요하다.
어디까지 적용되나
대출 심사 등 금융분야에서 ‘고영향 인공지능’의 적용범위는 ➀ 금융업권에서 금융거래나 대고객서비스에 인공지능시스템을 활용한 경우, 또는 ➁ 비금융업권이라도 인공지능시스템의 활용 결과가 금융거래에 영향을 미치는 경우 적용한다. ① 금융상품 및 금융서비스의 제공을 위한 업무에 인공지능시스템을 직·간접적으로 활용하거나 활용하고자 하는 금융회사 및 ② 금융상품추천·신용평가 등 금융연관 서비스 제공을 위한 업무에 인공지능시스템을 직·간접적으로 활용하거나 활용하고자 하는 비금융회사가 이에 해당한다. 금융회사가 신용정보 등에 근거하여 대출 신청인의 신용 및 상환능력을 평가하여 대출의 승인 여부와 대출 조건을 결정하는 데 직접적으로 관련되는 업무에 한한다.
가이드라인 2.7.2
확인 기준
금융회사 등이 사용하는 인공지능시스템이 ‘개인의 권익과 안전, 자유에 대한 중대한 영향을 미칠 수 있는 인공지능시스템’에 해당하는지 또는 ‘금융거래계약의 체결·유지 등에 직접적인 차별을 발생시키는 인공지능시스템’에 해당하는지를 기준으로 ‘고영향’ 여부를 판단한다. 인공지능시스템이 대출 심사 중간 단계에서 최종 결정에 상당한 영향을 미치는 결정을 하거나 대출 심사 개별 단계를 종합하여 최종 결정을 하는 경우 ‘고영향 인공지능’에 해당하며, 대출 심사에 차별적 데이터 또는 민감한 데이터를 사용하는 경우에도 ‘고영향 인공지능’에 해당한다.
- 인공지능시스템이 대출 심사 중간 단계에서 최종 결정에 상당한 영향을 미치는 결정을 하거나 대출 심사 개별 단계를 종합하여 최종 결정을 하는 경우 ‘고영향 인공지능’에 해당하며가이드라인 2.7.3
- 대출 심사에 차별적 데이터 또는 민감한 데이터를 사용하는 경우에도 ‘고영향 인공지능’에 해당한다.가이드라인 2.7.3
- 대출 심사가 이루어지는 맥락적 환경(정책금융인지 일반금융인지 여부, 공공영역인지 민간영역인지 여부 등)을 고려할 필요가 있으며, 특히 개인에게 유리한 요소로 적용하기 위해 활용되는 데이터의 경우에는 고영향 판단기준을 완화하여 적용할 수 있다.가이드라인 2.7.3
이 절에는 점수표가 따로 있습니다 — 합이 4점에 이르면 확인 기준과 별개로 고영향입니다. 가이드라인 2.7.3
※ 신용공여 행위에 해당하는 경우라도 카드발급, 리스는 대출 희망자의 기본권에 중대한 영향을 미치는 것으로 보기 힘드므로, 해당 업무에 활용되는 인공지능은 고영향 인공지능에 해당하지 않는다. (2.7.2)
가이드라인이 답을 적어 둔 사례
고영향에 해당한 사례 — A은행의 주택담보대출 개인신용평가 인공지능 모형
A은행은 주택담보대출 심사를 위해 개인신용평가 인공지능 모형을 개발하고, 주택담보대출을 신청한 B씨의 개인신용평가심사에 해당 인공지능시스템을 활용하였다.
A은행의 개인신용평가 인공지능시스템은 대출 심사 가능여부에 대해 전적으로 결정하였고, 이는 B씨의 권익과 안전, 자유에 대한 중대한 영향을 미칠 수 있으므로, A은행의 개인신용평가 인공지능시스템은 ‘고영향 인공지능’에 해당한다.
가이드라인 2.7.4
고영향이 아니라고 본 사례 — C상호저축은행의 정책금융 최소 기준 충족 여부 판단 시스템
C상호저축은행은 공공기관과 연계하여 저소득자를 대상으로 한 대출상품을 출시하면서 인공지능시스템을 활용하여 정책금융 실행 시 최소 기준 충족 여부를 판단한다. 이후 은행원D가 다른 정성적·정량적 요소를 고려하여 저소득자 E씨에 대한 대출 심사를 수행하고 최종 결정하였다.
C상호저축은행의 인공지능시스템은 대출 심사 중간 단계에서 최종 결정에 상당한 영향을 미치는 결정을 하지 않았고, 은행원 D는 인공지능시스템의 판단을 보조적으로 활용하여 E씨에 대한 대출 심사를 수행하였으므로, C상호저축은행의 인공지능시스템은 ‘고영향 인공지능’에 해당하지 않는다.
가이드라인 2.7.4
원문에서 알아 둘 것
- 본문과 그림의 결론이 같습니다. 원문 그대로 답합니다.
- 이 절에는 다른 법을 지킨 것을 이 법의 의무 이행으로 보는 항목(시행령 별표 1 갈음)이 2건 있습니다. 해당하는 것은 결과 화면에서 고르면 됩니다.