법이 정한 영역
채용, 대출 심사 등 개인의 권리·의무 관계에 중대한 영향을 미치는 판단 또는 평가
법 제2조제4호 사목
무엇을 뜻하나
채용 과정에서 활용되는 인공지능시스템이 헌법상 보장된 구직자의 직업선택의 자유 및 평등권에 중대한 영향을 미칠 우려가 있는 판단 또는 평가를 하는 경우 ‘고영향 인공지능’에 해당한다.
어디까지 적용되나
채용 전(全) 과정(모집, 서류심사, 필기평가, 면접평가, 실기평가)에서 공정성과 효율성을 높이기 위하여 사용되는 인공지능시스템을 의미한다.
가이드라인 2.6.2
확인 기준
사용자가 채용 과정에서 활용하는 인공지능시스템이 지원자 채용에 미치는 영향과 실질적인 인적 개입 여부에 따라 고영향 인공지능 해당 여부를 검토할 수 있다. 만약 채용 과정에서 정당한 권한을 가진 사람에 의한 실질적인 개입이 없거나, 해당 인적 개입이 형식적인 절차만으로 운영되어 실질적으로 인공지능이 도출한 결과에 의존한다면 이는 ‘고영향 인공지능’에 해당한다. 채용 분야에서 활용되는 인공지능시스템 중 지원자 개인의 의사와 무관하게 인공지능 자체의 분석·결정에 따라 채용 정보를 제공하거나, 구인자에게 그 지원자의 정보를 제공하는 등 인공지능만으로 후보자 또는 채용 여부를 결정하는 인공지능은 개인의 자율성, 직업선택의 자유, 평등권 등이 제한되어 차별적 결과를 야기할 위험성이 존재하여 ‘고영향 인공지능’에 해당한다.
- ⅰ) 인공지능시스템이 모집 과정에서 스스로 판단하여 개인에게 채용 정보를 제공하는 경우가이드라인 2.6.3
- ⅱ) 인공지능시스템이 구직자의 제출 정보를 프로파일링하고 이를 점수·등급화하여 처리하거나 필기 평가 중 서·논술형 문제를 채점하거나 생체정보를 면접 및 실기에 활용하는 경우가이드라인 2.6.3
- ⅲ) 인공지능시스템이 구인자의 검수 없이 필기 평가 문제를 최종적으로 출제하는 경우가이드라인 2.6.3
- ⅳ) 채용 전 과정에서 인공지능시스템이 도출한 결과만으로 채용 후보자 또는 채용 여부를 결정하는 경우가이드라인 2.6.3
- 만약 채용 과정에서 정당한 권한을 가진 사람에 의한 실질적인 개입이 없거나, 해당 인적 개입이 형식적인 절차만으로 운영되어 실질적으로 인공지능이 도출한 결과에 의존한다면 이는 ‘고영향 인공지능’에 해당한다.가이드라인 2.6.3
※ 단, 채용의 전체적인 절차 및 성격, 특수성, 기업의 제반 사정 등을 종합적으로 고려하여 채용 분야에서의 인공지능시스템 활용에 대한 고영향 여부를 판단한다.
가이드라인이 답을 적어 둔 사례
고영향에 해당한 사례 — A기업의 B시스템 — 제출 정보 점수·등급화 후 합불 통보
A 기업에서 활용하는 채용 인공지능시스템인 B시스템은 채용 과정에서의 시간과 비용을 절감하기 위해 사원 채용 지원자의 개인 신상정보와 경력기술서 등 제출 정보를 분석하여 점수·등급화하고, 그 결과에 따라 최적의 지원자를 결정하고 그 지원자에게 합격 통보를 하고 나머지 지원자에게는 탈락 통보를 한다.
따라서 A기업의 경력사원 채용 과정에서의 인공지능 사용은 정당한 권한을 가진 사람에 의한 실질직인 개입이 없이 구직자(지원자)들의 기본권을 침해할 우려가 있으므로 ‘고영향 인공지능’에 해당한다.
가이드라인 2.6.4
고영향이 아니라고 본 사례 — C기업의 D시스템 — 인사담당자 감수를 거친 출제·채점
C 기업에서는 신입사원 채용 과정에서의 공정성을 향상시키기 위해 D인공지능시스템을 활용하여 입사시험 문제를 생성한다. D시스템이 생성한 입사시험 문제는 인사담당자로 지정된 자(E)가 출제된 문제를 감수하여 최종적인 확인(결재)를 하도록 구성되어 있다. 채점과정에서도 D시스템이 활용되며, 인사담당자(E)가 채점 결과를 확인하여 수정·보완 등을 할 수 있는 기능이 제공되고, 오류가 없다는 승인(결재)를 한 경우 최종적으로 채점 결과가 확정된다.
따라서 인공지능시스템이 출제한 문제를 채용자의 감수한 후에 시험을 시행하였고, 자동으로 채점하였으나 인간이 최종적으로 감수하는 기능을 제공하고 있으므로 ‘고영향 인공지능’에 해당하지 않는다.
가이드라인 2.6.4
원문에서 알아 둘 것
- 그림이 본문보다 좁습니다. 본문 ⅱ)는 채점·생체인식 활용을 각각 단독 사유로 두는데, 그림은 그 경로들도 프로파일링 판정부를 통과해야만 고영향으로 보냅니다. 관문1의 대상도 본문('개인에게 채용 정보 제공')과 그림('구인자에게 채용 결과 제공')이 다릅니다. 고영향 쪽으로 답하고, 그림을 따르면 뒤집힐 수 있다는 점을 결과서에 적습니다.