법이 정한 영역
범죄 수사나 체포 업무를 위한 생체인식정보의 분석·활용
법 제2조제4호 바목
무엇을 뜻하나
인공지능시스템을 활용하여 국가기관이 ‘범죄 수사나 체포 업무’에 생체정보를 분석·활용할 때 사생활의 자유 등 국민 개인의 기본권을 침해하거나 침해할 우려가 있는 경우 ‘고영향’에 해당한다. 다만, 범죄 수사나 체포 업무에서 생체정보를 활용한 인공지능시스템을 일률적으로 ‘고영향’으로 단정할 수 없으며 어떤 유형의 범죄 수사나 체포 업무에 활용되는지, 그리고 어떤 유형의 생체정보를 분석·활용하는지 검토하여야 한다. 무엇보다 사람의 생명, 신체의 안전 및 기본권 보호에 중대한 영향을 미칠 우려가 있는 영역에 사용되는지 여부에 따라 규제 대상인 ‘고영향’ 인공지능 여부를 판단하여야 한다.
어디까지 적용되나
① 범죄 ② 수사나 ③ 체포 업무를 위한 생체인식정보(얼굴ㆍ지문ㆍ홍채 및 손바닥 정맥 등 개인을 식별할 수 있는 신체적ㆍ생리적ㆍ행동적 특징에 관한 개인정보를 말한다)의 분석ㆍ활용을 위하여 사용되는 인공지능시스템을 의미한다.
가이드라인 2.5.2
확인 기준
범죄 수사 및 체포 활동 분야에서의 인공지능시스템 활용의 경우는 ① 범죄 수사나 체포 업무 범위 ② 생체정보 해당 여부 ③ 분석‧활용 여부를 종합적으로 고려하여 고영향 여부를 판단한다. 내사 단계에서 범죄인지서 작성 전이라도 실질적 수사 활동 과정이나 범죄 수사 및 체포의 과정에서 생체인식정보를 분석·활용하는 것으로서 다음의 인공지능시스템에 해당하는 경우 [고영향에 해당한다].
- i) 특정 사건의 범인 검거 목적으로 CCTV, 인터넷을 활용하여 무작위로 안면 이미지 정보를 수집하고 인식하는 인공지능시스템가이드라인 2.5.3
- ii) 특정인의 범인 여부를 판단할 목적으로 인종, 신체적 특징 등을 추론하거나 추론하기 위하여 사용되는 생체정보 분류 인공지능시스템가이드라인 2.5.3
- iii) 특정 사건의 범인 검거 목적으로 운영되는 인공지능시스템에 해당하되 불특정 다수에 대한 대량 감시를 초래하는 경우(단, 납치, 인신매매, 성적 착취의 특정 피해자에 대한 수색 및 실종자 수색인 경우는 제외)가이드라인 2.5.3
- ⅳ) 인간과의 상호작용이 없는 인공지능시스템, 즉 특정 사건의 범인 검거 과정에서 최종 결정을 내리기 전에 인공지능시스템의 추천 결과를 인간이 검토하거나 평가할 수 없는 인공지능시스템을 사용하는 경우가이드라인 2.5.3
이 절에는 점수표가 따로 있습니다 — 합이 8점에 이르면 확인 기준과 별개로 고영향입니다. 가이드라인 2.5.3
단, 납치, 인신매매, 성적 착취의 특정 피해자에 대한 수색 및 실종자 수색인 경우는 제외 (c3 단서)
가이드라인이 답을 적어 둔 사례
고영향에 해당한 사례 — 걸음걸이 등 생체정보 분석으로 보이스피싱 인출책을 검거한 D인공지능시스템
보이스피싱 피해를 당한 시민 A는 경찰에 피해사실을 신고하였는데, 보이스피싱 인출책 B는 이미 A의 계좌에서 900만 원 현금을 인출한 뒤였다. B는 은행 ATM기에서 인출을 할 때 마스크와 선글라스를 착용하여 CCTV 영상만으로 신원을 확인하기 어려운 상황이다. 경찰관 C는 은행 CCTV에서 촬영된 영상을 D인공지능시스템(걸음걸이 등 생체정보분석 인공지능시스템)을 활용하여 분석하기로 하였고, 1주일 간의 분석 결과 은행 주변에 설치된 다수의 CCTV가 촬영한 영상에서 동일인의 걸음걸이로 판단되는 인물이 지나가는 것을 확인하여 B를 검거하였다.
경찰관 C가 은행 CCTV에 촬영된 B와 동일한 인물을 찾기 위해 인근에 설치된 다수의 CCTV 영상에서 수집된 1주일 간의 영상에서 걸어다니는 사람들의 걸음걸이를 인공지능시스템을 활용하여 분석하였다면, 이는 범인 B를 검거하기 위한 ‘범죄 수사나 체포 업무’의 일환으로 ‘생체정보’인 걸음걸이(행동적 특징)를 분석·활용한 경우에 해당한다.
가이드라인 2.5.4
고영향이 아니라고 본 사례 — 실종아동 수색을 위한 CCTV 관제센터 연계 인공지능시스템
시민 A는 자녀 B와 한강 공원으로 나들이를 가서 주말을 보내고 있던 중, 자녀 B가 없어진 것을 뒤늦게 알게 되어 3일 넘게 B를 찾았으나 결국 행방을 알지 못해 경찰에 신고하였다. 관할 지구대에서 출동한 경찰관 C는 시민 A의 최근 동선을 탐문하여 인근 CCTV 정보를 확인한 뒤 CCTV 관제센터와 연계된 인공지능시스템을 활용하기 위해 자녀 B의 키, 성별, 안면 사진 등 정보를 전산에 입력하였다. 해당 인공지능시스템은 3일 전부터 현재까지 CCTV 영상 정보를 실시간으로 분석하여 자녀 B의 현재 위치를 추적하여 자녀 B의 행방을 찾을 수 있었다.
실종아동의 수색·발견은 「실종아동등의 보호 및 지원에 관한 법률」에 따른 경찰청장의 직무 범위에 따른 단순한 경찰의 행정업무 지원업무 행위로서, 법률의 근거에 따라 법정대리인인 부모 등의 동의를 받아 실종아동 등에 대한 신속한 신고 및 발견 체계를 갖추기 위한 정보시스템에서 인공지능시스템을 활용하는 경우로 고영향 인공지능에 해당하지 않는다.
가이드라인 2.5.4
원문에서 알아 둘 것
- 그림이 본문보다 좁습니다. 본문은 확인 기준(ⅰ~ⅳ)과 점수(8점 이상) 중 하나만 걸려도 되는 것으로 읽히는데, 그림은 둘을 차례로 모두 통과하도록 이어 놓았습니다. 그림대로면 확인 기준에 걸려도 점수가 8점 미만이면 해당하지 않습니다. 고영향 쪽으로 답하고, 그림을 따르면 뒤집힐 수 있다는 점을 결과서에 적습니다.