수사용 생체인식 AI — 8점 이상이어야 하는가

범죄 수사·체포 목적의 생체인식 AI는 가이드라인 2.5가 다룹니다. 이 절에는 판단 기준이 둘 있습니다. 해당 사유 네 가지와 11항목 점수표입니다. 문제는 둘을 어떻게 잇느냐인데, 본문과 그림의 답이 다릅니다.

01해당 사유 네 가지

• i) 특정 사건의 범인 검거 목적으로 CCTV·인터넷을 활용해 무작위로 안면 이미지를 수집·인식하는 시스템
• ii) 특정인의 범인 여부 판단 목적으로 인종·신체적 특징 등을 추론하거나 그에 쓰이는 생체정보 분류 시스템
• iii) 범인 검거 목적이되 불특정 다수에 대한 대량 감시를 초래하는 경우 (납치·인신매매·성적 착취의 특정 피해자 수색과 실종자 수색은 제외)
• iv) 최종 결정 전에 사람이 추천 결과를 검토·평가할 수 없는 시스템

0211항목 점수표 — 8점 이상이면 고영향

A그룹은 항목당 4점으로 여섯 개입니다. 생체정보 분류, 재범 가능성 예측, 수사 과정의 프로파일링, 훈련 데이터 출처·명세 확보 여부, 총기 사용 등 공격 허용 판단, 증거 신빙성 평가입니다.

B그룹은 항목당 3점으로 다섯 개입니다. 감정상태 파악(거짓말탐지기류), 설명 불가능한 모델을 범인 특정에 사용, 보안 취약점, 수사 목적으로 설계되지 않은 민간 시스템의 공조, 공공장소 시설·설비 제어입니다.

최대 39점이고 합이 8점 이상이면 고영향입니다. A그룹 두 개면 8점이고, A 하나에 B 둘이면 10점입니다.

03본문은 하나만 걸려도, 그림은 둘 다 걸려야

본문 2.5.3의 문장 구조는 해당 사유에 걸리는 것과 점수 8점 이상을 각각 독립된 사유로 읽히게 합니다. 그런데 절 끝 그림(원문 이미지)은 다섯 관문을 한 줄로 잇습니다.

• 1. 내사 단계라면 실질적 수사 활동인가 → 2. 생체인식정보를 대상으로 하는가 → 3. 분석·활용에 해당하는가 → 4. 가이드라인이 든 해당 사유에 걸리는가 → 5. 점수 8점 이상인가

그림대로면 해당 사유에 걸려도 점수가 8점 미만이면 비해당입니다. 예를 들어 무작위 안면 수집(해당 사유 i)에 걸리는데 A그룹 하나(4점)만 붙으면, 본문으로는 고영향이고 그림으로는 아닙니다. 13개 영역을 전부 대조했을 때 결론 차이가 가장 큰 곳이 여기입니다.

04실무에서 할 일

이 영역은 사실상 수사기관과 그 납품사가 대상입니다. 국가기관이 발주하면 자목(공공서비스 관련 국가기관등의 의사결정)이 함께 걸리는 경우가 많아, 두 영역을 같이 검토해야 합니다. 자목에는 다른 법 이행으로 의무를 갈음하는 규정이 없고, 사람의 개입이나 감독 없이 AI가 최종 결정을 하면 자목으로도 고영향입니다(가이드라인 2.12).

그리고 이 영역에는 「개인정보 보호법」 제23조의 민감정보 처리 제한이 겹칩니다. AI 기본법 판단과 별개로 법적 근거와 동의 구조를 먼저 확인해야 합니다.

사전검토 도구는 해당 사유와 11항목을 모두 묻고 점수를 계산한 뒤, 본문·그림의 결론이 갈리면 본문대로 고영향으로 답하고, 그림을 따르면 뒤집힐 수 있다는 점을 결과서에 함께 적습니다.