「고영향 인공지능 판단 가이드라인」 각 절 끝에는 [ ‘고영향 인공지능’ 해당 여부 확인 절차 ] 라는 그림이 있습니다. 그런데 이 그림은 13개 절 전부 이미지로만 들어 있어, 문서를 복사해도 글자가 따라오지 않고 화면낭독기로도 읽히지 않습니다. 그래서 그림을 한 면씩 확대해 눈으로 읽었고, 본문과 그림이 어긋나는 곳이 아홉이었습니다.
읽기 전에 둘
이 그림에는 이름이 없습니다. 원문 216면 어디에도 「그림」 같은 명칭이 없고 캡션이 전부입니다. 그래서 이 글에서는 본문에 대비해 그냥 「그림」이라고 부릅니다. 원문에서 찾으실 때는 각 절 끝의 캡션을 보시면 됩니다.
가이드라인 자체에 법적 구속력이 없습니다. 214면이 그렇게 밝히고 있습니다 — 「법적 구속력이 있는 것은 아니며, 사업자의 의무 이행을 지원하기 위한 목적으로 마련됩니다」. 그러니 아래 아홉 자리는 «어느 쪽을 지켜야 하는가»의 문제가 아니라, «어느 쪽을 근거로 삼았다고 기록할 것인가»의 문제입니다.
다섯 갈래로 나뉩니다
| 유형 | 절 | 무슨 뜻인가 |
|---|---|---|
| 같은 사실이 반대로 작동 | 원자력 | 같은 사실이 본문에서는 비해당 쪽으로, 그림에서는 해당 쪽으로 갑니다 |
| 그림이 본문보다 좁다 | 보건의료 · 생체인식 · 채용 | 본문에 규칙이 있는데 그림이 관문을 더 얹었습니다 |
| 본문이 비워 둔 곳을 그림이 채운다 | 에너지 · 먹는물 · 선박 | 본문이 몇 개를 채워야 하는지 정하지 않은 자리를 그림이 확정합니다. 그런데 먹는물·선박과 에너지는 채우는 방향이 반대입니다 |
| 그림 안에서 행선지가 갈린다 | 자동차 | 같은 관문의 같은 대답에 화살표가 둘입니다 |
| 적용 범위 표기가 다르다 | 학생평가 | 결론 방향은 같고 범위를 적은 방식만 다릅니다 |
원자력 — 사람이 검토하면 어느 쪽인가 55면
본문 55면 13줄은 사람이 Cross-check를 하면 고영향이 아니라고 합니다.
13ii) 기능이 수행되기 전에 사람이 Cross-check를 수행하는 경우
사람이 개입하는 쪽이 위험하다고 읽히는 셈입니다. 그런데 나머지 두 관문은 본문과 맞습니다. 첫 관문 「직접 운전하는가?」의 아니오는 본문 12줄 i)과 맞고, 셋째 관문 「추가 안전기능을 제공하지 않는가?」의 아니오(=제공한다)는 15줄 iv)와 맞습니다. 셋 중 둘은 예외가 「고영향 NO!」로 빠지도록 맞춰 놓고 가운데 하나만 뒤집혀 있습니다.
차이가 하나 더 있습니다. 본문은 Cross-check를 「수행하는 경우」라고 실제 수행을 말하는데, 그림은 최종 검토가 「가능한가」라고 능력을 묻습니다. 검토 절차는 있지만 형식에 그치는 경우는 어느 쪽을 따르느냐에 따라 결론이 갈립니다.
그리고 그림은 예외 심사를 4호·5호·12호에만 적용합니다. 1~3호·6~11호·13호와 안전등급 1·2·3은 심사 없이 곧바로 고영향입니다. 본문 10줄의 예외는 제8조제2항 각 호 전체에 걸리는데도 그렇습니다. 또 본문 예외는 넷(i~iv)인데 그림 관문은 셋 — 14줄 iii)에 대응하는 관문이 없습니다.
→ 오틸리아는 확정 판정을 내리지 않고 «불명확»으로 답하고, 두 원문을 결과서에 함께 남깁니다.
생체인식 — 둘 중 하나인가, 둘 다인가 67~68면
본문 67면에는 나란한 항목이 둘 있습니다. 각각 「…경우」로 끝나서 둘 중 하나로 읽힙니다.
6내사 단계에서 범죄인지서 작성 전이라도 … 다음의 인공지능시스템에 해당하는 경우19내사 단계의 범죄인지서 작성 전이라도 … 점수 합이 8점 이상에 해당하는 경우
그림은 둘을 세로로 이어 붙였습니다. 앞 관문에서 아니오가 나오면 A·B 그룹 점수표에 도달하지도 못합니다. 점수가 8점 이상이어도 마찬가지입니다.
→ 넓은 쪽(고영향)으로 답하되, 그림을 따르면 뒤집힐 수 있음을 결과서에 남깁니다.
보건의료 — 3등급이면 그것으로 끝인가 46~47면
14… 3등급 이상인 디지털의료기기를 고영향 인공지능이 적용된 디지털의료기기로15한다.
본문 14줄은 3등급 이상이면 그것으로 고영향이라고 단정합니다. 그림에서는 그 뒤에 「보건·의료적 판단에 해당하는 기능을 구현하는가?」와 「대상자의 생명·신체·정신에 중대한 피해가 발생할 우려가 있는가?」 두 관문을 더 지나야 합니다. 3등급 의료기기라도 둘 중 하나에서 아니오면 「고영향 NO!」입니다.
→ 넓은 쪽(고영향)으로 답합니다.
채용 — 누구에게 무엇을 주는 시스템인가 74~75면
본문 74면은 앞 문단에서 둘을 다 듭니다.
20… 인공지능 자체의 분석·결정에 따라 채용 정보를 제공하거나, 구인자에게 그 지원자의21정보를 제공하는 등 …25ⅰ) 인공지능시스템이 모집 과정에서 스스로 판단하여 개인에게 채용 정보를 제공하는 경우
열거항 ⅰ)과 그림의 첫 관문이 그 문단의 서로 다른 쪽을 집었습니다. 그래서 구직자에게 채용 공고를 추천하는 시스템은 첫 관문에서 아니오로 빠진 뒤 이력서 처리·출제·채점·생체인식 관문에도 걸리지 않아 「고영향 NO!」에 닿습니다. 본문 25줄이 바로 그 경우를 고영향으로 드는데도 그렇습니다.
또 본문 ⅱ)는 「프로파일링하여 처리하거나」, 「채점하거나」, 「활용하는 경우」로 셋을 각각 단독 사유로 둡니다. 그림에서는 채점과 생체인식의 예가 모두 오른쪽 프로파일링 판정부로 흘러 들어가 거기를 통과해야만 고영향이 됩니다.
→ 넓은 쪽(고영향)으로 답합니다.
자동차 — 같은 대답에 화살표가 둘 90~92면
같은 관문의 같은 대답에 행선지가 둘입니다. 400dpi로 확대해 화살촉과 라벨을 다시 봤고, 오독이 아닙니다.
또 본문 90면 17줄은 조건부 완전자율주행시스템 이상이면 그것만으로 고영향이라고 합니다. 그림에는 자율주행 레벨이라는 개념이 아예 없고, 대신 「별도로 규정된 안전기준을 충족해 중대한 영향을 극히 낮출 수 있는가?」 같은 이탈 경로를 둡니다. 그림대로면 레벨 3 이상이라도 「고영향 NO!」로 빠질 수 있습니다.
→ «불명확»으로 답합니다.
같은 빈자리를 절마다 다르게 채웠습니다 29 · 37 · 103면
먹는물·선박·에너지는 본문이 기준을 몇 개 채워야 해당하는지 말하지 않습니다. 그 빈자리를 그림이 채우는데, 먹는물·선박과 에너지의 방향이 반대입니다.
| 절 | 본문 문구 | 그림이 채운 방향 |
|---|---|---|
| 먹는물 37면 1줄 | 단계별 기준을 종합적으로 고려 | 4단 전부 통과해야 함. 하나라도 아니오면 비해당 |
| 선박 103면 3줄 | 다음의 기능에 따라 평가 | 5단 전부 통과해야 함 |
| 에너지 29면 20줄 | 종합적으로 고려하여 판단할 수 있다 | 앞 두 관문이 각각 단독 사유. 뒤 셋만 직렬 |
비슷한 본문이 먹는물·선박에서는 가장 좁게, 에너지에서는 가장 넓게 구체화됐습니다. 본문만 읽은 사업자는 절마다 다른 규칙이 적용된다는 것을 알 길이 없습니다.
→ 먹는물·선박은 넓은 쪽으로, 에너지는 그림을 따릅니다.
학생평가 — 유아교육은 어디로 139면
본문 139면 4~5줄과 17줄은 학교생활기록부·정기시험 경로를 「초등 및 중등교육 과정」으로 한정합니다. 그림의 맨 위 관문에는 학교급 한정이 없습니다(「교육 과정의 학생 평가에 인공지능이…」).
그런데 법 제2조제4호 차목은 「유아교육ㆍ초등교육 및 중등교육에서의 학생 평가」입니다. 본문의 한정에서 유아교육이 빠져 있고, 그림으로도 해소되지 않습니다.
→ 유아교육까지 포함해 봅니다.
그림이 이미지로만 실려 있다는 증거
PDF에서 글자를 뽑아 면별로 세어 봤습니다. 아래 여섯 면은 면 전체에서 뽑히는 글자가 공백 제외 스무 자 남짓입니다. 캡션 한 줄과 면 번호가 전부이고, 나머지는 전부 그림입니다.
30 · 38 · 68 · 75 · 82면 → 21자 124면 → 22자 (면 번호가 세 자리) 뽑히는 글자: [‘고영향인공지능’해당여부확인절차] + 면번호
나머지 일곱 면(47 · 55 · 92 · 103 · 111 · 133 · 139)은 본문과 같은 면이라 글자가 더 있지만, 그림 부분은 마찬가지로 이미지입니다.
직접 확인하시려면
저희 말을 믿으실 필요가 없도록 방법을 적어 둡니다. 원본 PDF는 AI 지원데스크에서 받으실 수 있습니다.
pdftotext -layout 가이드라인.pdf gl.txt # 면은 \f 로 갈립니다 pdftoppm -f 55 -l 55 -r 400 -png 가이드라인.pdf p55 # 그림은 이렇게 봅니다
위에 적은 줄 번호는 이 pdftotext 추출 기준입니다. 인쇄 원본의 줄바꿈과는 다를 수 있습니다.
그림은 같은 PDF에서 그대로 잘라 실었습니다.
실무에서 할 일
가이드라인에 구속력이 없으니 어느 쪽이 정답이라고 말할 수는 없습니다. 다만 갈리는 자리에서는 어느 쪽을 근거로 판단했는지 문서에 함께 적어 두세요. 법 제33조제1항이 사업자에게 요구하는 것은 사전 검토이고, 검토한 기록은 다툼이 생겼을 때 방어가 됩니다. 확신이 서지 않으면 같은 항 뒷문장에 따라 과학기술정보통신부장관에게 확인을 요청할 수 있습니다(회신 30일, 1회 30일 연장).
«해당 없음»으로 잘못 나오는 쪽이 «해당»으로 잘못 나오는 쪽보다 훨씬 해롭습니다. 앞의 경우엔 의무를 통째로 건너뛰게 되니까요. 그래서 갈리는 자리에서 저희는 넓은 쪽으로 답하고, 방향이 반대이거나 그림이 스스로 갈리는 자리에서는 단정하지 않습니다. 사전검토 도구는 영역별로 이것을 판정에 반영하고, 결과서에 「판단 절차의 출처」를 남깁니다.