공공서비스 AI는 고영향인가
가이드라인 2.12는 한 페이지 건너 스스로를 뒤집습니다. 그런데 공식 확인 절차 그림을 보면 답이 나옵니다.
공공서비스에 쓰는 인공지능이 고영향인지 물으면, 가이드라인은 두 페이지 만에 서로 다른 답을 냅니다. 실무에서 이 절을 읽다 막히는 이유가 여기 있습니다.
2.12.2 — 자동적 처분을 제외한다
「행정기본법」 제20조의 자동적 처분 등 기속행위를 제외한 공공서비스에 사용되는 인공지능시스템은 국가기관, 지방자치단체, 공공기관 등(이하 “국가기관 등”)이 국민의 권리·의무에 직접적으로 영향을 미칠 수 있으므로 '고영향 인공지능'에 해당한다. 가이드라인 2.12.2 (적용 범위 및 활용의 의미)
2.12.3 — 자동적 처분으로 한정한다
국가기관 지방자치단체 혹은 공공기관, 국가기관이 공공서비스 제공에 활용하는 인공지능서비스(「행정기본법」 제20조 자동적 처분) 중 다음에 해당하는 경우 '고영향 인공지능'에 해당한다. 가이드라인 2.12.3 ('고영향' 확인 기준)
앞은 자동적 처분을 빼고, 뒤는 자동적 처분만 봅니다. 같은 절 안에서 적용 대상이 정반대로 적혀 있습니다.
그럼 실무는 어떻게 하나
확인 기준 자체(ⅰ 자격확인 · ⅱ 비용징수 · ⅲ 결정)는 구체적이고 쓸 만합니다. 갈리는 것은 사람의 재량 없이 완전히 자동으로 처분되는 경우를 어느 쪽으로 볼 것이냐 하나입니다.
- 자격확인 — 원칙적으로 고영향입니다. 다만 거주지·국가유공자 여부·실업급여 수급자격처럼 객관적이고 단순하여 재량 여지가 없으면 해당하지 않습니다. 재량 여지가 없는지는 "자격확인 과정에 관한 별도 설명 요구 없이 즉각적인 반박 가능성을 고려하여 판단"합니다. 가이드라인 2.12.3 ⅰ)
- 비용징수 — 원칙적으로 고영향입니다. 다만 비용이 정액화되어 있고 기준이 국민에게 투명하게 공개되어 있으면 위험성이 낮습니다. 반대로 주관적·정책적 판단이 개입하면 해당합니다. 가이드라인 2.12.3 ⅱ)
- 결정 — 제공 여부나 순위를 정하면 고영향입니다. 오작동 시 회복 불가능한 피해가 생기는지를 함께 봅니다. 가이드라인 2.12.3 ⅲ)
공식 확인 절차 그림이 답을 준다
2.12.3 말미의 [ '고영향 인공지능' 해당 여부 확인 절차 ] 그림을 보면 모순이 실무적으로 풀립니다. 그 그림에는 「행정기본법」 제20조나 기속행위를 묻는 분기가 아예 없습니다. 대신 이렇게 흐릅니다.
- 주체가 국가기관·지방자치단체·공공기관인가 → 아니면 종료
- 서비스가 생명·신체 안전, 출산, 양육, 실업, 노령, 장애, 질병, 빈곤, 사망과 연관되는가 → 아니면 종료
- 그다음 자격확인 · 비용징수 · 제공여부 결정 세 용도를 각각 따져 하나라도 걸리면 고영향
- 제공여부 결정 분기의 마지막 질문은 "제공 여부 최종 결정을 인공지능이 하는가?"이고 예이면 고영향
본문 ⅳ)도 같은 방향입니다.
제공 여부에 관한 최종 결정을 수행하는 인공지능, 즉 휴먼 인 더 루프(Human in the Loop, HITL)가 포함되지 않는 인공지능의 경우는 '고영향 인공지능'에 해당한다. … 국가기관 등이 사람의 개입이나 감독 없이 완전히 자동화된 인공지능시스템으로 최종 결정을 수행하는 형태의 공공서비스는 '고영향 인공지능'으로 판단된다. 가이드라인 2.12.3 ⅳ)
정리하면 완전 자동 처분은 제외되는 것이 아니라 오히려 고영향으로 들어갑니다. 2.12.2의 "기속행위를 제외한"이라는 문구는 공식 확인 절차에 반영되어 있지 않습니다.
권하는 처리
그림을 따르면 사람이 최종 결정에 실질적으로 개입하는지가 결론을 가릅니다. 개입이 없으면 고영향이고, 있으면 자격확인·비용징수 분기를 따로 따져야 합니다.
다만 2.12.2 본문과 그림이 어긋난다는 사실 자체는 남습니다. 판단을 문서로 남길 때 어느 쪽을 근거로 삼았는지 함께 적어 두는 편이 안전합니다. 다툼이 생기면 그 기록이 방어가 됩니다. 확신이 서지 않으면 법 제33조제1항 뒷문장에 따라 과학기술정보통신부장관에게 확인을 요청할 수 있습니다. 장관은 30일 안에 회신해야 하고, 한 차례 30일 범위에서 늘릴 수 있습니다.시행령 제25조
오틸리아의 사전검토 도구는 이 지점에서 그림을 기준으로 판정하되, 2.12.2와 어긋난다는 사실과 두 원문을 결과서에 함께 남깁니다. 법 제33조제1항이 사업자에게 요구하는 것은 사전 검토이고, 이 문서가 그 검토를 했다는 근거가 됩니다.