고영향 AI 영향평가에 무엇을 써야 하나

법 제35조제1항은 고영향 인공지능을 이용한 제품·서비스를 제공하는 사업자에게 영향평가를 실시하도록 노력할 것을 정합니다. "노력"이라는 말 때문에 넘기기 쉬운데, 같은 조 제2항이 사정을 바꿉니다. 국가기관등이 고영향 인공지능을 이용한 제품·서비스를 이용하려는 경우에는 영향평가를 실시한 것을 우선 고려해야 합니다. 국가기관에 납품하려는 사업자라면 영향평가를 해 두는 편이 유리합니다.

01누가 하나

인공지능사업자가 직접 하거나 제3자에게 의뢰할 수 있습니다(시행령 제28조제2항). 외부 기관에 맡겨도 되지만, 결과에 대한 책임까지 넘어가지는 않습니다.

02무엇을 쓰나 — 시행령 제28조제1항 7개 항목

아래는 시행령 원문 그대로입니다. 요약하거나 다듬으면 그 서식으로 만든 문서가 요건을 못 채울 수 있습니다.

• 1. 해당 고영향 인공지능을 이용한 제품등에 의하여 사람의 생명, 신체의 안전 및 기본권에 영향을 받을 가능성이 있는 개인이나 집단에 대한 식별. 이 경우 법 제3조제5항에 따른 인공지능취약계층의 특성이 반영될 수 있도록 해야 한다.
• 2. 해당 고영향 인공지능과 관련하여 영향을 받을 수 있는 기본권 유형의 식별
• 3. 해당 고영향 인공지능으로 인하여 발생할 수 있는 사람의 기본권에 대한 사회적ㆍ경제적 영향의 내용 및 범위
• 4. 해당 고영향 인공지능의 사용 행태
• 5. 영향평가에서 활용한 정량적 또는 정성적 평가지표 및 결과산출 방식
• 6. 해당 고영향 인공지능으로 인한 위험의 예방ㆍ완화ㆍ손실 복구 등에 관한 사항
• 7. 영향평가의 결과 개선이 필요한 경우에는 그 이행계획에 관한 사항

03자주 빠뜨리는 항목

1번의 취약계층부터 봅니다. 영향받는 집단을 일반론으로 적고 끝내는 문서가 많은데, 시행령은 장애인·고령자 등 인공지능취약계층의 특성이 반영되도록 «해야 한다»고 못 박아 둡니다. 같은 서비스가 이들에게 다르게 작동하는지를 따로 써야 합니다. 간접적으로 영향받는 사람도 빠뜨리기 쉽습니다.

2번의 기본권 유형은 가이드라인의 예시에서 출발하면 됩니다. 인간의 존엄성, 평등권, 신체의 자유, 사생활의 비밀과 자유, 표현의 자유, 지식재산권, 소비자 권리, 교육받을 권리입니다. 예시일 뿐이므로 목록에 없는 기본권도 해당할 수 있습니다.

5번의 지표에도 주의할 점이 있습니다. 가이드라인은 고영향 여부를 판단할 때 지표를 쓰는 것이 바람직하지만 지표에만 전적으로 의지하는 것은 부적절하다고 씁니다(1.3.2). 영향평가의 지표도 같은 태도로 쓰는 편이 안전합니다. 공정성 지표 수치만 붙인 문서는 오히려 약점이 될 수 있습니다. 지표를 쓸 수 없었다면 목적·기능·활용 맥락을 어떻게 고려했는지를 적어 두는 것이 좋습니다.

04아직 정해지지 않은 것

시행령 제28조제3항은 그 밖에 필요한 사항을 과학기술정보통신부장관 고시로 정한다고 위임했는데, 해당 고시는 아직 확인되지 않습니다. 서식과 세부 방법이 뒤에 달라질 수 있다는 뜻입니다. 지금 만드는 문서는 7개 항목을 조문 순서대로 채워 두는 것이 안전합니다. 고시가 나오면 그 위에 얹으면 됩니다. 오틸리아는 개정 감시를 매일 돌려 이 고시가 뜨면 잡아냅니다.

05영향평가와 판정은 다릅니다

순서를 헷갈리는 경우가 많은데, 먼저 고영향인지 판정하고(법 제33조), 고영향이면 제34조의 의무를 이행하며, 그와 별도로 제35조의 영향평가를 합니다. 판정 결과서가 영향평가서를 대신하지 못합니다. 다만 판정 과정에서 정리한 사용 행태와 위험은 영향평가 4번·6번 항목의 재료가 됩니다.

사전검토 도구는 고영향 판정이 나오면 7개 항목 서식을 조문 순서대로 만들어 드립니다. 사업자명·해당 영역처럼 이미 입력받은 것은 채우고, 항목별 내용은 〔 〕로 비워 두며, 그대로 제출하면 안 된다고 표시합니다.