법이 정한 영역
핵물질과 원자력시설의 안전한 관리 및 운영
법 제2조제4호 마목
무엇을 뜻하나
핵물질은 외부로 유출되면 ‘사람의 생명, 신체의 안전에 중대한 영향을 미칠 우려’가 있으므로, ‘핵물질과 원자력시설의 안전한 관리 및 운영을 위하여 사용되는 인공지능’은 ‘고영향 인공지능’에 해당한다. 이에 원자력시설 내 주요 기기의 작동을 관제하는 인공지능시스템 등이 오작동하거나 해킹을 당할 경우 방사능이 외부로 유출될 가능성이 있거나 원자력 안전시설의 안정적 운영에 영향을 미칠 수 있는 인공지능은 고영향 인공지능에 해당한다.
어디까지 적용되나
「원자력시설 등의 방호 및 방사능 방재 대책법」(이하 ‘방사능방재법’) 제2조 제1항 제1호 및 제2호에 따른 핵물질과 원자력시설의 안전한 관리 및 운영을 위하여 사용되는 인공지능시스템을 대상으로 적용된다. 다만 인공지능시스템이 소프트웨어와 하드웨어의 결합이라는 측면을 고려하면 “원자력시설 컴퓨터 및 정보시스템”과 관련된 경우가 많다.
가이드라인 2.4.2
확인 기준
‘인공지능이 사용된 원자력시설’의 설비가 「원자로 시설의 안전등급과 등급별 규격에 관한 규정」(원자력안전위원회 고시)에 따른 안전등급 1‧2‧3등급의 안전기능을 수행하는 경우 ‘고영향’에 해당한다. ｢원자로시설의 안전등급과 등급별 규격에 관한 규정｣ 제8조제2항 각 호의 기능을 인공지능이 수행하는 경우에도 원칙적으로는 ‘고영향’에 해당한다.
- ‘인공지능이 사용된 원자력시설’의 설비가 「원자로 시설의 안전등급과 등급별 규격에 관한 규정」(원자력안전위원회 고시)에 따른 안전등급 1‧2‧3등급의 안전기능을 수행하는 경우 ‘고영향’에 해당한다.가이드라인 2.4.3
- ｢원자로시설의 안전등급과 등급별 규격에 관한 규정｣ 제8조제2항 각 호의 기능을 인공지능이 수행하는 경우에도 원칙적으로는 ‘고영향’에 해당한다.가이드라인 2.4.3
가이드라인이 답을 적어 둔 사례
고영향에 해당한 사례 — A기관의 방사성폐기물 처리·저장 AI (로봇팔 + 영상 인식 분류)
A기관에서는 방사성폐기물을 처리·추출·포장·저장하는 과정에 인공지능 기술을 적용하여, 작업 효율성과 방사선 작업자의 안전을 동시에 확보하는 방안을 추진하고 있다. 구체적으로는 AI 기반 로봇팔을 이용해 폐기물 용기를 자동으로 이송·포장하고, AI 영상 인식 시스템을 통해 폐기물 종류 및 방사능 준위를 자동 분류하여 저장 위치를 결정하는 방식이다.
｢원자로 시설의 안전등급과 등급별 규격에 관한 규정」 제8조 제2항 제1호의 비안전 등급에 해당하고 예외 사유에도 해당하지 않으므로 고영향 인공지능에 해당된다. (인공지능이 직접 수행하고, 수행 전 사람의 최종 검토가 없으며, 기존 안전기능에 추가하는 것도 아님)
가이드라인 2.4.4
고영향이 아니라고 본 사례 — B기관의 LLM 기반 인허가 신청 서류 자동 생성
원자력사업자인 B기관에서는 원자력 관련 업무를 할 때마다 인허가 신청 서류 작성에 소요되는 시간, 인력 등을 감축하기 위해 대형 언어 모델(LLM, Large Language Model)의 인공지능기술을 이용하여 업무시마다 작성하여야 하는 신청 서류를 자동으로 생성하고 있다.
안전등급 1, 2, 3에 해당사항이 없어 ‘비안전등급’에 해당하고, ｢원자로시설의 안전등급과 등급별 규격에 관한 규정｣ 제8조 제2항 각호에 해당하지 않아 고영향 인공지능에 해당하지 않는다.
가이드라인 2.4.4
원문에서 알아 둘 것
- 본문과 그림이 정반대입니다. 본문 예외 ii)는 사람 Cross-check 가 있으면 '고영향 아님'인데, 그림의 관문4 '기능 수행 전 사람의 최종 검토가 가능한가?'는 YES 가 고영향 경로입니다. 방향이 정반대라 어느 쪽도 임의로 택할 수 없습니다. 예외 적용 범위도 본문(제8조제2항 각 호 전체)과 그림(4·5·12호 한정)이 다릅니다. 이 절은 확정 판정을 내리지 않고 «불명확»으로 답합니다.
- 이 절에는 다른 법을 지킨 것을 이 법의 의무 이행으로 보는 항목(시행령 별표 1 갈음)이 2건 있습니다. 해당하는 것은 결과 화면에서 고르면 됩니다.