법이 정한 영역
에너지의 공급
법 제2조제4호 가목
무엇을 뜻하나
에너지 공급은 일상생활과 경제활동에 중대한 영향을 미치는 요소이므로 이를 지원하는 인공지능기술, 특히 전력망의 안정성과 신뢰성을 유지하기 위하여 사용되는 인공지능시스템은 고영향 인공지능에 해당한다. 고영향으로 사용되는 인공지능시스템은 전력 시스템의 안정성과 효율성에 중대한 영향을 미치는 영역에서 사용되며, 장애 발생 시 심각한 위험을 초래할 수 있는 작업을 지원하거나 개선하는 기술을 의미한다.
어디까지 적용되나
「에너지법」, 「신에너지 및 재생에너지 개발ㆍ이용ㆍ보급 촉진법」, 「전기사업법」 등에 따른 전력 공급의 안전하고 효율적인 관리 및 운영을 위하여 발전, 송전, 변전, 배전, 소비 등 전 과정에서 사용되는 인공지능시스템을 의미한다.
가이드라인 2.1.2
확인 기준
에너지 분야에서 사용하는 인공지능시스템의 경우, 다음 기준을 종합적으로 고려하여 고영향 해당 여부를 판단할 수 있다.
- (기능 중요도) 인공지능시스템이 전력망의 안정성과 효율성에 직접적인 영향을 미치는 기능을 수행하는지를 평가하여 필수적인 기능일수록 고영향 인공지능에 해당한다.가이드라인 2.1.3
- (잠재적 위험성) 인공지능시스템의 의도하지 않은 작동으로 인해 전력망이나 에너지 공급에 미치는 영향을 평가하여 치명적인 결과를 초래할 수 있는 시스템을 말한다.가이드라인 2.1.3
- (시스템 신뢰성) 인공지능시스템의 안전성, 오류 발생 빈도 등을 평가하여 신뢰도가 낮을수록 위험 발생 가능성이 증가하므로 고영향 인공지능에 해당한다.가이드라인 2.1.3
- (데이터 정확성 및 처리 능력) 인공지능시스템이 데이터를 정확하게 수집하고 처리하여 올바른 결정을 내리는 능력을 평가하여 데이터 처리의 오류가 시스템 전체에 영향을 미치는 경우를 말한다.가이드라인 2.1.3
- (자율성 및 의사결정 능력) 인공지능시스템이 사람의 개입 없이 자율적으로 의사결정을 내리는 정도를 평가하여 자율성이 클수록 위험성도 높아진다고 보아 고영향 인공지능에 해당한다.가이드라인 2.1.3
가이드라인이 답을 적어 둔 사례
고영향에 해당한 사례 — A기관의 인공지능 기반 자율형 송전 제어 시스템
A기관이 운영하는 인공지능 기반 자율형 송전 제어 시스템은 전력망에서 전력의 송전을 인간의 제어 없이 완전히 자동으로 제어하고 있다.
해당 인공지능시스템은 에너지 분야의 고영향 여부를 단독으로 판단할 수 있는 자율성 및 의사결정 능력이 있으며, 인공지능시스템이 전력 송전을 담당하고 있으므로 에너지 공급의 안전성 또는 효율성에 필수적인 기능을 수행하고 있고, 인공지능시스템이 오작동할 경우 전력의 흐름에 차질이 생기는 중대한 장애를 초래할 수 있는 잠재적 위험성을 갖추고 있다.
가이드라인 2.1.4
고영향이 아니라고 본 사례 — B기관의 에너지 수요 예측 인공지능시스템
B기관이 운영하는 에너지 수요 예측 인공지능시스템은 전력망에서 미래의 전력 수요 예측 데이터를 제공하고 B기관 담당자들의 회의를 거쳐 최종적 에너지 수요 예측을 한다.
해당 인공지능시스템은 에너지 분야의 고영향 여부를 단독으로 판단할 수 있는 자율성 및 의사결정 능력이 없으며, 해당 오류가 에너지 예측 전체에 영향을 줄 수는 있으나 해당 예측 판단이 자율적으로 수행되지는 않는다.
가이드라인 2.1.4
원문에서 알아 둘 것
- 본문과 그림이 다르게 읽힙니다. 본문은 '판단할 수 있다'는 재량 표현이고 그림만 확정적 결합 규칙을 제시합니다. 결론 방향은 같습니다. 판정은 원문대로 내립니다.