법이 정한 영역
「교통안전법」 제2조제1호부터 제3호까지에 따른 교통수단, 교통시설, 교통체계의 주요한 작동 및 운영
법 제2조제4호 아목
무엇을 뜻하나
항공교통 분야는 교통수단의 특성상 인공지능시스템의 오류 또는 잘못된 판단으로 인해 다수의 인명 피해를 수반하는 심각한 사고가 발생할 가능성이 크므로, 항공교통 분야에 사용되는 인공지능은 모두 ‘고영향 인공지능’에 해당한다고도 볼 수 있을 것이다. 다만, 항공교통 분야에서 사용되는 현행 항공교통 관련 법령에서 정하고 있는 위험도 기준을 적절하게 반영하여 ‘고영향 인공지능’ 해당여부를 판단한다.
어디까지 적용되나
항공교통 분야에서 항공기의 직접적인 운항, 안전시설 및 장비 운용에 사용되는 인공지능시스템을 의미한다.
가이드라인 2.10.2
확인 기준
항공교통의 위험에 영향을 미치는 ①운항 ②항공교통관제 및 운항통제 ③항공기 설계·제작 및 정비등 분야에서 사용되는 인공지능시스템 중에서 인공지능이 전부 또는 일부에 대하여 독립적으로 최종 의사결정을 하며, 의사결정의 대상이 심각도가 ‘C’이상이고, 발생가능성이 ‘높음’ 이상인 항공기 사고를 일으킬 위험성이 존재하는 경우 ‘고영향 인공지능’에 해당한다.
- 항공교통의 위험에 영향을 미치는 ①운항 ②항공교통관제 및 운항통제 ③항공기 설계·제작 및 정비등 분야에서 사용되는 인공지능시스템 중에서가이드라인 2.10.3
- 인공지능이 전부 또는 일부에 대하여 독립적으로 최종 의사결정을 하며,가이드라인 2.10.3
- 의사결정의 대상이 심각도가 ‘C’이상이고 (참고 2-10-1, [위해요인별 발생결과의 심각도 구분]),가이드라인 2.10.3
- 발생가능성이 ‘높음’ 이상(참고 2-10-1, [위해요인별 발생결과의 빈도])인 항공기 사고를 일으킬 위험성이 존재하는 경우 ‘고영향 인공지능’에 해당한다.가이드라인 2.10.3
※ 「항공안전데이터 처리 및 활용에 관한 규정」(국토교통부 훈령)에 명시된 발생 가능성과 심각도를 기준으로 판단
가이드라인이 답을 적어 둔 사례
고영향에 해당한 사례 — A공항의 항공교통관제용 B인공지능시스템
A공항에서는 인공지능시스템 기반으로 항공기의 경로를 실시간으로 모니터링하고 공항의 혼잡도를 분석하여, 비행기 간 충돌을 예방하고 효율적인 항로를 제시하는 B인공지능시스템을 항공교통관제에 사용 중이다.
B인공지능시스템은 기상 정보, 항공기의 위치, 속도, 고도 등 실시간 데이터를 빠르게 분석하고 데이터 기반으로 비행경로, 항로 혼잡도, 날씨 조건 등을 예측하고 비행경로를 자동으로 조정할 수 있다. 그렇다면 B시스템은 심각도 ‘매우 심각’, 발생 가능성 ‘매우 높음’으로써 위험도 1등급(5A)에 해당하므로 ‘고영향 인공지능’으로 평가할 필요가 상당하다.
가이드라인 2.10.4
고영향이 아니라고 본 사례 — C항공사의 객실 승객 행동 분석 D인공지능시스템
C항공사는 D인공지능시스템을 통해 운항 중인 객실 내에서 승객의 행동을 분석하여 비상 상황에 대비하여 신속한 대처방안을 승객에게 제시하고 있다.
따라서 항공교통의 위험에 영향을 미치는 ①운항 ②항공교통관제 및 운항통제 ③항공기 설계·제작 및 정비 등 분야에서 사용되는 인공지능시스템에 해당하지는 않으므로, D인공지능시스템은 ‘고영향 인공지능’에 해당하지 않는다.
가이드라인 2.10.4
원문에서 알아 둘 것
- 본문과 그림의 결론이 같습니다. 원문 그대로 답합니다.