법이 정한 영역
「교통안전법」 제2조제1호부터 제3호까지에 따른 교통수단, 교통시설, 교통체계의 주요한 작동 및 운영
법 제2조제4호 아목
무엇을 뜻하나
인공지능시스템 오류 발생 시 인명, 재산 또는 환경에 해로운 결과를 가져오는 철도사고를 유발할 수 있으므로 ‘고영향 인공지능’에 해당할 가능성이 높다. 인공지능시스템은 철도 분야에서의 위험을 낮추는 목적으로 도입되고 있지만 비상대응에 있어 인공지능시스템의 도입이 오히려 기존 비상대응 시스템을 무력화함으로써 위험을 증가시킬 여지가 있어 ‘고위험 인공지능’에 해당한다.
어디까지 적용되나
철도분야 전반에서 사용되는 인공지능을 의미하며 철도차량, 철도시설, 철도교통체계에서 활용되는 인공지능시스템으로 세분화할 수 있다.
가이드라인 2.11.2
확인 기준
철도교통과 관련된 법률에는 ‘고영향’에 대한 개념정의는 존재하지 않으나 「항공ㆍ철도 사고조사에 관한 법률 (약칭: 항공철도사고조사법)」에 따라 철도사고 등의 원인 규명과 예방을 위한 위원회를 통해 사고조사 등을 수행해야만 하는 철도사고를 정의하고 있다. 철도사고는 법이 일정한 의무를 부여하는 것이 정당화될 만큼의 위험이 인정된다고 할 수 있으므로 이와 관련된 사고가 인공지능시스템에 기인한다면 ‘고영향 인공지능’에 해당한다. 철도차량·철도시설 이용 중 발생하는 사고 또한 유사한 기준에 따라 ‘고영향 인공지능’ 해당 여부를 판단한다. 이에 따라 열차의 충돌 또는 탈선사고, 화재사고와 같은 철도교통사고나 3명 이상의 사상자 또는 5천만원 이상의 재산피해가 발생할 여지가 있다면 ‘고영향 인공지능’에 해당한다.
- 철도교통의 위험에 영향을 미치는 ① 철도운행관리 및 유지보수, ② 철도교통관제, ③ 철도시설의 설치·운영 및 유지보수, ④ 철도안전관리 분야에서 사용되는 인공지능시스템 중에서가이드라인 2.11.3
- 인공지능이 전부 또는 일부에 대하여 독립적으로 최종 의사결정을 하며,가이드라인 2.11.3
- 인공지능의 의사결정으로 ‘화재·충돌·탈선사고’ 등의 철도교통사고를 일으킬 위험성이 존재하거나,가이드라인 2.11.3
- 3명 이상의 사상자가 발생한 철도안전사고를 야기할 수 있는 경우, 또는가이드라인 2.11.3
- 재산피해 5천만원 이상의 철도 운행장애 및 시설파손을 유발할 수 있는 경우에는 ‘고영향 인공지능’에 해당한다.가이드라인 2.11.3
가이드라인이 답을 적어 둔 사례
고영향에 해당한 사례 — A철도공사의 통신기반 열차제어시스템(CBTC)
A철도공사는 열차의 가속, 감속, 정차를 자동으로 제어하는 기술로 완전 자율주행 열차를 운행하는 통실기반 열차제어시스템(CBTC)을 활용한다.
열차제어시스템(CBTC)은 철도운행관리에 해당하는 것으로서, 인공지능이 독립적으로 최종 의사결정을 하며 철도교통사고 등의 결과를 초래할 수 있으므로 ‘고영향 인공지능’에 해당한다. (① 철도교통사고를 일으킬 가능성이 높고 ② 사상 3명 이상 철도안전사고 또는 ③ 재산 피해 5천만 원 이상 철도 운행장애 및 시설파손의 결과를 초래할 여지가 있다.)
가이드라인 2.11.4
고영향이 아니라고 본 사례 — B교통공사의 철도시설물 자율주행 점검 로봇
B교통공사는 LTE 통신망과 카메라, 라이다(Lidar) 센서를 장착한 철도시설물 ‘자율주행 점검 로봇’을 선로유지보수 점검 서비스에 활용하고 있다. 이 로봇은 지정된 장소까지 선로를 자율주행하며, 열차 운행에 방해되는 지장물을 발견하면 영상 및 알람을 작업자에게 실시간으로 전송한다.
따라서 작업자가 최종 의사결정을 하는데 도움을 주는 영상과 알람을 제공하는 것에 그치기 때문에 ‘고영향 인공지능’에 해당하지 않는다. (해당 기술은 인공지능이 열차운행에 방해되는 지장물을 알려주는 역할을 할 뿐 독립적인 최종 의사결정을 하지 않는다.)
가이드라인 2.11.4
원문에서 알아 둘 것
- 본문과 그림의 결론이 같습니다. 원문 그대로 답합니다.