법이 정한 영역
「교통안전법」 제2조제1호부터 제3호까지에 따른 교통수단, 교통시설, 교통체계의 주요한 작동 및 운영
법 제2조제4호 아목
무엇을 뜻하나
선박 운항에서 인공지능시스템의 오류 또는 잘못된 판단으로 인해 인명 피해나 환경 오염과 같은 심각한 사고가 발생할 수 있으므로, ‘고영향 인공지능’에 해당된다. 특히, 선원의 개입이 동원되지 않는 완전자율운항선박의 경우, 인공지능이 수행하는 자동 항해, 충돌 회피 시스템, 위급 상황 대응 등의 탐지, 판단, 조치 기능은 인명과 직접적으로 연결된 시스템으로, ‘고영향 인공지능’으로 관리해야 한다.
어디까지 적용되나
선박의 운항과 관련하여 활용되는 인공지능시스템을 의미한다. 특히 해양 안전 향상, 운항 효율성 증대, 인적 오류 감소, 운항 비용 절감, 환경 보호 등을 목표로 세계 각국에서 활발히 개발 중인 자율운항선박에 적용되는 인공지능시스템과 관련된 경우가 많다.
가이드라인 2.9.2
확인 기준
선박교통의 위험에 영향을 미치는 인공지능시스템 중 다음의 기능에 따라 ‘고영향 인공지능’ 해당성을 평가한다.
- (데이터 정확성 및 처리능력) 인공지능시스템이 수집한 데이터가 얼마나 정확하고, 이를 적절히 분석하여 운항에 필요한 정확한 정보를 제공하는 지 여부가이드라인 2.9.3
- (시스템 신뢰성) 인공지능시스템의 오류 발생 빈도와 시스템 유지보수 필요 빈도가이드라인 2.9.3
- (기능 중요도) 인공지능시스템이 수행하는 기능이 선박 운항 및 안전에 얼마나 필수적인지 여부가이드라인 2.9.3
- (오작동 시 잠재적 위험성) 인공지능시스템 오류가 발생 시 인명, 환경, 선박 손상에 대한 위험이 발생할 가능성가이드라인 2.9.3
- (비상 시 대응 능력) 비상 상황 발생 시 인공지능시스템의 신속대응능력 및 대체 시스템 존재 여부가이드라인 2.9.3
가이드라인이 답을 적어 둔 사례
고영향에 해당한 사례 — A 선사의 자율운항 인공지능시스템 (선박 자율 제어)
A 선사에는 선박 운항의 효율성을 높이기 위해 선박 자율 제어 기술을 통한 자율운항 인공지능시스템을 활용하고 있다.
자율운항시스템 중 선박 자율 제어 기술에 해당되며, 승무원 및 승객들의 생명, 신체 및 안전과 직접적으로 연관된다. 이 과정에서 인공지능시스템은 높은 데이터 정확성과 처리 능력이 요구되며, 오류 발생이나 유지보수 요구가 과도해서는 안 된다. 또한 수행하는 자율 제어 기능은 선박 운항과 안전에 필수적이고, 오작동 시 인명, 환경, 선박 손상에 대한 위험이 발생할 가능성이 크다. 더불어 비상 상황에서 즉각적인 대응이 어려울 수 있다.
가이드라인 2.9.4
고영향이 아니라고 본 사례 — B 선사의 원격관제 인공지능시스템 (자동보고기술)
B 선사에서는 원격관제를 위해 자동보고기술을 사용한 인공지능시스템을 통해 육지와 선박, 선박 간 관제를 실시하고 있다.
해당 시스템의 주요 역할은 관제 지원으로, 선박 운항과 안전에 필수적인 자율 제어 기능을 직접 수행하지 않는다. 오작동 시 위험이 발생할 가능성은 있으나, 비상시 원격운항자가 직접 대응할 수 있다.
가이드라인 2.9.4
원문에서 알아 둘 것
- 그림이 본문보다 좁습니다. 본문은 평가 항목 다섯 개를 나열만 하고 몇 개가 걸려야 하는지 정하지 않았는데, 그림은 다섯 개 모두 «예»여야 고영향으로 봅니다. 그림대로면 데이터가 정확하거나 비상 시 대체 시스템이 있으면 나머지를 다 충족해도 해당하지 않습니다. 고영향 쪽으로 답하고, 그림을 따르면 뒤집힐 수 있다는 점을 결과서에 적습니다.
- 이 절에는 다른 법을 지킨 것을 이 법의 의무 이행으로 보는 항목(시행령 별표 1 갈음)이 5건 있습니다. 해당하는 것은 결과 화면에서 고르면 됩니다.