인천항 AI 도입에 위험등급·인간 감독 의무화…공사, 자체 가이드라인 배포

인천항만공사가 항만 업무에 인공지능(AI)을 도입하는 과정에서 위험 수준을 사전에 분류하고 사람의 감독과 즉각적인 개입을 의무화하는 자체 관리 기준을 마련했다. 항만 운영의 효율성을 높이는 데 그치지 않고, AI의 오류나 오작동이 현장 안전과 공공서비스에 미칠 영향을 통제하겠다는 취지다.

인천항만공사는 항만 운영·건설·안전관리 등 업무 전반에 적용할 ‘인천항만공사 인공지능(AI) 가이드라인’을 마련해 지난달 말 전 부서에 배포했다.

AI 판단은 사람이 확인…오류 땐 즉시 개입

이번 기준은 AI 관련 법·제도가 잇따라 시행되면서 공공기관에 요구되는 활용·관리 책임이 커진 데 대응해 마련됐다. 공사는 항만 업무의 특성을 반영해 안전성·신뢰성·책임성·공공성을 4대 기본원칙으로 정하고, 이를 구체화한 8개 세부 조항을 담았다.

핵심은 AI가 자율적으로 작동하더라도 최종 통제권을 사람에게 두는 것이다. 담당자가 AI 결과를 확인하고 필요하면 수정하거나 작동을 중지할 수 있도록 인간 감독체계를 갖추도록 했다. 시스템 오류나 장애가 발생했을 때 담당자가 즉시 개입할 수 있는 대응 절차도 포함했다.

위험도 3단계 분류…업무별 점검표 마련

AI 활용에 따른 위험을 구분하는 3단계 관리체계도 도입했다. 항만 운영 의사결정에 AI가 미치는 영향과 오류 발생 시 예상되는 피해 규모 등을 고려해 ‘법정 고영향·중점관리·일반’으로 나눠 관리하는 방식이다.

기술을 도입하기 전 잠재적 위험을 살피고, 실제 활용 단계에서도 등급에 맞춰 점검하도록 해 위험 수준에 따른 관리가 이뤄지도록 했다. 다만 이 구분은 공사가 자체 가이드라인에 마련한 관리체계로, 개별 AI 시스템의 등급과 적용 방식은 업무별 검토가 필요하다.

현장 적용을 위한 업무별 이행점검 체크리스트도 함께 제작했다. 항만 운영과 항만 건설 등 각 부서가 AI를 활용할 때 확인해야 할 사항을 점검표로 정리했으며, 선사·화주·항만 운영사 등 외부 이해관계자가 활용할 수 있는 별도 체크리스트도 제공한다.

책임자·전략위원회 구성…전 부서 교육 추진

공사는 가이드라인을 실제 업무에 정착시키기 위해 AI 활용을 총괄할 책임자를 지정하고 AI 전략위원회를 구성하는 등 운영 조직을 정비할 계획이다. 전 부서를 대상으로 설명회와 체크리스트 작성 교육도 진행할 예정이다.

김영국 인천항만공사 기획관리처장은 이번 가이드라인이 공공기관의 책임 있는 AI 활용 기준을 마련했다는 데 의미가 있다며, 안전하고 신뢰할 수 있는 항만 AI 전환을 이어가겠다고 밝혔다.