인천시, 행정 AI 활용 윤리지침 만든다…민감정보 입력·인간 감독 기준 마련

인천시가 행정 전반으로 확대되는 인공지능(AI) 활용에 대응해 공공부문에서 지켜야 할 자체 윤리 기준 마련에 나선다.

인천시는 30일 연수구 송도 지타워에서 ‘인천광역시 인공지능 활용 윤리 지침 마련을 위한 설명회 및 전문가 토론회’를 열고 지침 초안을 공유했다.

이날 행사에는 인천시와 산하 공공기관 직원 등 40여 명이 참석했다. 생성형 AI의 행정업무 활용 과정에서 발생할 수 있는 개인정보와 보안, 책임 소재 등의 문제를 중심으로 현장 의견을 들었다.

인천시가 마련 중인 지침은 인간의 존엄성과 사회의 공공선, 인류의 지속가능성을 기본 가치로 제시했다.

구체적인 활용 원칙으로는 인간 중심성, 프라이버시 보호, 공정성, 포용성, 책임성, 안전성, 신뢰성, 투명성을 제시하고 공공행정의 특성을 반영해 공공성과 상호운용성도 포함했다.

실제 행정 현장에서 AI를 사용할 때 적용할 기준도 논의됐다.

생성형 AI를 어떤 업무까지 활용할 수 있는지와 함께 비공개 행정자료나 민감정보를 AI에 입력할 수 있는 범위가 주요 쟁점으로 제시됐다.

AI가 시민의 권리나 이해관계에 영향을 미치는 업무에 활용될 경우 담당 공무원의 검토와 판단 등 인간의 감독을 어떻게 보장할지도 논의 대상에 포함됐다.

AI를 활용하는 사업을 도입하기 전에 위험성과 활용 적정성을 검토하는 사전 절차와 오류가 발생하거나 보안사고가 발생했을 때 대응할 체계를 마련하는 방안도 다뤄졌다.

전문가 토론에는 최재원 순천향대학교 교수가 좌장을 맡았으며 정준화 국회입법조사관, 최혜민 인천대학교 교수, 인천연구원 정윤진·최태림 박사가 참여했다.

인천시는 이날 제시된 전문가 의견과 현장 의견을 반영해 오는 10월 중 지침 초안을 완성하고 관련 절차를 거쳐 올해 안에 제정할 계획이다.

손혜정 인천시 정보화담당관은 “인공지능 활용이 확대되는 행정 환경에 맞춰 시민의 신뢰를 확보하고 안전하고 책임 있는 활용 기준을 마련하는 것이 중요하다”며 “현장 의견과 전문가 제언을 충분히 반영해 인천시 여건에 맞는 실효성 있는 윤리 지침을 마련하겠다”고 말했다.