“AI 챗봇, 엉터리 답변하면 어쩌나”... 정재동 금천구의원, ‘행정 신뢰’ 강조

금천구의회에서 인공지능(AI)을 활용한 행정 서비스의 신뢰성 확보와 공직사회의 엄정한 기강 확립을 촉구하는 목소리가 나왔다.

금천구의회 행정재경위원회 소속 정재동 의원(더불어민주당, 시흥1·4동)은 9일 열린 제259회 임시회 제2차 회의 소관 부서 업무보고에서 AI 행정 시스템의 오류 가능성을 지적하며 철저한 검증 대책 마련을 주문했다.

정재동 의원은 소통담당관 소관 업무보고에서 올해 도입 예정인 ‘통합민원 챗봇’ 시스템에 대해 집중 질의했다. 정 의원은 “주민들이 AI를 통해 행정 궁금증을 해소할 때, AI가 생성한 답변이 오류인지 아닌지를 어떻게 검증하느냐”며 “엇비슷한 오답이 제공될 경우 주민들은 잘못된 정보를 사실로 믿을 수 있다”고 우려를 표했다.

이에 대해 문현주 소통담당관은 “기존 챗GPT나 제미나이(Gemini) 같은 생성형 AI의 '할루시네이션(환각·거짓 정보 생성)' 현상을 방지하기 위해 구 홈페이지 데이터를 기반으로 한 검증된 시스템을 도입할 것”이라며 “부서별 실무반을 구성해 정기적으로 모니터링하겠다”고 답했다.

정 의원은 이어 민원감사담당관 질의를 통해 부서의 독립성과 신뢰 회복을 강조했다. 그는 “부서장으로 새로 부임한 만큼 인사권, 계약심사, 하도급 부조리, 공직 비리 등에 대해 어느 외부기관보다 더 엄정하게 대처해달라”며 “주민과 직원들에게 ‘가장 신뢰받는 부서’라는 인식을 심어주는 것이 중요하다”고 당부했다.

유병소 민원감사담당관은 “주민에게 피해가 가는 사안에 대해서는 특별히 더 엄중하게 다루겠다”고 약속했다.

아울러 정 의원은 오는 6월 지방선거를 앞두고 자치행정과에 투표소 운영 효율화를 제안했다. 정 의원은 “투표 시 인원이 몰리는 시간대에 주민들이 겪는 불편을 최소화해야 한다”며 “선관위와 협의해 공간이 허용하는 범위 내에서 투표 기표대 수를 적절히 확보하는 등 수월한 투표 환경을 조성해달라”고 요청했다.