경기도의회 유호준 의원(더불어민주당, 남양주 다산1동)은 11월 9일(월) 열린 제395회 정례회 미래과학협력위원회 첫 행정사무감사에서 AI국을 상대로 경기도가 추진 중인 행정 AX(AI 전환) 과정에서의 차별·혐오 인식 기반 자료 필터링 대책과 도정 홍보물 모니터링 프로그램 구축, 나아가 공공기관의 개인정보 관리 체계 고도화를 강력히 주문했다.

유호준 의원은 질의에 앞서 “저에게는 다섯 번째 행정사무감사이자 미래과학협력위원회에서는 맞이하는 첫 번째 행정사무감사”라며, “지난 본회의 도정질문에서도 밝혔듯 성별, 종교, 장애, 나이, 사회적 신분, 출신 지역·국가·민족, 용모 등 신체 조건, 임신·출산, 가족 형태, 인종, 피부색, 사상·정치적 의견, 범죄경력, 성적지향, 학력, 병력 등 어떠한 차이와도 상관없이 존엄한 경기도민의 삶을 위해 도정이 제 역할을 다하고 있는지 점검하겠다”고 감사에 임하는 다짐을 밝혔다.

이날 유 의원은 먼저 지난 9월 3일 경기여성가족재단에서 개최한 ‘젠더 관점에서 본 경기도 AI 정책’ 주제의 젠더 폴리시 세미나(Gender Policy Seminar)를 언급하며, 행정 AX 전환의 이면에 잠재된 데이터 편향성과 차별 재생산 문제를 집중적으로 짚었다. 유 의원은 “행정 AX 전환은 도민에게 편리한 행정서비스를 제공할 기회가 될 수 있지만, AI가 학습하거나 답변을 생성할 때 활용하는 인터넷상의 정보에는 특정 집단에 대한 차별이나 혐오적 인식이 담겨 있을 수 있다”며 “이를 충분한 검토 없이 활용할 경우 기존의 사회적 편견이 행정서비스에 그대로 투영되거나 확대될 우려가 크다”고 지적했다.
이에 대해 경기도 관계자는 “행정 AX 전환과정에서 국정원 가드레일 지침에 따라서 필터링을 하고 있다”고 설명했지만, 유 의원은 “국정원에만 의존할 것이 아니라, 행정 AX 전환 과정에서 혐오·차별적 인식이 포함된 자료가 AI 학습 및 답변 생성 단계에서 철저히 배제될 수 있도록 경기도만의 명확한 윤리 기준과 꼼꼼한 필터링 체계를 갖춰야 한다”고 강조했다.

이어 이러한 AI 필터링 기술이 도정 전반의 성평등 및 인권 감수성 제고로 이어져야 한다는 점도 분명히 했다. 유 의원은 경기도가 작년 세계여성의날을 맞아 경기도의 여성정책 사업을 홍보하면서 ‘남편이 웃는 여성정책’, ‘아빠가 웃는 여성정책’, ‘남친이 웃는 여성정책’과 같은 텍스트와 함께 임신·출산 정책을 설명한 뒤 도민들의 반발 끝에 홍보물을 삭제하고 사과한 것을 거론하며 “당시 홍보물 제작 과정에 성평등 관점의 심의 프로토콜을 만들겠다고 했는데, 이런 프로토콜 마련에 다양한 차별·혐오를 배제하고 평등 관점의 준비가 필요할 것 같다.”고 강조했다.

아울러 유 의원은 외부 데이터 필터링 못지않게 AX 행정의 또 다른 핵심 축인 ‘도민 개인정보 및 공공데이터 보안 관리 체계’의 근본적인 개선을 요구했다. 현재 경기도 내 41개 시스템에서 방대한 도민 정보를 다루고 있으며, 경기도 평생학습포털의 경우 약 345만 건을 포함해 기관별로 수만 건 이상의 민감한 개인정보가 관리되고 있다.

유 의원은 “수백만 건에 달하는 도민의 개인정보가 축적되어 있음에도, 일선 공공기관에서는 한 달에 한 번 화면을 캡처해 보고서를 올리는 식의 형식적인 보안 점검에 그치는 경우가 많다”며 “개인정보 유출에 대한 불안과 책임을 일선 실무자 개인의 몫으로만 돌릴 것이 아니라, AI국이 전문성을 발휘해 경기도 및 산하 공공기관의 개인정보 관리 체계를 한층 고도화하고 보안 점검 프로그램의 질을 대폭 향상시킬 수 있는 전문 지원 프로그램을 마련해야 한다”고 당부했다.

끝으로 유호준 의원은 “신설된 AI국이 타 실·국으로부터 전문성과 존재 가치를 인정받기 위해서는 소관 업무에만 머물지 않고, 타 부서의 AI 관련 조례 제·개정이나 사업 추진 시에도 적극적으로 사전 검토와 의견 조회를 거치는 총괄 거버넌스를 확립해야 한다”며 “차별과 혐오 없는 안전한 AI 행정 구현과 철저한 개인정보 보호를 위해 AI국이 주도적인 역할을 해달라”고 강조하며 질의를 마쳤다.