서초구, AI위원회 출범…공공 AI 서비스 신뢰성·안전성 검증 강화

서초구가 인공지능(AI) 정책의 기술적·윤리적 검증을 담당할 '인공지능위원회'를 공식 출범시키며 공공 AI 서비스의 신뢰성과 안전성 확보에 나선다.

서초구는 「서울특별시 서초구 인공지능 기본 조례」를 근거로 인공지능위원회를 구성하고 공공행정과 민간 분야를 아우르는 AI 정책 추진 체계를 마련한다고 밝혔다.

위원회는 기술·윤리·교육 분야 전문가 15명으로 구성된다. 공공행정에 적용되는 AI 서비스의 기술적 적합성과 윤리성, 안전성, 신뢰성을 종합적으로 검토하고 자문하는 역할을 맡는다. 향후에는 민간 분야의 AI 활용에 대한 자문 기능도 단계적으로 확대할 계획이다.
특히 생성형 AI와 대규모 언어모델(LLM)이 사실과 다른 정보를 그럴듯하게 생성하는 '환각(Hallucination)' 현상 등 AI 활용 과정에서 발생할 수 있는 위험 요소를 고려해, 공공서비스의 신뢰성을 높이는 관리 체계를 구축한다는 점이 이번 위원회 출범의 핵심이다.

서초구는 오는 8월 시행되는 「인공지능 및 데이터 기반 행정 활성화에 관한 법률」에 맞춰 전담 추진체계와 내부 기준도 정비하는 등 데이터 기반 행정 역량을 강화할 방침이다.

전성수 서초구청장은 "공공과 민간을 아우르는 책임 있는 AI 정책을 추진해 구민이 안심하고 신뢰할 수 있는 행정서비스를 구현해 나가겠다"고 말했다.

기초자치단체의 AI 경쟁은 기술 도입을 넘어 '신뢰를 관리하는 행정'으로 확장되고 있다. 서초구 인공지능위원회가 실질적인 정책 검증기구로 자리 잡을 수 있을지가 향후 성패를 가를 것으로 보인다.

구자민 koo@newsdot.net