서초구, AI위원회 출범…공공 AI 서비스 신뢰성·안전성 검증 강화

서초구가 인공지능(AI) 정책의 기술적·윤리적 검증을 담당할 '인공지능위원회'를 공식 출범시키며 공공 AI 서비스의 신뢰성과 안전성 확보에 나선다. -------------------------------------------------------------------------------- 서초구는 「서울특별시 서초구 인공지능 기본 조례」를 근거로 인공지능위원회를 구성하고 공공행정과 민간 분야를 아우르는 AI 정책 추진 체계를 마련한다고 밝혔다. 위원회는 기술·윤리·교육 분야 전문가 15명으로 구성된다. 공공행정에 적용되는 AI 서비스의 기술적 적합성과 윤리성, 안전성, 신뢰성을 종합적으로 검토하고 자문하는 역할을 맡는다. 향후에는 민간 분야의 AI 활용에 대한 자문 기능도 단계적으로 확대할 계획이다. 특히 생성형 AI와 대규모 언어모델(LLM)이 사실과 다른 정보를 그럴듯하게 생성하는 '환각(Hallucination)' 현상 등 AI 활용 과정에서 발생할 수 있는 위험