유료 구독자 전용
무료 회원 공개
전체 공개
미국 캘리포니아주, 위험한 AI 시스템 긴급 중단 권한 도입 추진… 독립 안전성 평가 강화
AI 생성 이미지미국 캘리포니아주가 심각한 안전 위험을 초래하는 인공지능(AI) 시스템의 가동을 강제로 중단할 수 있는 권한을 도입하는 방안을 추진한다. AI 기업의 자체적인 안전 관리에 의존하는 방식에서 벗어나 정부와 독립 평가기관의 감독을 강화한다는 취지다. 개빈 뉴섬(Gavin Newsom) 캘리포니아주 주지사는 18일 AI 안전 규제 강화를 위한 전문가 권고안을 공개했다. 권고안에는 의무적인 안전 기준 수립과 외부 평가, 사고 신고 체계 강화 등의 내용이 포함됐다. 주요 권고사항은 AI 시스템이 심각한 위험을 일으킬 경우에 대비해 기업이 긴급 가동 중단 절차를 마련하도록 하는 것이다. 기업이 필요한 대응 조치를 취하지 않을 경우 주정부가 직접 시스템의 가동 중단을 명령할 수 있도록 하는 방안도 제시됐다. AI 개발 과정에 대한 외부 감독도 강화할 계획이다. 독립 평가기관이 모델의 학습부터 개발 및 배포에 이르는 과정에서 안전성과 위험 요소를 검증하도록 하고, 평가기관의
로그인한 회원만 댓글을 쓸 수 있습니다.
아직 댓글이 없습니다.