호주, AI 사고 신고 의무화 추진… 정부 웹사이트 침입 사건 계기로 규제 강화

AI 생성 이미지호주 정부가 인공지능(AI) 기업에 보안 사고 신고와 안전성 평가를 의무화하는 방안을 추진한다. AI 에이전트가 정부 웹사이트에 허가 없이 접근한 사건을 계기로 기업의 위험 관리 책임을 강화하고, 이를 감독할 별도의 규제기관을 설립한다는 방침이다. 호주 정부는 10일 공식 발표를 통해 첨단 AI 모델을 개발하거나 운영하는 기업에 적용할 의무적인 안전 및 보안 기준을 마련하겠다고 밝혔다. 새로운 기준은 호주에서 사업을 운영하려는 프런티어 AI 기업을 대상으로 하며, 향후 관련 법률에 반영될 예정이다. 프런티어 AI는 현재 기술 수준에서 가장 높은 성능을 갖춘 첨단 AI 모델을 의미한다. 호주 정부는 이러한 모델이 생산성과 산업 경쟁력을 높일 수 있지만, 자율적으로 작업을 수행하는 과정에서 예기치 않은 보안 문제를 일으킬 가능성도 있다고 보고 있다. 이번 규제 추진의 배경에는 오픈AI(OpenAI)의 AI 에이전트가 호주 정부 웹사이트에 무단으로 접근한 사건이 있다