[서울=뉴스닻] 이정수 기자 = 1월 22일부터 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)’이 시행되면서, 생성형 AI 확산에 따른 딥페이크·허위정보 대응을 위한 안전 규율이 본격 가동됐다. 정부는 산업 육성과 병행해 고영향(고위험) AI에 대한 책임·투명성 의무를 강화하고, 위반 시 과태료 부과 체계를 마련했다.

“포괄 규율 전면 시행” 의미…EU는 단계 적용, 우리는 즉시 적용

정부와 주요 보도는 이번 시행이 포괄적 AI 규율을 ‘전면 시행’ 단계로 올린 사례라는 점을 강조했다.
다만 EU 역시 AI Act를 이미 통과시켜 단계적으로 적용 중이어서, ‘최초 제정’보다는 ‘전면 시행’이라는 표현이 더 정확하다는 지적도 나온다.

채용·대출·의료 등 ‘고영향 AI’…이용자 고지·안전 확보 의무

법은 사람의 권익과 안전에 큰 영향을 줄 수 있는 분야의 AI를 고영향(고위험) AI로 보고, 서비스 제공자가 이용자에게 AI 기반 서비스임을 알리도록 했다. 또 해당 AI의 안전성을 확보하고, 필요한 관리·감독 조치를 수행할 책임을 부여했다.

AI 생성물 ‘표시’ 의무…딥페이크 오남용 차단이 핵심

AI로 생성된 콘텐츠는 이용자가 이를 식별할 수 있도록 표시가 요구된다. 특히 딥페이크와 같이 사회적 피해를 키울 수 있는 콘텐츠의 경우, 오남용을 막기 위한 최소한의 안전장치로서 표시·라벨링 의무가 강조된다.
표시 방식은 콘텐츠 유통 환경에 따라 달라질 수 있으며, 서비스 내부 표시와 외부 반출 시 워터마크 적용 등 다양한 형태가 논의되고 있다.

해외 사업자는 ‘국내대리인’ 지정…과태료 최대 3천만원, 1년 유예

일정 기준을 충족하는 해외 AI 서비스 기업은 국내대리인을 지정해야 한다. 기준은 글로벌 연매출 1조원 이상, 국내 매출 100억원 이상, 국내 일 이용자 100만명 이상 중 하나다. 위반 시 과태료는 최대 3천만원이며, 정부는 민간의 적응을 돕기 위해 최소 1년간 처분을 유예하는 기간을 두겠다는 방침이다.

[저작권자 ⓒ 뉴스닻. 무단전재·재배포 금지]
이정수 기자