[서울=뉴스닻] 최승림 기자 = 영국 국회의원과 지방 의회 인사 100여 명이 정부에 초강력 인공지능(AI) 시스템에 대한 구속력 있는 규제를 도입하라고 촉구했다. 기술 기업들의 로비 속에 정부 대응이 늦어지고 있다는 우려가 커지는 가운데, 이들은 ‘초지능(superintelligence)’ 개발이 국가와 글로벌 안보를 위협할 수 있다고 경고했다.

초지능 AI, “핵무기 이후 가장 위험한 기술”

이번 요구는 비영리단체 ‘컨트롤 AI(Control AI)’가 주도하고 있다. 이 단체는 키어 스타머 총리에게 미국 정부의 규제 완화 기조와 거리를 두고 독자적인 안전 기준을 마련하라고 촉구했다. 초강력 AI가 통제되지 않은 채 발전할 경우 “국가 안보와 국제 질서를 위협할 수 있다”는 주장이다.

노동당 소속 전 국방장관 데스 브라운 경은 “초지능 AI는 핵무기 이후 가장 위험한 기술이 될 수 있다”며 국제적 협력을 통한 규제 필요성을 강조했다. 보수당 출신 잭 골드스미스 경도 “정부가 기술 기업에 비해 한참 뒤처져 있다”고 비판했다.

규제 공백 우려… 국제 공조 요구

영국은 2023년 블레츨리 파크에서 AI 안전 정상회의를 개최하며 글로벌 논의를 주도한 바 있다. 당시 고도화된 AI가 “의도적이든 아니든 심각하고 재앙적인 피해를 초래할 수 있다”는 결론이 나왔다. 이후 AI 안전연구소를 설립했지만, 최근에는 국제 공조와 강력한 법제화 움직임이 약해졌다는 지적이 나온다.

전 AI 장관 조너선 베리는 “실존적 위험을 초래할 수 있는 모델에는 의무적 규제가 필요하다”며, 일정 수준 이상의 성능에 도달하면 안전성 시험과 긴급 차단 장치(‘킬 스위치’)를 의무화해야 한다고 말했다.

정부 “이미 규제 존재”… 시민사회 “소극적 태도”

과학혁신기술부는 “영국에는 이미 다양한 AI 관련 규정이 존재한다”며 추가 입법에 신중한 입장을 보였다. 그러나 옥스퍼드 주교 스티븐 크로프트는 “정부가 예방 원칙을 채택하지 않고 있다”며 독립적인 감시기구 설립과 최소 시험 기준 의무화를 촉구했다.

AI 기업의 로비도 논란이다. 컨트롤 AI의 안드레아 미오티 대표는 “일부 기업이 혁신 저해를 이유로 규제 지연을 요구하면서도 동시에 AI가 인류를 위협할 수 있다고 주장한다”고 지적했다. 그는 향후 1~2년 내 의무 기준 도입이 필요하다고 강조했다.

기술 경쟁 속 규제 방향은

실리콘밸리 AI 기업 앤스로픽의 공동 창업자 재러드 캐플런은 최근 “2030년까지 AI가 스스로를 더 강력하게 훈련하도록 허용할지 결정해야 할 것”이라고 언급했다. 기술 발전 속도가 빠른 만큼, 규제와 국제 합의가 뒤따르지 않으면 위험이 커질 수 있다는 경고다.

영국 정치권의 이번 움직임은 AI 경쟁과 안전 사이에서 균형을 어떻게 잡을 것인가라는 질문을 다시 던지고 있다. 구속력 있는 국제 규제가 현실화될지, 아니면 산업 진흥 기조가 유지될지는 향후 정부의 입법 방향에 달려 있다.

[저작권자 ⓒ 뉴스닻. 무단전재·재배포 금지]
최승림 기자 (seunglim.choi@newsdot.net)