미국, 국제 AI 안전 공조에서 한발 물러서다… 커지는 위험 경고 속 균열

[서울=뉴스닻] 김 크리스 기자 = 미국이 주요 국제 인공지능(AI) 안전 보고서에 대한 공식 지지를 거부하면서, 전 세계가 AI 위험을 어떻게 관리할 것인지를 둘러싼 공조에 균열이 생기고 있다. 기술 발전 속도가 예상보다 빠르다는 과학적 경고가 쌓이는 가운데, 정작 핵심 AI 강국이 국제 논의에서 거리를 두는 모양새다.

미국 빠진 국제 AI 안전 보고서

지난 2월 초 공개된 제2차 국제 AI 안전 보고서(International AI Safety Report)는 AI 기술이 빠르게 고도화되며 여러 위험의 증거가 “상당히 증가했다”고 경고했다. 이 보고서는 영국, 중국, 유럽연합(EU) 등 30개국과 국제기구의 지지를 받았고, 약 100명의 전문가가 참여했다.

하지만 보고서를 이끈 튜링상 수상 과학자 Yoshua Bengio는 “올해는 미국이 최종 보고서에 서명하지 않았다”고 확인했다. 보고서 자체가 미국의 지지에 의존하는 것은 아니지만, 세계 최대 AI 개발국 중 하나인 미국이 빠진 점은 상징성이 크다는 평가다.

미국은 초안 단계에서는 의견을 제시했지만, 최종본에는 이름을 올리지 않았다. 상무부는 이에 대한 공식 입장을 내놓지 않았다. 도널드 트럼프 행정부가 최근 파리기후협약과 세계보건기구(WHO)에서 탈퇴한 전례를 고려할 때, 국제 협약 전반에서 거리를 두는 흐름의 연장선이라는 해석도 나온다.

AI 발전 속도, ‘정체’가 아니라 ‘가속’

보고서는 최근 일부에서 제기되는 “AI 발전이 정체됐다”는 인식과 달리, 과학적 증거는 정반대를 가리킨다고 지적한다. 지난 1년간 범용 AI 모델의 성능은 계속 향상됐고, 변화 폭이 커 중간 업데이트 보고서가 두 차례나 추가로 발표됐다.

전문가들이 말하는 어려움 중 하나는 AI 성능의 ‘들쭉날쭉함’이다. AI는 국제 수학 올림피아드급 문제를 풀면서도, 단어 속 특정 글자 개수를 세는 간단한 작업에는 실패하기도 한다. 이 때문에 인간과 단순 비교하거나 “신입사원 수준”이라는 비유는 실제 능력을 오해하게 만든다는 설명이다.

보고서는 현 추세가 2030년까지 이어질 경우, 며칠이 걸리는 소프트웨어 개발 작업을 AI가 혼자 수행할 수 있을 것으로 전망한다. 더 나아가 AI가 스스로 AI 개발을 돕는 단계에 이르면, 인간과 비슷하거나 그 이상 수준의 시스템이 등장할 가능성도 제기했다. 이에 대해 구글 딥마인드 CEO Demis Hassabis조차 “속도가 조금 느려지는 편이 세상에 더 나을 수 있다”고 언급한 바 있다.

현실로 다가온 위험과 안전 논쟁

AI 위험을 둘러싼 과학자들의 의견은 그동안 크게 엇갈려 왔다. 일부는 인류 존립을 위협할 수 있다고 경고했고, 다른 일부는 과장된 공포라고 반박했다. 그러나 이번 보고서는 핵심 위험에 대해서는 “상당한 공감대가 형성되고 있다”고 평가한다.

보고서에 따르면, 최신 AI 시스템은 생물무기 연구와 연관된 일부 실험 설계나 문제 해결 과제에서 전문가 수준에 도달했으며, 사이버 공격에서도 범죄 조직이나 국가 차원의 활용 사례가 확인되고 있다. 더 우려되는 점은 AI가 안전성 평가를 받을 때와 실제 사용될 때 다른 행동을 보이는 경향이다. 이는 위험을 정확히 측정하는 데 큰 장애가 된다.

이에 따라 보고서는 단일 해법 대신, 여러 겹의 안전장치를 쌓는 접근을 제안한다. 출시 전 테스트, 출시 후 모니터링, 사고 추적을 병행해 한 단계에서 놓친 위험을 다른 단계에서 걸러내자는 방식이다. 실제로 2025년에는 12개 주요 AI 기업이 ‘프런티어 안전 프레임워크’라는 자율 규범을 발표하거나 갱신했다.

국제 공조 없는 안전 논의의 한계

보고서의 결론은 비관보다는 현실적 경고에 가깝다. 2023년 첫 보고서 당시만 해도 AI 위험 논의는 가설과 의견에 가까웠지만, 이제는 실증적 증거가 쌓이며 성숙한 논의 단계로 접어들었다는 것이다.

다만 미국의 이탈은 “위험을 함께 이해하고 대비해야 한다”는 국제적 노력에 부담을 주는 요소다. Bengio는 “AI를 이해하고 관리하는 데는 세계적 합의가 넓을수록 좋다”고 강조했다. 기술 경쟁이 치열해질수록, 안전을 둘러싼 협력의 중요성은 오히려 더 커지고 있다는 지적이다.

[저작권자 ⓒ 뉴스닻. 무단전재·재배포 금지]
김 크리스 기자 (chris@newsdot.net)