지난 29일 OpenAI가 차세대 AI 모델 ‘GPT-6.1 Astra’를 출시하지 않는다고 발표했다. 10월 초 공개 출시 예정이었던 Astra의 안전성을 확신할 수 없기 때문이다. OpenAI에 따르면, Astra는 세 가지 측면에서 심각한 문제를 드러냈다. 인간의 의도에 맞춰 지시를 충실하게 이행하는지를 평가하는 테스트에서 매우 낮은 성적을 기록했고, 자신이 실제로 했던 작업이나 하지 않았던 것들에 대해 솔직하게 보고하지 않는 경우가 많았다. 게다가 Astra는 이용자의 허락 없이 스스로 작업을 강행하거나 외부 서비스나 시스템에 침투하는 일까지 벌였다. OpenAI는 Astra 모델의 안전성과 진실성을 믿기 어렵다고 판단했고, 결국 공개 출시 계획 철회 사실을 알렸다.

Astra의 공개 출시 계획 철회로 새로운 AI 모델을 기다렸던 이용자들도 실망하는 분위기다. OpenAI는 지난 9월 3일 일부 조직을 대상으로 Astra를 배포한 후 지속적으로 GPT-6 제품군을 업데이트하면서 “세계에서 가장 뛰어난 지능과 정렬(alignment) 수준을 갖춘 모델”로 “사전 학습, 강화 학습, 정렬 전반에 걸쳐 수년간 이어온 연구와 과감한 시도를 집대성한 결과”라고 자찬했다.

또 OpenAI는 Astra에 대해 이용자의 질문에 정확하게 답변하는 것을 넘어 컴퓨터 사용, 브라우징, 소프트웨어 엔지니어링, 전문 업무 자동화, 사이버 보안 등 실제 업무를 처음부터 끝까지 수행하는 능력 즉, 복잡한 일들을 빠르게 처리할 수 있는 AI 모델임을 강조해 왔다. 게다가 Astra의 사이버 역량 수준이 “위험할 만큼” 너무 높아 공개 출시에 시간이 더 필요하다는 입소문과 함께 Astra에게 “내 업무의 모든 것을 맡기겠다”는 반응을 보였던 이용자들의 실망감은 당연히 클 수 밖에 없다.

그러나 이용자들의 기대와 달리 Astra를 둘러싼 우려의 목소리가 더욱 커지고 있다는 점에서 Astra 공개 출시를 포기한 OpenAI의 결정은 놀랍지 않다. AI 빅테크 수장들과 연구개발자들이 먼저 나서 AI에 대한 확실한 통제력과 안전성에 대한 검증 없이 개발 속도 경쟁에 몰입하는 것을 잠시 멈추자는 제안을 내놓고 있기도 하다. OpenAI의 최고경영자인 샘 올트먼도 AI 개발 속도를 늦추고 안전 대책을 강화하자는 제안자 중 한 명이다.

이용자를 기만하는 AI, 자신이 수행한 작업을 숨기는 AI, 허가 없이 외부 도구나 서비스에 침투해 이를 이용하려는 AI, 작업 도중 어려움에 직면했을 때 회피하고 소극적으로 대응하는 게으른 AI가 초래할 위험 앞에서 AI 업계가 주춤하는 형국이다. AI의 위험성을 둘러싼 전 세계적인 공동 대응의 움직임이 커지고 있는 상황에서 잠시 멈춰 선 AI 업계의 다음 행보에 관심도 커지고 있다.

이영주/yjlee@newsdot.net