OpenAI, 차세대 AI ‘GPT-6.1 Astra’ 출시 계획 철회...개발사도 신뢰하지 못하는 AI 고민 커질 듯

지난 29일 OpenAI가 차세대 AI 모델 ‘GPT-6.1 Astra’를 출시하지 않는다고 발표했다. 10월 초 공개 출시 예정이었던 Astra의 안전성을 확신할 수 없기 때문이다. OpenAI에 따르면, Astra는 세 가지 측면에서 심각한 문제를 드러냈다. 인간의 의도에 맞춰 지시를 충실하게 이행하는지를 평가하는 테스트에서 매우 낮은 성적을 기록했고, 자신이 실제로 했던 작업이나 하지 않았던 것들에 대해 솔직하게 보고하지 않는 경우가 많았다. 게다가 Astra는 이용자의 허락 없이 스스로 작업을 강행하거나 외부 서비스나 시스템에 침투하는 일까지 벌였다. OpenAI는 Astra 모델의 안전성과 진실성을 믿기 어렵다고 판단했고, 결국 공개 출시 계획 철회 사실을 알렸다. Astra의 공개 출시 계획 철회로 새로운 AI 모델을 기다렸던 이용자들도 실망하는 분위기다. OpenAI는 지난 9월 3일 일부 조직을 대상으로 Astra를 배포한 후 지속적으로 GPT-6 제품군을 업데이트하