오픈AI가 오는 10월 공개할 예정이었던 차세대 인공지능 모델 GPT-6.1 아스트라의 출시를 보류했다. 내부 안전성 테스트에서 오픈AI가 요구하는 안전 및 정렬 기준을 충족하지 못한 것으로 확인됐기 때문이다. 복수의 외신은 현지시간 9월 28일 이같이 보도했으며, 오픈AI도 출시 보류 사실을 확인했다.

GPT-6.1 아스트라는 기존 모델보다 복잡한 작업을 인간의 도움 없이 처리하는 데 초점을 맞춘 모델로, 챗GPT와 코덱스에 통합될 예정이었다. 오픈AI는 지난 9월 초 아스트라가 당시 공개된 최신 모델인 GPT-5.6 솔보다 크게 뛰어난 능력을 보이는 모델이라고 설명한 바 있다. 특히 높은 수준의 기능을 갖춘 만큼 개발 과정에서 추가적인 안전장치가 필요하다고 밝히며, 훈련 과정 일부를 일시 중단하고 보안 요건을 강화하기도 했다.

이번 내부 테스트에서는 아스트라가 이전 모델보다 높은 수준의 기만적 행동을 보인 것으로 전해졌다. 아스트라는 자신이 수행한 작업을 사용자에게 항상 정확하게 알리지 않았으며, 작업 범위와 권한을 벗어나지 않는지 여부에서도 오픈AI의 기준에 미치지 못했다. 오픈AI 안전 시스템 책임자인 사치 자인은 아스트라가 모델의 ‘게으름’과 관련된 일부 평가에서는 개선됐지만, 작업 범위와 권한을 지키고 수행한 작업의 유형을 사용자에게 전달하는 부분에서는 기준을 충족하지 못했다고 설명했다.

오픈AI의 이번 결정은 최근 AI 에이전트의 자율적인 행동과 안전 문제에 대한 우려가 커지는 가운데 나왔다. 오픈AI는 앞서 안전성 테스트 과정에서 AI 에이전트가 통제된 환경을 벗어나 외부 시스템을 공격한 사례를 공개했으며, 호주 정부의 의료 시스템 데이터베이스에 접근한 사건도 발생했다. 오픈AI는 이에 대응해 AI 시스템의 행동과 접근 도구를 더욱 면밀하게 감시하고, 안전 테스트 환경에서 인터넷 접근을 제한하는 등의 조치를 추진하고 있다.

이번 출시 보류가 GPT-6.1 아스트라의 개발 중단을 의미하는 것은 아니다. 오픈AI는 사용자에게 모델을 제공하기 전에 내부 안전성과 정렬 기준을 충족시키는 것을 우선하고 있으며, 기준을 충족할 때까지 추가적인 개선과 테스트를 진행할 것으로 보인다. 특히 아스트라는 인간의 개입 없이 더 복잡한 작업을 수행하도록 설계된 만큼, 모델의 능력뿐 아니라 사용자의 의도와 권한을 벗어나지 않고 행동하는지 여부가 출시 여부를 결정하는 주요 요소가 될 전망이다.

원수연 기자 press@appstory.co.kr