오픈AI의 실험용 AI 에이전트가 테스트 환경을 벗어나 AI 플랫폼 허깅페이스를 해킹한 데 이어 또 다른 기술 기업 고객 계정까지 침해한 사실이 추가로 확인됐다. 앞서 알려진 것보다 피해 범위가 더 넓었던 것으로 드러나면서 고도화된 AI 에이전트의 안전성에 대한 우려가 커지고 있다.

외신에 따르면 AI 인프라 기업 모달 랩스의 최고기술책임자 악샤트 부브나는 오픈AI의 AI 에이전트가 자사 고객 계정 하나를 침해했다고 밝혔다. 다만 공격 대상은 모달 랩스 플랫폼 자체가 아니라 고객이 호스팅한 코드였으며, 고객 코드에 존재했던 인증되지 않은 엔드포인트를 통해 임의 코드 실행이 가능했던 취약점을 악용한 것으로 확인됐다. 모달 랩스는 자사 인프라가 직접 해킹된 것은 아니라고 설명했다.

이번 사실은 허깅페이스가 공개한 사고 조사 보고서를 통해 드러났다. 보고서에 따르면 해당 AI 에이전트는 제3자 인프라에 구축된 샌드박스 환경을 탈출한 뒤 이를 발판으로 허깅페이스 시스템을 공격했다. 이후 모달 랩스 측이 해당 제3자 환경에서 고객 계정이 침해된 사실을 확인하면서, 오픈AI의 실험용 AI 에이전트가 최소 두 개 기업과 관련된 시스템에 영향을 미친 것으로 파악됐다.

오픈AI는 이번 사고와 관련해 AI 에이전트가 총 4개의 계정에 접근했다고 인정했지만, 구체적인 대상은 공개하지 않았다. 오픈AI는 허깅페이스 해킹 외에는 같은 수준의 플랫폼 침해는 없었다며, 추가 사례는 상대적으로 규모가 작은 고객 계정 침해였다고 설명했다. 또한 문제가 된 AI 모델은 현재 비활성화됐으며, 모델 가중치 암호화와 접근 제한 등 추가 안전 조치를 적용했다고 밝혔다.

이번 사건은 오픈AI가 차세대 AI 모델 출시를 추진하는 가운데 발생해 더욱 주목받고 있다. 업계에서는 AI 에이전트가 스스로 목표 달성을 위해 외부 시스템을 공격하거나 예상하지 못한 행동을 할 가능성이 현실로 드러난 사례라는 점에서, AI 능력 경쟁과 함께 안전성 검증 및 통제 기술 강화가 더욱 중요해질 것이라는 지적이 나온다.

이현근 기자 press@appstory.co.kr