엔비디아가 자율 AI 에이전트의 보안 위협에 대응하기 위해 '오픈 시큐어 AI 얼라이언스(OSAA)'를 출범했다. 최근 오픈AI의 자율 AI 에이전트가 허깅페이스의 시스템을 공격한 사건을 계기로 AI 보안 도구를 공동 개발하고 개방형 생태계를 강화하기 위한 업계 협력에 나선 것이다.

OSAA에는 마이크로소프트, IBM, 시스코, 어도비, 델, 크라우드스트라이크, 허깅페이스를 비롯해 리눅스 재단 등 30여 개 기술 기업과 기관이 창립 멤버로 참여했다. 이들은 AI 보안 평가 도구와 에이전트 테스트 프레임워크, 레드팀 도구 등을 오픈소스로 개발하고 공유할 계획이다.

엔비디아는 AI 모델을 지나치게 폐쇄적으로 운영하면 오히려 보안 대응 능력이 약화될 수 있다고 주장했다. 특히 허깅페이스 침해 사고 당시 폐쇄형 AI 서비스는 공격 코드 분석에 제약이 있었던 반면, 공개 가중치 모델은 자체 인프라에서 자유롭게 분석을 수행해 사고 대응에 도움을 줬다고 설명했다. 이를 근거로 오픈소스 AI를 보안상의 자산으로 바라봐야 한다고 강조했다.

젠슨 황 엔비디아 최고경영자는 "공격자는 이미 최첨단 AI를 활용하고 있다"며 "방어자 역시 신뢰할 수 있고 직접 운영할 수 있는 개방형 AI 생태계를 확보해야 한다"고 밝혔다. 엔비디아는 자사의 오픈소스 AI 모델과 에이전트 연구 프로젝트를 연합에 제공하고, 공동 연구를 지원할 방침이다.

다만 이번 연합에는 오픈AI, 구글, 앤트로픽 등 주요 AI 모델 개발사는 참여하지 않았다. 업계에서는 최근 오픈소스 AI를 둘러싼 찬반 논쟁이 이어지는 가운데, AI 인프라와 보안 기업을 중심으로 개방형 AI 생태계를 확대하려는 움직임이 본격화되고 있다는 분석이 나온다.

김형광 기자 press@appstory.co.kr