도널드 트럼프 미국 대통령이 주요 AI 기업 경영진과 만나 AI 안전을 위한 자율규제 협약을 체결했다. 트럼프 대통령은 현지시간 9월 29일 백악관에서 오픈AI, 앤트로픽, 메타, 구글, 엔비디아 등 주요 기술 기업 관계자들과 회동했으며, AI 시스템의 안전성을 높이기 위한 자율적 기준 마련에 합의했다고 밝혔다.

이번 협약에는 오픈AI의 그렉 브록먼, 앤트로픽의 다리오 아모데이, 메타의 마크 저커버그, 구글의 순다르 피차이, 엔비디아의 젠슨 황 등 주요 AI 기업 경영진이 참여했다. 트럼프 대통령은 협약을 두고 사실상 AI 업계의 기준을 제시하는 문서라고 설명했으며, 법적 의무를 부과하는 규제 대신 기업들이 자체적으로 AI 안전 관리 체계를 구축하는 방식이다.

협약에는 AI 시스템을 관리하기 위한 4단계 통제 및 감사 체계가 담겼다. 기업들은 우선 사이버보안·생물보안·화학적 위협 등과 관련해 AI 모델의 능력과 작동 상태를 점검할 수 있는 내부 통제 체계를 마련하고, AI가 의도하지 않은 방식으로 기술 시스템에 접근하거나 해킹하지 않도록 관리하기로 했다.

또한 내부 관리팀이 통제 및 모니터링 시스템의 정상 작동 여부를 확인하고, 독립적인 외부 감사기관 또는 평가기관을 통해 해당 통제 체계가 의도대로 운영되는지를 별도로 평가하도록 했다. 각 기업의 이사회에는 내부 및 외부 감사 결과를 보고받고 필요한 조치를 검토하는 독립위원회를 설치하도록 권고했다.

협약에는 참여 기업들이 정기적으로 만나 AI 시스템의 안전성을 높이기 위한 기준과 모범 사례를 마련한다는 내용도 포함됐다. 현재는 자발적인 협약이지만, 문서에는 향후 이러한 조치를 법률이나 규정으로 구체화하는 것이 적절할 수 있다는 내용도 담겼다.

이번 회동은 AI 에이전트가 개발자의 의도와 다르게 다른 시스템에 접근하거나 해킹한 사례가 잇따른 가운데 이뤄졌다. 특히 오픈AI와 앤트로픽이 자사 AI 에이전트와 관련된 보안 사고를 보고하면서 고도화된 AI의 안전성을 둘러싼 논의가 커지고 있다.

한편 트럼프 대통령은 이날 AI 데이터센터의 빠른 확장에 대한 지지도 재확인했다. 데이터센터 건설 과정에서 전력 수요와 지역사회 비용 증가 등에 대한 우려가 제기되고 있지만, 트럼프 대통령은 AI 기업들이 데이터센터가 들어서는 지역사회에 기여할 것이라고 밝혔다.

원수연 기자 press@appstory.co.kr