오픈AI가 중국과 연계된 것으로 추정되는 사용자 조직이 챗GPT를 이용해 미국 내 인공지능 데이터센터 건설 반대 여론을 조성하려 한 정황을 적발했다고 밝혔다.

오픈AI는 최근 공개한 위협 관련 보고서를 통해 해당 조직의 활동을 공개했는데, 해당 조직은 챗GPT를 활용해 미국 내 데이터센터 건설에 대한 부정적 여론을 확산시키기 위한 게시물과 댓글, 이미지 콘텐츠를 제작했다.

보고서에 따르면 이들은 데이터센터의 전력 소비 증가와 전기요금 상승, 환경 영향, 지역사회 부담 등을 강조하는 콘텐츠를 생성해 소셜미디어와 온라인 플랫폼에 게시했다. 또한 데이터센터 건설을 비판하는 만화와 이미지 제작에도 생성형 AI를 활용한 것으로 조사됐다.

오픈AI는 활동 주체들이 챗GPT에 입력한 프롬프트를 분석한 결과, 미국의 AI 인프라 확대 정책과 데이터센터 건설 계획을 비판하는 내용을 반복적으로 생성하도록 요청한 사실을 확인했다고 밝혔다. 일부 콘텐츠는 영어와 중국어 등 여러 언어로 제작된 것으로 알려졌다.

오픈AI 측은 해당 조직이 허위 계정을 활용해 온라인 여론을 인위적으로 증폭하려 한 것으로 보고 있다. 다만 오픈AI는 해당 활동이 중국 정부에 의해 직접 수행됐다고 단정하지는 않았으며, 보고서에서는 '중국과 연계된 것으로 추정되는 행위자'라는 표현을 사용했다.

이번 보고서는 생성형 AI가 영향력 행사와 정보 조작 활동에 활용되는 사례를 보여준다는 점에서 주목된다. 오픈AI는 관련 계정을 차단하고 플랫폼 사업자들과 정보를 공유했으며, 향후에도 AI를 악용한 선전 활동과 여론 조작 시도를 지속적으로 추적하겠다고 밝혔다.

최근 미국에서는 AI 산업 육성을 위해 대규모 데이터센터 건설이 추진되고 있지만, 전력망 부담과 수자원 사용, 환경 영향 등을 둘러싼 논란도 함께 제기되고 있다. 오픈AI는 이번 사례가 실제 사회적 논쟁을 활용해 여론을 조작하려 한 시도로 보인다고 분석했다.

이현근 기자 press@appstory.co.kr