미국 상원의원들이 틱톡이 이용자 보호를 위한 알고리즘 안전기능을 일부 이용자에게 의도적으로 적용하지 않은 실험을 진행했다는 의혹을 제기하며 해명을 요구했다. 특히 해당 실험의 영향으로 사망한 청소년도 포함됐다는 보도가 나오면서 틱톡의 안전 정책과 알고리즘 운영 방식에 대한 논란이 커지고 있다.

미국 테네시주 상원의원 마샤 블랙번과 코네티컷주 상원의원 리처드 블루먼솔은 틱톡 최고경영진에게 서한을 보내 2021년 시작된 알고리즘 실험에 대한 구체적인 설명을 요구했다. 해당 실험은 틱톡의 추천 피드에서 특정 주제의 콘텐츠가 반복적으로 노출되는 필터버블을 줄이기 위한 안전기능과 관련된 것이다. 틱톡은 한 가지 주제의 콘텐츠를 짧은 기간에 지나치게 많이 접하는 것을 막기 위해 해당 기능을 개발한 것으로 알려졌다.

문제는 틱톡이 이 기능을 모든 이용자에게 적용하지 않고 미국 이용자의 약 10%를 대조군으로 설정해 기능을 적용하지 않았다는 것이다. 약 1,500만 명에 해당하는 규모로, 틱톡은 안전기능이 일일활성이용자 등 이용 지표에 미치는 영향을 측정하기 위해 대조군을 유지한 것으로 알려졌다.

블룸버그의 보도에 따르면 이 대조군에는 16세 청소년 체이스 나스카도 포함됐다. 틱톡 내부 문서에는 해당 계정에 슬픔과 절망, 외로움, 자살 등을 다룬 영상이 반복적으로 추천됐으며, 안전기능이 적용되지 않은 것이 실험 설계에 따른 것이라고 기록된 것으로 전해졌다. 나스카는 실험군에 포함된 뒤 약 한 달 만에 자살로 사망했다. 다만 해당 실험이 사망의 직접적인 원인이었다는 인과관계가 입증된 것은 아니다.

상원의원들은 틱톡이 안전기능이 이용자 참여도나 광고 수익에 미칠 영향을 고려해 기능 적용을 늦추거나 중단한 사례가 있는지도 추궁했다. 또한 미성년자를 실험 대상에 포함한 이유와 실험을 인지한 임직원 명단, 미국에서 안전기능을 비활성화하거나 축소한 다른 알고리즘 실험의 목록 등을 요구했다. 틱톡에는 오는 9월 1일까지 답변을 제출하라는 시한이 주어졌다.

틱톡은 블룸버그의 보도 당시 모든 이용자, 특히 청소년의 안전과 웰빙을 위해 상당한 규모의 투자를 진행하고 있으며 유해 콘텐츠를 적극적으로 탐지하고 삭제하고 있다고 밝혔다. 하지만 이번 상원의원들의 서한에 대해서는 별도의 답변을 내놓지 않은 것으로 알려졌다.

원수연 기자 press@appstory.co.kr