틱톡, 파트너십 통해 AI 투명성 증진.. AI생성 콘텐츠에 식별 라벨 자동 부착

글로벌 숏폼 동영상 플랫폼 틱톡(TikTok)이 오늘부터 타사 플랫폼에서 제작된 AI 생성 콘텐츠(AI-generated content, AIGC)에도 자동으로 ‘AI 생성’ 라벨을 붙이는 정책을 시행한다. 이를 위해 틱톡은 C2PA(Coalition for Content Provenance and Authenticity)와 콘텐츠의 투명성을 선도하는 정책을 구현하는 파트너십을 체결했다. 이와 함께 틱톡 커뮤니티가 AI 생성 콘텐츠와 허위 정보를 구분할 수 있도록, 전문가의 지침을 기반으로 개발한 새로운 미디어 리터러시 교육 자료도 제공한다. 

AI는 새로운 창작의 도구가 되었지만, 콘텐츠가 AI를 이용해 제작되었다는 사실을 명시하지 않은 경우 시청자들에게 혼란을 야기하거나 시청자를 호도할 우려가 있다. 이때 ‘AI 생성’ 라벨은 시청자가 콘텐츠의 맥락을 정확히 파악하는 데 도움을 준다. 틱톡은 콘텐츠의 투명성을 보장하기 위해 틱톡 AI(TikTok AI) 효과를 이용해 제작한 AI 생성 콘텐츠에 ‘AI 생성’ 라벨을 부착하고 있으며, 지난 1년간 크리에이터에게도 사실적인 AI 생성 콘텐츠에 라벨을 붙이도록 독려해왔다. 틱톡은 콘텐츠에 라벨을 쉽게 붙일 수 있도록 최초의 라벨 부착 툴을 개발한 바 있으며, 지난 가을부터 3,700만명 이상의 크리에이터가 해당 툴을 사용해 콘텐츠의 투명성을 높이기 위해 노력하고 있다.

틱톡은 C2PA와 파트너십을 통해 C2PA의 기술인 ‘콘텐츠 인증(Content Credential)’을 구현하는 첫 번째 영상 플랫폼이 되었다. 해당 기능을 도입해 타사 플랫폼에서 제작된 AI 생성 콘텐츠에도 ‘AI 생성’ 라벨을 자동으로 붙일 수 있도록 확대 적용하는 것이다. 콘텐츠 인증을 사용하면 ‘메타데이터’가 콘텐츠에 연결되고, 틱톡은 AI 생성 콘텐츠를 즉각 인식해 라벨을 붙이는 데 이 메타데이터를 사용할 수 있다. 해당 기능은 오늘부터 이미지와 비디오 콘텐츠에 적용되며, 수 주 내에 오디오 전용 콘텐츠에도 적용될 예정이다.

이 콘텐츠 인증 기술은 향후 수개월 내에 틱톡 콘텐츠에 연결되며, 콘텐츠를 다운로드 받아도 해당 콘텐츠에 남게 된다. 따라서 누구나 C2PA의 검증(Verify) 툴을 사용해 틱톡에서 제작된 AI 생성 콘텐츠를 식별하고, 콘텐츠가 언제, 어디서, 어떻게 제작되거나 편집되었는지 파악하는 데 도움을 받을 수 있다. 타 플랫폼도 콘텐츠 인증 기술을 채택하면 AI 생성 콘텐츠에 자동으로 라벨을 부착할 수 있게 된다.

틱톡은 플랫폼 업계가 콘텐츠 인증 기술을 더 적극적으로 도입할 수 있도록 어도비(Adobe)가 주도하는 CAI(Content Authenticity Initiative, 콘텐츠 진위 이니셔티브)에도 참여한다. 틱톡은 콘텐츠 인증을 시행하는 최초의 영상 공유 플랫폼이다. 틱톡이 AI생성 콘텐츠를 식별하고 라벨을 부착하기 위해서는 콘텐츠 인증 메타데이터가 필요하기 때문에 초기에는 AI 생성 콘텐츠에 라벨을 붙이는 작업이 다소 점진적으로 진행될 수 있지만, 다른 플랫폼들이 함께 콘텐츠 인증을 도입하면 틱톡이 더 많은 콘텐츠에 라벨을 부착할 수 있게 될 것으로 보고 있다.

어도비 법률고문 겸 최고 신뢰 책임자인 다나 라오(Dana Rao)는 “틱톡의 거대한 글로벌 크리에이터 및 사용자 커뮤니티와 함께 C2PA와 CAI를 통해 틱톡의 플랫폼 투명성과 신뢰성을 제고하는 여정을 시작하여 매우 기쁘게 생각한다.”며 “어떤 디지털 콘텐츠라도 조작이 가능해진 시대에 대중이 진실을 가릴 수 있는 방법을 제공하는 것은 꼭 필요한 일이며, 이 정책은 그 결과에 다다르기 위한 결정적인 한 걸음이다.”라고 소감을 밝혔다.

많은 전문가들은 책임 있는 콘텐츠 제작을 지원하는 방법으로 AIGC 라벨 붙이기를 권장하지만, 시청자가 이런 라벨의 의미를 제대로 파악하지 못하면 오히려 혼란을 야기할 수 있다고 경고한 바 있다. 틱톡은 틱톡 커뮤니티가 AI생성 콘텐츠와 허위 정보를 식별하고 비판적인 사고에 도움이 될 수 있는 미디어 리터러시 캠페인을 마련하기 위해 전문가와 협력해왔다.

틱톡 미국 내 미디어 리터러시 파트너사인 미디어와이즈(MediaWise)의 이사 알렉스 마하데반(Alex Mahadevan)은 “미디어와이즈의 청소년 팩트체크 네트워크(Teen Fact-Checking Network)는 2019년부터 틱톡에 획기적인 미디어 리터러시 영상을 게재하여 시청자층을 구축해왔다.”며 “5년이 지난 지금, 미디어와이즈는 더 많은 사람들이 온라인에서 사실과 허구를 구분할 수 있는 능력을 갖추게 되어 기쁘게 생각한다.”고 틱톡과의 협업의 의미를 강조했다.

대부분의 사람들은 AI 생성 콘텐츠를 책임감 있는 방식으로 즐기고 싶어하지만, AI 생성 콘텐츠를 악용하여 의도적으로 타인을 속이려는 시도도 분명히 존재하며 틱톡은 이러한 위험을 항상 경계해 왔다. 틱톡은 ‘AI 생성’ 라벨 여부와 관계없이, 오해의 소지가 있는 유해 AI 생성 콘텐츠를 단호히 금지하는 정책을 시행하고 있으며 선거에서 AI가 기만적인 방식으로 사용되지 않도록 올해 ‘AI 선거 협정(AI Election Accords)’ 협약을 체결했다. 틱톡은 AI의 진화에 발맞춰 사전 예방을 위한 탐지 모델을 개발하고, 전문가의 자문을 구하며 솔루션을 공유해 업계와 협업함으로써 유해 AI 생성 콘텐츠를 근절하기 위한 투자를 이어 나가고 있다.