틱톡, AI 관련 리터러시 교육 투명성 기술 스팸 대응 확대

틱톡(TikTok)이 AI 생성 콘텐츠(AIGC)의 신뢰성을 높이고 이용자의 안전한 활용을 지원하기 위해 AI 스팸 대응과 AI 리터러시 강화에 나선다고 밝혔다.

틱톡은 AI 기술이 콘텐츠 제작과 소비 전반으로 확산됨에 따라 이용자가 AI 콘텐츠를 올바르게 이해하고 활용할 수 있도록 교육과 기술, 플랫폼 정책을 강화할 계획이다.

우선 미국 미디어교육전국연합회(NAMLE)와 생성형 AI 전문가 헨리 에이더(Henry Ajder)와 협력해 AI 도구와 생성형 AI 콘텐츠를 책임감 있게 활용할 수 있는 가이드를 제공한다. AI 관련 용어를 검색하면 AI 콘텐츠를 식별하는 방법 등을 안내하는 인앱 허브도 새롭게 선보일 예정이다.

AI 리터러시 투자도 확대한다. 틱톡은 디지털 안전 단체 '노필터(No Filtr)'와 '라즈베리 파이 재단(Raspberry Pi Foundation)' 등의 교육 콘텐츠 제작을 지원하고 있으며, 지금까지 관련 프로그램에 400만 달러 이상을 투자했다고 밝혔다.

AI 콘텐츠의 투명성도 강화한다. 틱톡은 2024년 업계 최초로 C2PA 콘텐츠 인증 기술을 도입한 데 이어 최근 C2PA 운영위원회에 합류했다. 현재까지 30억 건 이상의 영상에 AI 생성 여부를 표시하는 라벨을 적용했으며, 보이지 않는 워터마킹 기술의 적용 범위도 확대하고 있다.

플랫폼 신뢰도를 높이기 위한 AI 스팸 대응도 강화한다. 틱톡은 올해 1분기에만 허위 계정 8,600만 개 이상을 삭제했으며, 앞으로는 정치·금융·의료 등 민감한 분야에서 저품질 AI 콘텐츠를 대량 게시하는 계정을 보다 정밀하게 탐지할 계획이다. 다만 이번 조치는 AI를 창의적으로 활용하는 일반 크리에이터가 아닌, 자동화된 저품질 콘텐츠를 대량 생산하는 계정을 대상으로 한다.

이와 함께 틱톡은 긴 영상을 짧게 편집하는 '스마트 클립', AI 기반 콘텐츠 기획 기능인 'AI 아웃라인' 등 창작 도구를 확대하고, 이용자가 AI 생성 콘텐츠 노출 수준을 직접 조절할 수 있는 기능도 시험 운영하고 있다.