BlockchainRiver General News

양수영 틱톡 동북아 신뢰안전팀 파트너십 매니저가 6일 진행된 미디어 세이프티 워크숍에서 커뮤니티 가이드라인과 규정에 대해 설명하고 있다. [사진: 틱톡]

[디지털투데이 이호정 기자] 플랫폼에서 허위 정보 확산에 대한 우려가 높아지고 있는 가운데틱톡이 허위 뉴스와 생성형 인공지능(AI) 콘텐츠 등과 관련한 자사의 대응 가이드라인을 발표했다.

6일 틱톡은 '안전한 인터넷의 날'을 맞아 미디어 워크숍을 개최했다.

이 자리에서 틱톡은 ▲안전 및 시민 의식 ▲정신 및 행동 건강 ▲민감한 성인 테마 ▲진실성과 진정성 ▲규제 대상 물품 및 상업 활동 ▲개인 정보 보호 및 보안 등 커뮤니티 가이드라인 대주제 6개를 공개했다.

이 가운데 진실성과 진정성 부분에는 ▲허위 정보 ▲시민 및 선거 공정성 ▲합성 및 조작된 미디어 ▲허위 참여 ▲독창적이지 않은 콘텐츠 및 OR 코드 ▲스팸 밑 허위 계정 행동 등이 포함됐다.

틱톡은 소위 가짜뉴스라고 불리는 허위 정보에 대해 엄정하게 대응하고 있다고 설명했다.

양수영 동북아 신뢰안전팀 파트너십 매니저는 "의도한 바와 상관없이 개인이나 사회에 상당한 위해를 미칠 수 있는 정확하지 않거나 오해의 소지가 있는거짓된 콘텐츠를 불허한다"고 말했다.

만약 이 같은 검증되지 않은 콘텐츠가 플랫폼상에 올라올 경우 내부 심사 인력과 외부 팩트 체킹 파트너가 같이 협력해 팩트 체킹을 진행한다. 이 과정에서는 사실이 검증되지 않은 콘텐츠는 추천 피드에서 제외되며, 콘텐츠에 접근하려고 하는 사용자에게는 경고 알림이 발송된다.이후 팩트 체킹이 모두 완료되고 규정을 위반한다고 판단되면 플랫폼에서 삭제되거나 추천 피드에 뜨지 않게 조치한다.

틱톡은 이러한 외부 팩트 체크를 위해 글로벌 파트너들과 협업하고 있다. 50개 이상 언어를 지원하는 전 세계 17개 팩트체크 기관과 협력해 잘못된 정보를 식별하고 조치를 취한다.

틱톡의 선거 공정성 가이드라인 [사진: 이호정 기자]

특히 틱톡은 총선을 앞두고 빈번하게 발생되는 합성 및 조작된 미디어 대응 방안도 공개했다.

양 매니저는 "공인이 특정 정치적인 견해를 모사하는 생성형 AI 콘텐츠를 포함해 오해의 소지가 있는 조작된 콘텐츠를 일체 허용하지 않는다"고 말했다.

틱톡은 유료 정치 홍보, 정치 광고 또는 정치인 및 정당의 모금 활동을 불허한다. 정부나 정치인 정당 계정은 'GPPPA'로 별도로 구분하고 있다. 이 경우에는 ▲인센티브 프로그램 및 크리에이터 수익화 기능 ▲광고 ▲캠페인(선거) 모금 ▲음악 ▲계정 제한 사항 등이 제한된다.

다만 정치인이 아니지만 정치적으로 영향력이 있는 크리에이터에게는 라벨이 붙지 않는다.

양 매니저는 "일반인에 해당하기 때문에 별도로 식별하는 라벨을 붙이지 않는다"며 "다만 허위 정보 사항 등을 위반하는 경우 정치인이든 크리에이터든 상관없이 위반 사항이 발견될 경우 동일하게 조치를 취하고 있다"고 설명했다.

이어 "선거 기간에 나타나는 음성적인 영향력을 행사하는 계정에 대해서도 인지하고 있다"며 "해당 계정을 탐지하고 조치를 취할 수 있는 전문 인력을 확보하고 있고, 선제적으로 조치할 수 있도록 하겠다"고 덧붙였다.

또 최근 유행하는 생성형 AI 콘텐츠와 관련해서는 이용자들이 보다 쉽게 식별할 수 있도록 돕고 있다고 설명했다.

틱톡은 틱톡 내부의 AI 편집툴을 사용하면 생성형 AI 콘텐츠 라벨이 자동적으로 부착된다.

양 매니저는 "다만 일반인을 대상으로 한 생성형 AI 콘텐츠라든가 혹은 공인을 대상으로 한 AI 콘텐츠 중에서 커뮤니티 가이드라인을 위반하는 콘텐츠는 라벨이 있다고 하더라고 규정 위반으로 간주돼 조치를 취하고 있다"고 말했다.