🕵️‍♂️#10_2024 마케팅 트렌드 : 기본이 된 유해콘텐츠 차단

동영상 광고 시장의 유해콘텐츠 차단의 중요성

2024. 2. 8.

💻웹에서 보기

🚀 2월 뉴스레터 요약

파일레터 : 기본이 된 유해콘텐츠 차단
의뢰사건 : 딥페이크, 팩트를 이겨?

인스타그램 - 페이스북, 미성년자 유해 콘텐츠 차단 강화

현대 사회에서의 디지털 콘텐츠의 폭발적인 증가는 유해 콘텐츠에 대한 우려도 함께 증가시키고 있어요. 누구나 콘텐츠를 생산할 수 있어졌고 누구나 그 콘텐츠를 소비할 수 있는 환경이 마련됨으로써, 콘텐츠를 통해 수익을 올리는 것이 당연해졌고 사람들은 더 많은 수익을 올리기 위해 자극적, 선정적, 충격적인 콘텐츠를 생산하고 있어요.

2021년 미국에서 출간된 책 '도파민네이션'은 도파민 중독에 대해 다루고 있는데요. 디지털 시대가 열리며 과거와 비교할 수 없을 만큼 증가한 자극들로 중독에서 자유로울 수 없는 현대인들의 현실을 얘기하고 있어요. 도파민 중독으로 더 자극적인 콘텐츠를 원하게 되는 사람들이 많아지고, 유해 콘텐츠 증가에 영향을 미쳤을 것으로 예상되는데요. 최근에는 도파민 디톡스, 유해 콘텐츠 차단 등에 대한 관심이 높아지며 이러한 문제에 IT 대기업들도 적극적으로 해결책을 마련하고 있는 모습이에요.

사건번호 #10
🙅‍♂️🙅‍♀️딥페이크 사용 금지!
2024년 4월 10일, 제22대 국회의원 선거가 치러질 예정이에요. 과거 선거 운동에서는 딥페이크 기술을 사용한 홍보 활동에 문제가 없었지만, 지난해 말 딥페이크 선거 운동을 금지하는 공직선거법 개정안이 통과되면서 이번엔 볼 수 없을 예정이에요.

딥페이크가 팩트를 이겨?
* 딥페이크 : 인공지능을 기반으로 활용한 인간 이미지 합성 기술

2024년은 세계적으로 중요한 선거가 많이 예정되어 있어요. 미국의 대선이 그중 하나인데요, 지난 23일, 뉴햄프셔주 프라이머리(예비선거)를 앞두고 조 바이든 대통령을 사칭해 경선 불참을 권유하는 딥페이크 음성이 유포돼 논란이 있었어요. 또한 지난해에는 조 바이든 대통령이 성차별적 발언을 하는 딥페이크 영상이 유포되어 논란이 있었고요.
실제로 지난해 9월에는 슬로바키아에서 선거 직전, 한 후보가 언론인과 대화하는 영상에 선거 조작에 대해 논의하는 가짜 대화를 딥보이스로 삽입한 영상이 유포되었고, 이는 선거 48시간을 앞둔 기간에 유포되어 후보자는 해당 영상이 허위라고 반박할 시간도 충분치 않아 결국 집권당 승리에 영향을 미친 것으로 분석되고 있어요.

미국도 지난해 3월, 도널드 트럼프 전 대통령이 체포당하는 AI 생성 사진이 인터넷에 퍼져나가 곤욕을 치르기도 했으며, 5월에는 미 국방부 청사 펜타곤에서 폭발이 일어나는 AI 생성 이미지로 인해 주가가 하락하는 상황이 벌어지기도 했어요.

정치권 뿐만이 아니에요. 최근에는 홍콩의 한 금융사 직원이 딥페이크에 속아 한화 약 340억 원을 송금하는 사건이 벌어졌어요. 이 직원은 영국에 있는 회사의 최고재무책임자(CFO)로부터 거액의 돈을 비밀리에 거래할 것을 요구하는 이메일을 받았는데, 처음엔 피싱메일로 의심했지만 이후 회사 동료 여러 명이 함께 참여한 화상 회의에서도 같은 지시를 받자 요구대로 거액의 돈을 송금한 거예요. 사실 이 화상 회의에 참여했던 모든 직원들이 딥페이크로 얼굴을 재현한 사기꾼들이었다고 해요. 이처럼 딥페이크 기술이 금융 사기를 비롯해 선거, 사회관계망서비스(SNS) 등 각종 분야에서 악용될 수 있다는 우려가 전 세계적으로 커지고 있는 상황이에요.

유튜브가 가짜뉴스에 대응하는 방법
지난해 12월, 유튜브 채널 '퓨리 크리에이터'에는 '임영웅 결혼, 윤석열 축가', '이재용 홍진영 결혼식 장면' 등 수십 개의 쇼츠 동영상을 업로드했고, 이 모든 영상들은 가짜 콘텐츠들이었어요.
해당 사실을 확인한 방송통신심의위는 구글 코리아에 게시물 접속 차단을 요청했으나 구글은 "보내주신 영상과 채널 전반을 담당팀에서 검토했으나, 유튜브의 잘못된 정보 관련 정책을 위반한 콘텐츠를 찾지 못했다"라고 답변했다고 해요. 이는 유튜브가 가짜뉴스에 대해 신고해도 제대로 된 검토를 못하고 있다는 것을 드러낸 사례로 보여요.

유튜브는 가짜뉴스에 대한 방지책으로 콘텐츠 신고 시스템을 운영하고 있다고 말하지만, 가짜뉴스를 발견하고 신고해도 실제로 콘텐츠가 삭제되기까지는 오랜 시간이 걸리는 것으로 확인됐어요. 유튜브는 "콘텐츠가 신고되어도 자동으로 게시중단되는 것은 아니다"면서 "검토팀이 위반사항을 찾을 수 없다면 신고된 횟수와 관계없이 해당 동영상은 사이트에 계속 게시된다"고 답한것으로 보아, 대부분의 가짜뉴스들이 '퓨리 크리에이터'와 비슷하게 처리되고 있음을 알 수 있었어요.
정인오 GLL 경영연구소 대표는 "가짜뉴스를 신고해도 시정이 되지 않으면 소송을 제기해야 하지만 유튜브 서비스 약관상 ‘전속적 국제재판관할 합의 조항’으로 인해 구글 본사가 있는 미국 캘리포니아주 관할 법원에서 소송을 걸어야 한다"면서 "사실상 가짜뉴스가 범람해도 방법이 없다"고 말했어요.

출처 : 유튜브 캡쳐

"AI 생성 콘텐츠에 표시 필수"

딥페이크 문제가 부상하자 유튜브는 인공지능(AI)으로 생성된 딥페이크에 대한 콘텐츠 가이드라인을 시행한다고 밝혔어요. 제작자는 동영상 업로드 시 현실적인 생성 AI 콘텐츠에 라벨을 지정해야 하는데, 이는 특히 선거나 진행 중인 갈등과 같은 주제에서 중요시된다고 해요. 유튜브는 “AI 도구를 이용해 합성 콘텐츠를 제작했는지 여부를 공개하지 않는 크리에이터는 콘텐츠 삭제, 광고 수익 정지 등 기타 불이익을 받을 수 있다”며 해당 여부를 확인하지 않은 영상에 대해서 AI로 이를 감지하는 기술을 개발 중이라고 밝혔어요.

📜 유해콘텐츠 주요 기사