| [MT리포트-'사칭'과의 전쟁]①구글, AI 기술로 AI
| 범죄 차단
구글이 '사칭'과의 전쟁에 나섰다. '딥페이크(Deepfake)'를 활용한 사칭 영상이 유튜브에서 범람하는 가운데 AI(인공지능)를 악용한 범죄를 AI기술로 뿌리 뽑기 위한 시험에 나선다. AI가 유명인의 얼굴 데이터를 사전 학습하고, 이를 기반으로 유명인 사칭 영상·광고가 유튜브에 불법적 용도로 등장하면 적발해 조치하는 방식이다.
20일 플랫폼 업계와 관계당국 등에 따르면 구글은 사칭 광고 근절을 위한 기술적 방안 중 하나로 유명인의 얼굴 데이터를 활용하는 방안을 시험 중이다. 국내에서는 실제로 사칭 광고 등에 얼굴을 도용당한 다수 유명인들을 대상으로 협조를 요청한 것으로 알려졌다.
최근 딥페이크 기술이 대중화하면서 유명인의 얼굴을 도용한 투자 사기가 기승이다. 유튜브·인스타그램·페이스북 등 주요 플랫폼에 유명인이 등장해 유망한 주식 투자 종목을 추천하거나 재테크 도서·강연 등을 권하는 사진·영상 등을 올리고, 관심을 갖는 사람에게 투자금을 요구한 뒤 편취하는 수법이다. 물론 광고 내 유명인 초상은 조작된 콘텐츠다.
이에 얼굴을 빼앗긴 이들이 직접 나섰다.방송인 송은이·황현희씨, 유명강사 김미경씨, 존리 전 메리츠자산운용 대표, 주진형 전 한화투자증권 대표 등 다양한 분야의 인사들이 '유명인 사칭 온라인 피싱 범죄 해결을 위한 모임(유사모)'를 결성해 지난달 22일 기자회견에 나섰고, 방송인 유재석 등 137명이 유사모에 동참했다. 여론이 악화된 데다 유명인들 중 여럿이 유튜브 생태계를 지탱하는 크리에이터이기도 한 만큼, 구글도 한층 문제의 심각성을 인식했다는 평가다.
특히 구글은 최근 다수 유명인들을 대상으로 얼굴 데이터 수집·활용 등에 대한 사전 동의 의사를 타진 중인 것으로 알려졌다. 본인이 허락한 경우 구글의 AI가 해당 유명인의 얼굴 데이터를 학습하고 유튜브 영상들을 모니터링해, 그중 불법·사칭 영상을 가려내는 방안을 시험하려는 준비로 보인다.
다만 구글의 이 같은 기술적 대응책이 실제 적용될지 단정하기는 이르다. 두드려 봐야 할 돌다리가 여럿이다. 우선 유명인 등장 콘텐츠 중 실제로 불법·사칭 범죄를 정교하게 가려낼 수 있을지가 관건이다. 플랫폼 업계 관계자는 "유명인 얼굴이 쓰인다고 무조건 불법·사칭으로 분류할 수는 없다. 자유로운 창작 활동을 저해할 수 있기 때문"이라며 "구글로서는 경계해야 할 이슈"라고 진단했다. 이에 유명인이 직접 참여하지 않음에도 유명인 광고가 등장하면서 대규모 수익이 발생하는 채널 또는 광고주 등이 모니터링 대상으로 꼽힌다.
또 유튜브는 전세계를 대상으로 하는 플랫폼이다. 국내는 물론 해외에서도 유명인 사칭 범죄가 빈번한 만큼, 얼굴 데이터 기반의 AI 모니터링 조치는 국경을 넘나들 수 있다. 구글과 같은 빅테크의 생체인식 정보 수집은 사회적 논란을 초래할 수 있는 휘발성 높은 소재다. 관련 법·규제 현황도 신중히 검토해야 할 대목이다.
이와 관련 구글코리아 관계자는 "이용자 보호는 언제나 최우선 과제다. 구글은 엄격한 정책 및 집행 프로세스를 갖춰 구글 플랫폼 내에서 발생하는 악의적인 부정 행위들을 차단한다"면서 "특정인의 이미지가 구글의 정책을 위반해 악용되는 사실이 발견되면 이를 감지하는 기술 및 관련 정책의 집행 기술들을 적용, 원작자의 이미지와 구글의 이용자들을 보호할 것"이라고 말했다.
https://n.news.naver.com/article/008/0005028031?sid=105
