지난 9월, 저는 샘 알트먼(Openai CEO)으으로 부터 한가지 제안을 받았습니다. 그 제안은 저의 목소리를 chatGPT 시스템에 이용하고 싶다는 것이었습니다. 그는 제 목소리를 이용하면 빅테크와, 인간과 AI의 큰 변화를 걱정하는 창작자 그리고 소비자들의 사이의 간극을 줄이는데 도움이 될 것이라고 했었습니다. 그는 제 목소리가 사람들이 이 기술을 받아들이는 것에 있어 한결 편안하게 해줄 것이라고 했었습니다.
깊은 고민 후에, 그리고 제 개인적인 이유로 그 제안을 거절했습니다. 그리고 아홉달 후에, 제 친구, 가족들은 (OpenAI가) 'SKY'라 이름붙인 시스템의 음성이 저의 것과 너무 똑같다고 알려줬습니다.
그 데모를 듣고, 저는 충격에 빠졌고, 화가났고, 믿을수가 없었습니다. 알트먼씨가 만든 무서울정도로 저와 비슷한 목소리는 친지들이 저의 것과 거의 차이를 느끼지 못했습니다. 알트먼씨는 심지어 "her" 라는 단어를 사용하면서 마치 제 목소리라는 것을 암시하는 듯한 트윗도 남겼습니다.(저는 Samantha라는 챗봇이 인간과 관계를 만들어가는 영화 "her"에 Samantha의 목소리로 출연했었습니다. 이는 이 영화의 레퍼런스로 보입니다)
ChatGPT 4.0이 출시되기 이틀전에, 알트먼씨는 다시 한번 제 에이전트에 연락을 해왔습니다. 앞전에 했던 제안을 다시 재고할 수 없겠느냐는 것이었습니다. 서로 이에대해 의논하기 전부터, 이미 시스템은 완성되었던 것입니다.
그들의 행동때문에, 저는 법적 조치를 취할 수 밖에 없었습니다. 저는 고용한 법적 자문단을 통해 알트먼씨와 OpenAI에게 두 개의 서한를 보냈는데, 그들이 어떤 과정을 통해 "SKY"의 음성을 만들었는지 구체적으로 밝힐 것을, 그들이 이런 과정에서 어떤 일을 해왔는지 공개해달라는 내용이었습니다. 결과적으론, OpenAI는 마지못해 그 목소리를 내릴것에 동의했습니다.
딥페이크로부터, 우리들 자신의 기호와 우리들의 작업물 우리의 정체성을 보호하는 싸움이 일어나는 시대에서, 앞선 서한들은 명확한 대답을 받을 자격이 있는 질문들이라 생각합니다. 저는 투명성이 확보될 수 있고 개인의 권리가 보호 될 수 있는 적절한 법안이 통과되기를 고대합니다.
해당 모델의 시연 영상을 보면 영화 her에서 스칼렛 요한슨의 목소리가 상당히 유사함
미국은 한국과 다르게 퍼블리시티권이 존재하기 때문에 저작권 외적으로 음성,상징적 이미지에 대한 법적 보호 장치가 존재하기에 저런 법률적 대응이 가능함
하지만 국내에는 그런 최소한의 보호 장치가 없기 때문에 창작자와 소비자의 권리를 위해선 Ai 생성 콘텐츠에 대한 표기 의무화가 필요함.
해당 법안에 대한 청원 : https://petitions.assembly.go.kr/status/registered/15293F845AEC0F27E064B49691C1987F
충격적인 생크림의 원래 용도 ㄴㅇㄱ