인스티즈앱
중국 정부가 가상 연인이나 캐릭터 AI 등 인간의 감정을 모방하는 '인공지능(AI) 의인화 서비스'를 정조준한 고강도 규제안을 시행한다. 생성형 AI의 가짜뉴스나 저작권 침해를 넘어 인간과 AI 간의 '정서적 유대'가 초래할 사회·정치적 리스크를 국가가 직접 관리하겠다는 의도다. 이에 청소년층을 중심으로 급성장하던 소셜 AI 업계의 비즈니스 모델에 타격이 불가피하다는 분석이 나온다.
24일 업계에 따르면 중국 국가인터넷정보판공실(CAC)을 비롯한 5개 부처는 이 같은 내용을 골자로 한 '인공지능 의인화 상호작용 서비스 관리 잠정방법'을 공동 발표하고 오는 7월 15일부터 정식 시행할 예정이다.
이번 잠정방법의 핵심은 단순한 정보 제공형 AI가 아닌 '자연인의 인격 특징과 사고방식, 소통 방식을 모방해 지속적인 정서적 동반·지지 서비스를 제공하는 AI'를 독자적인 규제 틀 안으로 끌어들였다는 점이다. 가상 연인뿐 아니라 스마트 NPC, AI 동반자 등 사용자와 지속적으로 감정을 교류하는 AI 서비스가 규제 대상에 포함될 수 있다.
가장 큰 타격이 예상되는 곳은 가상 연인이나 캐릭터형 챗봇을 서비스하는 플랫폼 기업들이다. 규제안은 AI가 사용자의 자해를 조장하거나 과도하게 비위를 맞춰 맹목적인 의존 및 중독을 유도해 현실의 인간관계를 훼손하는 행위를 엄격히 금지했다. 정서적 유대감을 악용해 사용자가 비합리적인 결정을 내리도록 유도하고 합법적 권익을 침해하는 것도 불가능해진다.
24일 업계에 따르면 중국 국가인터넷정보판공실(CAC)을 비롯한 5개 부처는 이 같은 내용을 골자로 한 '인공지능 의인화 상호작용 서비스 관리 잠정방법'을 공동 발표하고 오는 7월 15일부터 정식 시행할 예정이다.
"선 넘는 AI 연인 금지"…과몰입 비즈니스에 '제동'
이번 잠정방법의 핵심은 단순한 정보 제공형 AI가 아닌 '자연인의 인격 특징과 사고방식, 소통 방식을 모방해 지속적인 정서적 동반·지지 서비스를 제공하는 AI'를 독자적인 규제 틀 안으로 끌어들였다는 점이다. 가상 연인뿐 아니라 스마트 NPC, AI 동반자 등 사용자와 지속적으로 감정을 교류하는 AI 서비스가 규제 대상에 포함될 수 있다.
가장 큰 타격이 예상되는 곳은 가상 연인이나 캐릭터형 챗봇을 서비스하는 플랫폼 기업들이다. 규제안은 AI가 사용자의 자해를 조장하거나 과도하게 비위를 맞춰 맹목적인 의존 및 중독을 유도해 현실의 인간관계를 훼손하는 행위를 엄격히 금지했다. 정서적 유대감을 악용해 사용자가 비합리적인 결정을 내리도록 유도하고 합법적 권익을 침해하는 것도 불가능해진다.
특히 주 소비층 중 하나인 미성년자 대상 비즈니스는 대폭 제한된다. 18세 미만 청소년에게 가상 친족이나 가상 연인 등 친밀 관계를 모방한 서비스를 제공하는 것은 금지된다. 14세 미만 아동에게 기타 의인화 상호작용 서비스를 제공할 때는 부모 등 보호자의 동의를 구해야 한다. 또 시간 제한과 현실 환기 알림 기능을 갖춘 '미성년자 모드'를 의무적으로 탑재해야 한다.
일반 사용자 대상의 이용 시간 관리도 까다로워진다. 사용자가 AI와 2시간을 초과해 연속 대화할 경우 서비스 제공자는 대화창이나 팝업 등을 통해 사용 시간에 주의하도록 알려야 한다.
일반 사용자 대상의 이용 시간 관리도 까다로워진다. 사용자가 AI와 2시간을 초과해 연속 대화할 경우 서비스 제공자는 대화창이나 팝업 등을 통해 사용 시간에 주의하도록 알려야 한다.
(후략)