일본 디지털 휴먼의 바람직한 활용법에 관한 의견서

• 일본 디지털 휴먼 협의회가 낸 의견서로, 활용 사례 홍보보다 사업자가 스스로 피해야 할 용도를 명시하는 데 무게를 실었다
• 협의회 공식 합의문이 아니라 참여 기업 실무자 개인 견해를 모은 문서이며, 내부에서 의견이 갈린 대목과 검토가 덜 된 부분까지 그대로 공개했다
• 2024년 들어 사진으로 영상을 만드는 Animate Anyone, 정지 사진을 노래시키는 EMO, 음색을 복제하는 RVC가 일반에 풀린 것이 검토를 앞당긴 직접 계기
• 권장 용도의 핵심은 실매장·웹·메타버스를 오가며 데이터를 쌓아 만드는 일대일 응대이고, 금지선은 딥페이크 사칭과 프로파간다
• 부록에 자신을 디지털 휴먼으로 만든 방송인 쿠리에미의 인터뷰를 실어 기술을 쓰는 쪽이 아니라 소재가 되는 쪽의 시각을 붙였다

기술이 논의를 앞질렀다

• 영상 쪽에서는 알리바바의 Animate Anyone, 깃허브에 소스가 공개된 AnimateDiff, 노래와 사진을 합성하는 EMO가 1년 사이 잇따라 나왔다
• 이 기술들이 누구나 쓸 수 있게 공개되면서 2024년 초에는 프로그래밍을 모르는 일반 사용자도 사진 한 장으로 동영상을 만들 수 있게 됐다
• 음성에서는 메타버스에서 남성 목소리를 여성 목소리로 바꾸던 보이스 체인저 RVC가 학습 기능을 통해 특정인의 목소리 복제까지 가능하게 만들었다
• 협의회는 이 조합이 인력 부족 해소라는 기대와 겉모습으로 사람과 구분되지 않는 위험을 동시에 키웠다고 정리했다
• 학습에 쓰이는 데이터의 권리 문제, 그리고 노동자에게서 보람 있는 일을 부당하게 빼앗을 가능성도 위험 목록에 함께 올렸다

권장 용도는 결국 일대일 응대

• 백서 2023이 제시한 유스케이스는 대접의 최적화, 자신의 분신, 반복 연습 상대, 비밀 대화 상대, 입이 무거운 상담역, 디지털 아이돌 등 9가지
• 일본 내 사례로는 방문객과 대화하며 추천 상품을 소개하는 스기 약국 실증실험, 프로필과 감정에 맞춰 요금제를 제안한 NTT 도코모 시연을 들었다
• 해외에서는 델이 온라인 기종 선택을 돕는 콘셉트 모델을 준비 중이고, 카타르 항공은 메타버스 Qverse에서 접객을 이미 시작했다
• 보험 견적, 여행 계획, 패션과 인테리어 코디처럼 구매까지 컨설팅이 필요한 상품일수록 일대일 응대 수요가 크다고 봤다
• 제일생명보험의 '디지털 버디'는 고객과 영업사원이 만나는 자리에 디지털 휴먼을 제3자로 끼워 넣는 방식으로, 기존 접객 구도를 바꾼 변형 사례
• 일대일을 성립시키는 조건은 데이터이며, 하나의 접점에 머물지 말고 여러 환경을 넘나들며 대화 내용은 물론 표정·음성에서 읽히는 감정 변화까지 축적해야 한다고 주장했다

넘지 말아야 할 선

• 권장 용도라도 저작권 등 지식재산권과 퍼블리시티권 확인이 먼저이며, 인물의 얼굴·행동·음성을 쓰려면 이용 허락이 필요하다고 못박았다
• 인물이나 캐릭터의 세계관에 어긋나는 사용, 캐릭터 디자인 가이드라인을 벗어난 사용도 피할 대상으로 명시했다
• 폭력물과 성인물 제작, 정치적·종교적 발언, 특정 사상 전파는 특히 주의해야 할 영역으로 따로 떼어 지목했다
• 딥페이크를 악용한 가짜 뉴스와 혐오 발언은 사업자가 명확히 배제해야 하는 용도로 규정했다
• 총무성과 경제산업성의 'AI 사업자 가이드라인'을 준거로 삼아 개발자·제공자 책무, 데이터 수집과 이용의 투명성·책임성을 요구했다

신뢰와 애착을 만드는 설계 조건

• 신뢰의 조건으로 데이터 수집·이용 방식의 명시, 사용자가 자기 데이터를 통제할 수 있는 구조, 윤리적 설계를 들었다
• UX·UI 원칙은 투명성, 일관성과 예측 가능한 조작감, 반응성 있는 피드백, 부담을 줄인 단순한 디자인 네 가지로 정리했다
• 소통 측면에서는 공감적 응답, 일관된 어조, 과거 상호작용을 반영한 개인 맞춤 대응, 잘못된 정보를 피한 정확한 안내를 꼽았다
• 유스케이스에 따라서는 신뢰를 넘어 애착이 필요하며, 장기적으로 지속 가능한 상호작용을 설계해 일상의 일부로 받아들이게 하는 방안을 검토 대상으로 남겼다
• UI는 사용자가 능동적으로 조작하는 방식에서 벗어나, 버튼과 메뉴 대신 대화가 인터페이스가 되는 양방향 구조로 이동한다고 전망했다
• 다만 복잡한 작업에서는 아직 사람에 비해 부족한 점이 드러난다며 적용 범위를 충분히 따져보라는 단서를 달았다

라이선스는 아직 빈칸

• 초상권, 저작권, 디자인권과 상표권, 데이터 프라이버시, AI 알고리즘까지 다섯 갈래의 라이선스 정비가 필요해질 것으로 예측했다
• 디지털 인플루언서 Lil Miquela가 고급 브랜드와 제휴해 성과를 낸 사례를 디지털 휴먼의 앰배서더화 선행 사례로 들었다
• 미국 아마릴로시의 다국어 대응 공공 서비스 계획처럼 행정 영역으로 넓어지는 흐름도 권리 논의를 앞당기는 요인으로 봤다
• 일본에는 아직 디지털 휴먼에 특화된 가이드라인이 드물어 어떤 기준을 우선 따라야 하는지 불명확하다는 점을 스스로 한계로 인정했다

현장 구현과 남겨둔 질문

• 사이니지 구현에서는 전신이냐 상반신이냐, 실물 크기냐 축소냐가 경험을 갈라놓고, 소음 환경의 음성 입력이 실무상 가장 큰 골칫거리로 꼽혔다
• 사람 형상이라 오류가 유독 크게 튄다며, LLM 지연으로 동작이 멈추거나 어색한 표정으로 굳는 상황에 대비한 대체 화면 설계를 요구했다
• 시선을 맞추려 CG를 픽셀 단위로 조정하고 지연이 생기지 않게 네트워크를 함께 손보는 통합 능력이 프로젝트의 핵심 역량이라고 강조했다
• 운영 항목으로는 대화 상대가 AI임을 미리 알릴지 여부, 대화 시작과 종료 신호, 모니터링 범위와 사용자 동의 확보를 들었다
• 미해결 과제로는 설득력을 악용한 마인드컨트롤 금지, 광고 주체가 디지털 휴먼일 때의 규칙, AI 명시 여부를 둘러싼 찬반을 그대로 남겼다
• 대화 이력이 기존 개인정보를 넘는 가치를 갖는 만큼 권리 보호와 활용 규칙을 국가 차원에서 논의해야 한다는 경제안보 관점도 제기했다
• SNS 팔로워 250만 명인 쿠리에미는 2023년 12월 일본 최초의 버추얼 휴먼 기획사를 세운 당사자로, 디지털 휴먼을 방송인의 세컨드 커리어와 일대일 엔터테인먼트를 여는 수단으로 봤다