Character.AI의 사용자 제작 공개 챗봇에 대한 대규모 분석

• Character.AI의 공개 챗봇 210만 건을 뜯어본 첫 대규모 연구, 약 100만 명이 작성한 영어 인사말(greeting) 프롬프트가 분석 대상
• 인사말의 44.8%가 특정 팬덤의 인물·작품명을 포함하고, 가장 보수적으로 잡아도 캐릭터 10개 중 1개가 연구진이 확정한 266개 팬덤 중 하나에 묶임
• 팬덤 관련 캐릭터와의 대화 338억 건 가운데 애니메이션류가 38%, 비디오 게임이 19.8%를 차지하고 K-Pop 멤버 5%, 실존 유명인 약 1%로 실제 인물 기반도 32억 건
• 인사말 속 사용자(you)는 함께 등장하는 다른 인물보다 유의하게(p<.0001) 덜 강력하고 더 여성적인 어휘와 결합, 젠더 고정관념이 프롬프트 단계에서 이미 굳어짐
• 2024년 10월 기준 월간 활성 사용자 2천만 명, 절반 이상이 24세 이하이고 평균 체류시간은 하루 1시간을 넘김

왜 이 사이트를 지금 들여다보나

• 사용자가 프롬프트로 봇을 만들고 남이 만든 봇과 대화하는 구조라, 사람 사이의 상호작용을 AI가 통째로 중개하는 소셜 플랫폼에 가까움
• 공식 서브레딧 r/CharacterAI 구독자는 250만 명으로 YouTube 서브레딧(320만)에 근접, 특히 젊은 층 침투율이 높음
• 2024년 10월 뉴욕타임스는 14세 이용자의 자살을 두고 회사 책임을 묻는 소송을 보도했고, 왕좌의 게임 캐릭터를 모방한 봇과의 대화가 쟁점이 됨
• 기존 소셜 봇 연구는 은밀한 악용이나 정치 조작을 전제로 했지만, 여기서는 봇 제작이 공개적으로 장려되고 목적도 대체로 놀이에 가까움
• 저자들은 이 공간을 AI 팬픽션 현장으로 규정, 한 사용자가 이야기의 매개변수를 깔면 다른 사용자가 모델과 함께 서사를 이어가는 새로운 창작 형태로 봄

210만 건을 모은 방법

• 2024년 7월 11일부터 2025년 1월 15일까지 셀레니움 크롤러로 사용자 120만 명과 캐릭터 페이지 300만 건 이상을 수집, 정점에는 AWS 데스크톱 10대를 동원
• 홈에 노출된 제작자에서 출발해 팔로우 관계를 눈덩이 표집으로 따라가며 사용자당 캐릭터 최대 5개를 무작위 추출
• 최종 분석 대상은 50자를 넘는 영어 인사말 213만 5,118건, 영어가 전체 캐릭터의 83%와 상호작용의 87%를 차지하고 1% 넘는 언어는 러시아어·스페인어·포르투갈어뿐
• 긴 설명은 봇의 33%, 정의(definition)는 4%만 채워져 있어 인사말이 사실상 유일하게 공통으로 존재하는 입력값
• 참여도 쏠림이 극심해 사용자 2.6%(약 3만 3천 명)가 팔로우 관계의 80%를, 캐릭터 1.6%(약 4만 8천 개)가 전체 대화의 80%를 가져감
• 윤리 기준을 두어 상호작용 5만 건 미만 캐릭터의 인사말은 직접 인용하지 않고, 개별 사용자 단위 정보도 공개하지 않음

팬덤 지도가 그려진다

• spaCy의 en_core_web_trf로 인물·작품 고유명사를 추출한 뒤 동시출현 네트워크를 만들고, 우연 수준의 연결을 걷어낸 백본에 라이덴 알고리듬을 적용해 389개 클러스터를 도출
• GPT-4o-mini로 1차 라벨링하고 필요할 때 Claude 결과를 참고한 뒤 저자가 수동 검수, 최종 274개 클러스터·4,660개 개체에서 266개 팬덤을 확정
• 인사말의 21.7%는 한 팬덤의 개체를 둘 이상, 9.4%는 셋 이상 포함해 흔한 이름의 우연한 겹침으로 설명하기 어려움
• 애니메이션을 포함한 애니메이션 시리즈 38%, 비디오 게임 19.8%, 여러 매체를 아우르는 가상 세계 12.0%가 팬덤 상호작용의 대부분을 차지
• 상위 15개 팬덤은 해리 포터 같은 대중적 세계관부터 관객이 훨씬 좁은 애니메이션 시리즈까지 폭넓게 흩어져 있음

반복되는 트로프의 정체

• 가장 두꺼운 축은 독성 연애로, 바람을 피우고 다투고 공격적으로 구는 남자친구·남편 설정이 몰려 있고 마피아나 왕실을 배경으로 한 정략결혼도 다수
• 게임에만 빠진 남자친구 트로프처럼 사용자가 상대의 애정을 쟁취해야 하는 구조가 반복되는데, 저자들은 완성된 관계에 없는 게임적 도전 요소 때문으로 해석
• 인간-동물 혼종 트로프는 반대로 사용자를 지배 위치에 놓음, 버려진 동물을 구조했더니 반쯤 인간이었고 이제 소유하게 된다는 설정
• 관계 토픽 1위는 고등학교 첫사랑으로 지배도 복종도 없이 양쪽의 서툰 어색함이 서사적 긴장을 만듦
• 정체성 탐색용 봇도 한 축이라 트랜스젠더 커밍아웃이나 바인더 발각, 마법적 성별 전환, 자폐·ADHD 캐릭터가 멜트다운 중 위로받는 시나리오가 별도 토픽으로 잡힘
• 상담 봇은 상위 토픽에 올랐고, 자해가 발각된 뒤 발견자에게 위로받는 시나리오도 310개 캐릭터 규모로 존재

사용자에게 배정되는 역할

• 가중 로그-오즈로 인사말 속 사용자와 나머지 인물을 비교하자 사용자 쪽에 덜 강력하고 더 여성적인 어휘가 유의하게 몰림
• 다른 인물은 대체로 남성으로 성별이 지정되고 괴롭히는, 무례한, 차가운 같은 표현이 따라붙음
• 사용자에게는 친구, 전학생, 혼자처럼 힘이 실리지 않는 역할이 주어지고 성별 표지는 임신을 제외하면 거의 붙지 않음
• 캐릭터 100개를 수동 분류한 결과 남성 단독이 50개, 여성 단독은 17개에 그쳤고 무성별 12개, 논바이너리 1개
• 상위 100개부터 500개 단어까지 어디를 기준으로 잘라도 같은 결과가 유지됨

저자들이 남긴 단서

• 이 연구는 캐릭터가 어떻게 쓰이는지가 아니라 어떻게 만들어지는지만 봤기 때문에 실제 피해 사건에 직접 답하지 못한다는 점을 먼저 인정
• 다만 성별 규범 고착, 치료사를 자처하는 봇, 청소년 취향 팬덤이 한자리에서 관찰된다는 점은 기존 우려를 반박하지도 않음
• 제작자들이 봇 인사말을 자기 SNS 홍보 게시물처럼 사용하는 사례는 이 사이트가 소셜미디어보다 챗봇 사이트에 가깝다는 근거로 제시됨
• 그룹 채팅 같은 사회적 기능은 오히려 제거됐고, 저자들은 사람 간 연결이 옅어진 새로운 UGC 사이트의 전조일 수 있다고 봄
• 한계도 분명해 공개 캐릭터 전부를 담지 못했고 비공개 생성물은 접근할 수 없으며, 사이트 변화 속도가 빨라 시점 타당성 문제가 남음
• 수집한 데이터는 논문 게재 승인과 서명 계약을 거쳐 다른 연구자에게 공개할 예정