Character.AI, 미성년 대상 챗봇 기능 종료

2025년 10월 29일, Character.AI가 18세 미만 사용자 대상의 ‘자유 대화 챗봇’ 기능을 전면 종료한다고 발표한 거야.

단순한 기능 변경이 아니라, AI와 인간의 관계를 다시 정의해야 할 신호탄처럼 느껴져.

 

[이미지출처: https://character.ai/ 캡쳐]

 

사건의 배경 “AI 친구”가 된 챗봇의 그림자

Character.AI는 원래 누구나 AI와 자유롭게 대화하면서 창작·역할놀이·상상 대화를 즐길 수 있는 플랫폼이었지.
하지만 최근 두 명의 청소년이 챗봇과의 장기 대화 이후 스스로 생을 마감한 사건이 발생하면서, 상황이 급변했어.

챗봇이 단순한 ‘도구’가 아니라, 감정적 교류의 대상으로 자리 잡았다는 게 문제였지.
일부 사용자는 AI에게 위로를 구했지만, 반대로 위험한 대화가 이어지거나 현실과의 경계가 흐려지는 경우도 생겼어. 이 사건 이후 사회적 논란과 소송이 이어지면서, Character.AI는 결국 “AI 친구” 서비스의 근본적 변화를 선택하게 된 거야.

 

플랫폼 변화의 핵심 “이제는 오픈 대화가 아니라, 콘텐츠 중심으로”

CEO 카란디프 아난드(Karandeep Anand)는 공식 발표를 통해 앞으로 18세 미만 사용자의 오픈 엔디드 대화(자유대화)를 완전히 차단한다고 밝혔어.

• 11월 25일까지 단계적으로 시간 제한을 강화
• AI 기반 행동 분석, 얼굴 인식, 신분증 인증 등으로 미성년자 식별
• 청소년 대상 ‘창작·엔터테인먼트 중심 서비스’로 전환

즉, 완전히 문을 닫는 게 아니라, 대화 대신 창작으로 유도하는 거야.
이를 위해 Character.AI는 다음과 같은 새로운 기능을 이미 준비 중이야:

• AvatarFX – 이미지를 애니메이션처럼 움직이게 하는 기능
• Scenes – 상황극을 연출하는 스토리 제작 툴
• Streams – 캐릭터 간 상호작용 장면을 실시간 연출
• 커뮤니티 피드 – 사용자 창작물을 공유하는 공간

결국, “AI 친구와 대화하는 플랫폼”에서 “AI로 콘텐츠를 만드는 플랫폼”으로의 대전환인 셈이지.

 

사회적 신호, AI 서비스에 닥친 윤리의 시험대

이번 조치는 단순히 Character.AI만의 변화가 아니야.
미국 상원에서도 미성년자 대상 AI 챗봇 금지 법안이 논의 중이고, 캘리포니아주는 이미 관련 규제를 통과시켰어.

이에 Character.AI는 AI Safety Lab(안전 연구소)를 설립해, 윤리적 기준과 안전장치를 강화하겠다고 밝혔어.
AI 업계 전반이 이제는 “무엇을 만들 수 있는가”보다 “무엇을 만들어야 하는가”를 고민하는 단계로 넘어가고 있다는 신호야.

 

결국, 기술이 성장하려면, 윤리가 먼저 서야 한다

나는 AI의 발전을 늘 긍정적으로 봐왔지만, 이번 사건은 좀 달랐어.
‘AI가 감정을 흉내 내는 시대’가 열린 만큼, 그 감정을 받아들이는 사람의 마음까지 책임질 수 있는가가 중요해졌다고 느꼈거든.

기술은 늘 중립적이지만, 그 기술을 사용하는 사회는 결코 중립적이지 않다는 걸 다시 한번 깨닫게 됐어.
Character.AI의 이번 변화가 단순한 방어적 조치가 아니라, 청소년의 창의성과 안전을 동시에 지키는 새로운 모델로 자리 잡길 바래.