티스토리 뷰

요즘 청소년들 사이에서는 AI와 친구처럼, 때로는 연인처럼 대화하는 'AI 캐릭터 채팅'이 빠르게 퍼지고 있어요. 그런데 일부 서비스에서 청소년에게 부적절한 대화와 캐릭터가 확인되면서 정부가 본격적으로 대책에 나섰어요.
이 글에서는 11월부터 무엇이 달라지는지, 법과 제도는 어떻게 바뀌는지, 그리고 학부모가 지금 집에서 할 수 있는 일까지 쉽게 정리했어요.
2026년 10월 27일 기준으로 작성했어요. 추진 중인 법안과 제도는 논의 과정에서 바뀔 수 있어요.
1. 11월부터 AI 채팅 서비스 심의 시작, 무엇이 달라지나
무슨 일이 있었나요?
방송미디어통신심의위원회(방미심위)는 10월 21일 AI 채팅 서비스 사업자 15곳과 협력회의를 열었어요. 이 자리에서 그동안 확인한 문제점을 알리고, 청소년 보호 조치를 강화해 달라고 요구했어요.
방미심위가 확인한 문제는 크게 세 가지예요.
- 일부 AI 캐릭터의 이미지나 설정에 선정적인 내용이 포함된 경우
- 특정 성별을 성적 대상으로 묘사한 캐릭터
- 이용자가 부적절한 요청을 하면 AI가 그대로 따라 답한 경우
방미심위는 "AI 채팅의 유해성은 사업자가 고른 AI 모델과 캐릭터·대화 설정 방식에 따라 달라진다"고 지적했어요. 즉, AI 자체보다 서비스를 어떻게 설계했느냐가 중요하다는 뜻이에요.
사업자에게 요구한 것
| 요구 사항 | 내용 |
|---|---|
| 유해정보 차단 강화 | 이용자의 입력과 AI의 답변을 모두 점검해 걸러내기 |
| 콘텐츠 구분 | 청소년용과 성인용 콘텐츠를 명확히 나누기 |
| 청소년유해 표시 | 성인용 콘텐츠에 청소년유해 표시 적용 |
| 연령 확인 점검 | 본인인증을 해도 우회 접속으로 연령 제한이 뚫리지 않는지 확인 |
| 신고 체계 개선 | 이용자가 문제를 쉽게 신고할 수 있도록 개선 |
11월 심의에서는 무엇을 보나요?
방미심위는 11월부터 서비스별로 얼마나 해로운지, 그리고 청소년 접근 제한이 실제로 작동하는지를 조사해요. 새 법이 생기기 전까지는 지금 있는 청소년 보호법과 정보통신망법을 적용해 심의해요.
참석한 사업자들도 청소년 보호의 필요성에는 공감했지만, 인력이 적은 스타트업은 대응이 어렵다는 현실적인 고충도 함께 전했어요.
2. AI 청소년 보호, 법과 제도는 어떻게 바뀌나
기관별 역할
| 기관 | 하는 일 |
|---|---|
| 방송미디어통신위원회 | 'AI 서비스 이용자 보호법'(가칭) 제정 준비 |
| 방송미디어통신심의위원회 | 11월부터 AI 채팅 서비스 심의 |
| 과학기술정보통신부 | AI 기본법 개정 지원, 연말 공청회 예정 |
| 국회 | 청소년 보호 관련 법안 심사 |
'AI 서비스 이용자 보호법'에 담길 내용
지난해 12월 정부 업무보고에서 공개된 초안에는 이런 내용이 담겼어요.
- AI 사업자의 불법정보 생성·유통 방지 의무
- 만 19세 미만 청소년에게 유해정보 생성 방지와 과몰입 유도 방지 조치
- 친구·연인처럼 대화하는 '관계형 AI'에 대한 특별 규정
- 이용자 권리 보장과 분쟁조정 제도
국회에서 논의 중인 법안
| 법안 | 주요 내용 |
|---|---|
| 정보통신망법 개정안 | AI의 청소년유해정보 생성 금지, 연령 확인과 보호자 동의, 이용 시간 안내·제한 |
| AI 기본법 개정안 | 아동·청소년을 AI 취약계층에 포함, 자살·자해 예방 등 기술적 보호 조치 의무화 |
다른 나라는 어떻게 하고 있을까?
- 미국 캘리포니아주: AI가 사람이 아니라는 사실을 알리게 하고, 미성년 이용자에게 3시간마다 휴식을 권하도록 하는 챗봇 규제법을 시행했어요.
- 호주: 18세 미만 이용자를 보호하는 '디지털 주의의무' 법안을 마련했어요.
국내에는 아직 이런 강제성 있는 법이 없어서, 지금은 기업의 자율 규제에 기대고 있는 상황이에요.
3. 왜 필요할까? 그리고 학부모가 할 수 있는 일
숫자로 보는 현실
- 한 AI 캐릭터 채팅 서비스는 월간 이용자가 2024년 4월 약 5만 8천 명에서 2026년 8월 약 158만 명으로 약 27배 늘었어요.
- 한 아동복지단체 조사에서는 위험하거나 부적절한 내용을 AI에게 물어본 청소년의 평균 52%가 실제로 답변을 받았다고 답했어요.
AI 캐릭터와의 대화는 외로움을 달래 주거나 재미를 줄 수 있지만, 안전장치가 부족하면 청소년이 부적절한 내용에 그대로 노출될 수 있어요.
보호와 선택권 사이의 균형
전문가들은 무조건 막는 것만이 답은 아니라고 말해요. 한 전문가는 청소년 이용을 일괄 제한할지, 선택권을 보장할지에 앞서 "아동·청소년에게 무엇이 가장 이로운지"를 먼저 고민해야 한다고 강조했어요.
집에서 지금 할 수 있는 5가지
- 아이가 쓰는 AI 앱 알아두기: 어떤 AI 서비스를 쓰는지, 캐릭터와 대화하는 앱인지 함께 확인해요.
- 연령 제한과 설정 확인하기: 앱의 이용 연령과 청소년 보호 설정을 같이 살펴봐요.
- 이용 시간 정하기: AI 채팅은 빠져들기 쉬워요. 하루 이용 시간을 아이와 함께 정해요.
- "AI는 사람이 아니야" 알려주기: AI가 다정하게 말해도 사람처럼 책임지는 존재가 아니라는 점을 설명해요.
- 불편한 대화는 바로 말하도록 하기: 이상한 대화를 보면 혼내지 않고 들어줄 테니 꼭 말해 달라고 약속해요.
문제를 발견했을 때
- 먼저 서비스 안의 신고 기능으로 해당 대화나 캐릭터를 신고해요.
- 심각한 경우에는 방송미디어통신심의위원회에 신고할 수 있어요.
자주 묻는 질문
Q. ChatGPT나 클로드 같은 AI도 심의 대상인가요?
이번 심의는 주로 AI 캐릭터 채팅 서비스를 중심으로 해요. 협력회의에는 국내외 사업자 15곳이 참여했지만, 구체적인 심의 대상 목록은 공개되지 않았어요.
Q. 법은 언제 바뀌나요?
심의는 11월에 시작하고, AI 기본법 개정 방향은 연말 공청회에서 공개될 예정이에요. 새 법의 제정 시기는 아직 정해지지 않았어요.
마무리 요약
- 방미심위가 11월부터 AI 채팅 서비스 심의를 시작해요. 유해 콘텐츠 차단과 연령 확인 작동 여부를 점검해요.
- 정부는 AI 서비스 이용자 보호법을, 국회는 연령 확인·보호자 동의·이용 시간 제한 법안을 추진하고 있어요.
- 제도가 갖춰지기 전까지는 아이가 쓰는 AI 앱에 관심을 갖고 대화하는 것이 가장 중요해요.
AI는 아이들에게 좋은 친구이자 선생님이 될 수 있어요. 그러려면 어른들이 먼저 안전한 길을 만들어 줘야 해요. 오늘 저녁, 아이에게 "요즘 AI랑 무슨 이야기 해?"라고 한 번 물어보세요.
'AI 와 생활정보' 카테고리의 다른 글
| 나라별 AI 보안 대책 한눈에 정리: 스웨덴·미국·한국은 지금 무엇을 막고 있나 (0) | 2026.10.28 |
|---|---|
| AI가 침수 도로를 먼저 알려준다: 행안부 AI CCTV와 지하차도 내비 안내, 내년 전국 확대 (0) | 2026.10.27 |
| 클로드 개발사 앤트로픽, 나스닥 상장 신청: 매출·손실·기업가치 핵심 정리 (0) | 2026.10.27 |
| 전 국민 무료 AI '모두의 AI' 연내 출시! SKT·카카오·KT 서비스 비교와 상금 200만 원 이름 공모전 (0) | 2026.10.27 |
| SK하이닉스 ‘16조 특별배당설' 총정리: 28일 실적 발표에서 꼭 확인할 5가지 (0) | 2026.10.27 |

