우리나라 최근 1년간 AI 관련 문제 TOP 5, 무엇이 가장 걱정될까요?

 

 

인공지능(AI)은 글을 쓰고 자료를 찾는 일부터 사진과 영상을 만드는 일까지 다양하게 활용되고 있어요. 편리한 도구인 것은 맞지만, 잘못 사용되면 다른 사람에게 피해를 주거나 범죄에 악용될 수 있다는 점도 함께 살펴봐야 한다고 생각해요.

이번 글에서는 2025년 10월부터 2026년 10월까지 공개된 국내 사례와 정부 발표를 바탕으로 AI와 관련해 주목할 문제 다섯 가지를 정리해 봤어요. 다만 모든 사건이 AI 때문에 발생했다고 확인된 것은 아니에요. AI가 직접 사용된 범죄와 AI 시대에 함께 커진 보안 문제를 구분해서 읽어 주세요.

1. 딥페이크 성범죄와 허위 영상물

가장 심각하게 봐야 할 문제 중 하나는 실제 사람의 얼굴이나 모습을 합성해 허위 영상물을 만드는 일이에요. 당사자의 동의 없이 얼굴을 합성하거나 성적인 영상처럼 보이게 만들면 피해자의 명예와 사생활에 큰 상처를 줄 수 있어요.

경찰청은 2026년 8월 딥페이크 범죄에 AI 탐지와 분석을 활용하는 대응 방안을 발표했어요. 10월에는 영상·음성·문자를 함께 분석해 AI 조작물을 찾아내고, 생성과 유포 과정을 추적하는 체계를 강화하겠다고 밝혔어요.

이런 문제는 단순한 장난으로 볼 수 없어요. 다른 사람의 사진이나 영상을 허락 없이 합성하거나 공유하지 않는 것이 기본이고, 의심스러운 콘텐츠를 발견했을 때는 다시 퍼 나르지 않는 것이 중요해요.

2. AI 음성 복제와 보이스피싱

목소리를 흉내 내는 AI 기술이 발달하면서 가족이나 지인의 목소리처럼 들리는 전화를 이용한 사기 위험도 커지고 있어요. 급하게 돈을 보내 달라고 하거나 인증번호를 알려 달라고 하면, 익숙한 목소리라도 바로 믿지 않는 편이 안전해요.

정부는 보이스피싱 탐지와 예방에 AI를 활용하는 대책을 추진해 왔어요. 2026년 9월 정부 발표에 따르면 2025년 10월부터 2026년 7월까지 보이스피싱 발생 건수와 피해액은 전년 같은 기간보다 감소했어요. 다만 보이스피싱 전체가 AI로 발생한 것은 아니며, 이 수치를 AI 범죄 피해액으로 해석해서도 안 돼요.

예방하려면 전화를 끊고 원래 알고 있던 번호로 다시 연락해 확인하세요. 가족끼리만 알 수 있는 확인 문구를 정해 두는 것도 도움이 될 수 있어요. 전화로 송금을 재촉하거나 비밀번호·인증번호를 요구한다면 특히 주의해야 해요.

3. 개인정보 유출과 계정 탈취

AI와 관련된 위험을 이야기할 때 개인정보 보호도 빼놓을 수 없어요. 개인정보보호위원회가 발표한 자료에 따르면 2025년 개인정보 유출 신고는 447건으로 전년보다 45.6% 증가했고, 신고 원인 중 해킹이 가장 큰 비중을 차지했어요.

또 2026년 10월에는 국내 금융회사 여러 곳에서 해킹과 정보 유출이 확인돼 당국이 조사에 나섰다는 보도가 나왔어요. AI가 실제 공격에 어느 정도 사용됐는지는 조사 중인 사안이므로, 확인되지 않은 내용을 단정하지 않는 것이 중요해요.

개인 이용자가 할 수 있는 일도 있어요. 사이트마다 다른 비밀번호를 사용하고, 가능하면 다중 인증을 켜 두세요. 출처가 불분명한 링크나 첨부파일은 열지 말고, AI 서비스에 주민등록번호·계좌번호·비밀번호 같은 민감한 정보를 입력하지 않는 것이 좋아요.

4. AI로 만든 가짜뉴스와 조작 콘텐츠

AI는 실제처럼 보이는 사진과 영상, 자연스러운 음성을 빠르게 만들 수 있어요. 그래서 사실이 아닌 내용이 진짜 뉴스나 실제 발언처럼 퍼질 위험이 있어요. 특히 재난, 선거, 유명인의 발언, 금융 관련 소식처럼 사람들의 판단에 영향을 주는 정보는 더 신중하게 확인해야 해요.

2026년 5월 공개된 정부 조사에서도 생성형 AI 이용 경험이 늘어나는 가운데 허위정보 생성과 범죄 악용에 대한 우려가 커진 것으로 나타났어요.

놀랍거나 화가 나는 게시물을 봤을 때는 바로 공유하지 말고, 공식 발표나 신뢰할 만한 언론 보도가 있는지 확인해 보세요. 이미지 한 장이나 짧은 영상만으로 사실이라고 판단하지 않는 습관이 필요해요.

5. AI를 활용한 해킹과 자동화된 사이버 공격

AI는 공격자가 보안 취약점을 찾거나 그럴듯한 사기 메시지를 만드는 데 악용될 가능성이 있어요. 공격이 더 빠르고 정교해질 수 있기 때문에 기업과 기관의 보안 관리도 중요해졌어요.

과학기술정보통신부가 발표한 2026년 상반기 사이버위협 동향 자료에서는 침해사고 신고가 전년 같은 기간보다 증가했고, 계정 탈취와 개인정보 유출 등 다양한 공격 유형이 확인됐어요. 금융회사 해킹 사례 역시 AI 사용 여부를 포함해 조사 중인 부분이 있어, 모든 공격을 AI 탓으로 돌리는 것은 정확하지 않아요.

개인과 사업자가 함께 실천할 수 있는 기본 수칙은 운영체제와 앱을 최신 상태로 유지하고, 다중 인증을 사용하며, 사용하지 않는 계정은 정리하는 것이에요. 사업자는 중요한 자료를 정기적으로 백업하고 보안 점검을 꾸준히 해야 해요.

마무리: AI를 무조건 두려워하기보다 제대로 확인하기

최근 국내에서 주목할 AI 관련 문제는 딥페이크 범죄, 음성 복제를 이용한 사기, 개인정보 유출, 허위정보 확산, 사이버 공격 위험으로 정리할 수 있어요. 이 다섯 가지가 모두 AI 때문에 발생했다고 단정할 수는 없지만, AI 기술이 범죄에 악용될 가능성과 기존 보안 문제를 더 복잡하게 만들 수 있다는 점은 주의할 필요가 있어요.

저는 AI를 무조건 피하는 것보다, 결과를 그대로 믿지 않고 한 번 더 확인하는 습관이 중요하다고 생각해요. 돈을 보내기 전에는 다른 경로로 확인하고, 낯선 정보를 공유하기 전에는 출처를 확인하고, 개인정보는 꼭 필요한 경우가 아니라면 입력하지 않는 것부터 시작해 보세요.

※ 이 글은 2025년 10월부터 2026년 10월까지 공개된 정부 발표와 보도를 참고해 작성했으며, 수사나 조사 중인 사건의 AI 관여 여부는 향후 결과에 따라 달라질 수 있어요.

참고 자료

• 경찰청, 「허위영상물(딥페이크) 범죄, 경찰 인공지능(AI) 3중 대응으로 끝까지 쫓는다」, 2026년 8월 14일
• 경찰청, 「경찰, AI 조작물 정밀 탐지 시스템 구축…AI 전문분석관 전국 배치」, 2026년 10월 16일
• 개인정보보호위원회, 「2025년 개인정보 유출 신고 및 조사·처분 분석결과 발표」, 2026년 6월 2일
• 대한민국 정책브리핑, 「보이스피싱 근절 종합대책 1년」, 2026년 9월
• 과학기술정보통신부, 「2026년 상반기 사이버위협 동향 발표」, 2026년 7월 30일