AI 딥페이크 사진도 범죄일까? 이미지 합성·생성 범죄 유형과 처벌, 피해 예방법
요즘 인터넷에서 사진을 보다 보면 ‘이게 진짜 사진일까?’라는 생각이 들 때가 있습니다. AI 이미지 생성 기술이 발전하면서 실제로 촬영하지 않은 장면도 사진처럼 자연스럽게 만들 수 있게 됐기 때문입니다.
문제는 이 기술이 다른 사람의 얼굴과 결합했을 때입니다. SNS에 공개된 사진을 가져와 성적인 이미지에 합성하거나, 실제로 하지 않은 행동을 한 것처럼 만들고, 가족의 사고 사진을 만들어 돈을 요구하는 범죄에도 AI가 악용될 수 있습니다.
성적인 딥페이크는 유포하지 않고 제작만 해도 처벌될 수 있고, 다른 사람이 만든 것을 저장하거나 시청하는 행위까지 처벌 대상이 될 수 있습니다.
그렇다면 일반적인 AI 이미지 생성과 범죄가 되는 딥페이크의 경계는 어디일까요? 2026년 9월 현재 법령을 기준으로 처벌과 피해 대응방법까지 정리해보겠습니다.
AI 이미지 생성과 딥페이크, 무엇이 다를까?
AI 이미지 생성은 인공지능을 이용해 새로운 이미지를 만드는 기술 전체를 의미합니다. 존재하지 않는 사람이나 풍경을 만드는 것도 여기에 포함됩니다.
딥페이크는 조금 다릅니다. AI 등을 이용해 특정 사람의 얼굴·신체·음성 등을 실제처럼 편집하거나 합성하는 기술을 말합니다.
따라서 AI로 이미지를 만들었다는 이유만으로 범죄가 되는 것은 아닙니다.
문제는 실제 사람의 얼굴이나 신체를 이용해 성적 이미지를 만들거나, 허위사실을 유포하거나, 협박·사기 등에 이용하는 경우입니다.
내 사진 한 장으로 어떤 범죄가 가능할까?
SNS에 올린 평범한 얼굴 사진도 악용될 가능성이 있습니다. 단순히 ‘내 사진이 도용된다’ 정도에서 끝나지 않는다는 점을 알아둘 필요가 있습니다.
| 악용 유형 | 실제 발생할 수 있는 일 |
|---|---|
| 성적 딥페이크 | 얼굴을 성적인 사진·영상에 합성 |
| 허위사진 | 범죄·불륜·사고 등 실제 없었던 상황 제작 |
| 가족 사칭 | 자녀·부모 등의 사진을 이용해 돈 요구 |
| 사고·납치 사칭 | 다치거나 붙잡힌 것처럼 만들어 협박 |
| 가짜 프로필 | 다른 사람의 얼굴로 SNS 계정 생성 |
| 투자·연애사기 | 가짜 신원과 사진으로 피해자에게 접근 |
| 명예훼손 | 합성사진과 허위사실을 함께 유포 |
이 가운데 특히 법적으로 강하게 규제되는 것이 성적 딥페이크입니다.
성적 딥페이크는 만들기만 해도 처벌될까?
네. 일정한 요건에 해당한다면 유포하지 않았더라도 제작 단계에서 처벌될 수 있습니다.
「성폭력범죄의 처벌 등에 관한 특례법」 제14조의2에서는 사람의 얼굴·신체 또는 음성을 대상으로 성적 욕망 또는 수치심을 유발할 수 있는 형태로 편집·합성·가공하는 행위를 규정하고 있습니다.
| 행위 | 법정형 |
|---|---|
| 성적 딥페이크 제작 | 7년 이하 징역 또는 5천만원 이하 벌금 |
| 반포·판매·임대·제공·전시·상영 | 7년 이하 징역 또는 5천만원 이하 벌금 |
| 영리 목적 정보통신망 유포 | 3년 이상의 유기징역 |
| 소지·구입·저장·시청 | 3년 이하 징역 또는 3천만원 이하 벌금 |
| 이를 이용한 협박 | 1년 이상의 유기징역 |
| 협박을 이용한 강요 | 3년 이상의 유기징역 |
여기서 눈여겨볼 것은 ‘제작’, ‘저장’, ‘시청’입니다.
“친구들끼리 장난으로 만들었다”, “인터넷에서 받은 것이니 내가 만든 게 아니다”, “다른 사람에게 보내지 않고 휴대전화에만 저장했다”는 이유만으로 문제가 없어지는 것은 아닙니다.
다만 모든 얼굴 합성사진이 위 규정에 해당하는 것은 아닙니다. 합성물의 내용과 제작·유포 방법 등 구체적인 사실관계에 따라 적용되는 법률이 달라질 수 있습니다.
성적 사진이 아니면 AI 합성은 처벌받지 않을까?
그렇게 단순하게 볼 수는 없습니다.
예를 들어 다른 사람의 얼굴을 이용해 실제로 저지르지 않은 범죄를 저지른 것처럼 사진을 만들고, 이를 허위사실과 함께 온라인에 퍼뜨렸다고 가정해보겠습니다. 성적 딥페이크 관련 조항과는 별개로 명예훼손 등이 문제가 될 수 있습니다.
AI 합성사진으로 상대방을 위협한다면 협박, 가짜 사고 사진으로 가족을 속여 돈을 받아낸다면 사기 등 구체적인 행위에 따라 다른 범죄가 성립할 가능성이 있습니다.
즉 ‘AI로 만들었느냐’보다 ‘그 결과물을 이용해 무엇을 했느냐’가 중요합니다.
아이들끼리 친구 사진을 합성하는 것도 문제가 될까?
대법원은 2025년 실제 아동·청소년의 얼굴 사진을 이용한 불법 성적 합성물 사건에서 합성물의 내용과 표현 방법 등에 따라 ‘아동·청소년으로 명백하게 인식될 수 있는 표현물이 등장하는 아동·청소년성착취물’에 해당할 수 있다고 판단했습니다.
따라서 학교에서 친구의 SNS 사진이나 졸업사진 등을 가져와 성적인 이미지에 합성하는 행동을 단순한 장난으로 생각해서는 안 됩니다.
부모가 아이에게 “남의 사진을 합성하면 안 돼”라고만 알려주기보다 성적인 합성물을 만들거나 공유하는 것뿐 아니라 저장·시청하는 행위도 형사문제로 이어질 수 있다는 점을 함께 알려주는 것이 좋습니다.
AI로 만든 가짜 사진을 어떻게 구별할까?
예전에는 손가락 개수, 이상한 글자, 어색한 피부 등을 보면 AI 이미지를 어느 정도 알아볼 수 있었습니다. 하지만 생성 기술이 빠르게 발전하면서 이런 특징만으로 판단하기 어려워졌습니다.
그래서 이미지 자체보다 출처를 확인하는 방법이 더 중요합니다.
유명인이나 지인의 충격적인 사진을 발견했다면 다음 순서로 확인해보는 것이 좋습니다.
- 사진을 처음 게시한 계정을 확인합니다.
- 언론 보도나 당사자의 공식 채널 등 다른 출처가 있는지 확인합니다.
- 사진만 있고 구체적인 출처가 없다면 바로 공유하지 않습니다.
- 사고·납치 등의 사진과 함께 송금을 요구한다면 상대방에게 직접 연락합니다.
- 가족이라면 평소 사용하던 전화번호로 다시 전화해 확인합니다.
특히 ‘사진이 있으니 사실일 것이다’라는 판단을 하지 않는 것이 중요합니다.
가족의 사고사진을 보내면서 돈을 요구한다면?
AI 시대에는 가족끼리 간단한 확인방법을 미리 정해두는 것도 도움이 됩니다.
예를 들어 자녀가 다쳤다는 사진과 함께 “휴대전화가 고장 났으니 다른 번호로 연락한다”, “급하게 병원비를 보내달라”는 메시지가 왔다고 가정해보겠습니다.
이때 사진의 진위를 먼저 판별하려고 애쓰기보다 기존에 알고 있던 자녀의 전화번호로 직접 연락하는 것이 빠릅니다.
연락이 되지 않는다면 다른 가족이나 학교, 직장 등 별도의 경로를 통해 상황을 확인한 뒤 송금해야 합니다.
가족끼리만 아는 질문이나 확인 문구를 정해두는 방법도 생각해볼 수 있습니다. AI가 얼굴이나 목소리를 흉내 낼 수 있더라도 가족끼리 정한 정보를 모두 알고 있는 것은 아니기 때문입니다.
SNS 사진을 모두 지워야 할까?
그럴 필요까지는 없습니다. 온라인에서 사진을 전혀 공개하지 않는다고 AI 범죄를 완전히 예방할 수도 없습니다.
대신 얼굴 사진과 함께 이름·학교·직장·자녀 이름·전화번호·거주지역·자주 방문하는 장소 등이 한꺼번에 노출되는 상황은 줄이는 것이 좋습니다.
특히 자녀 사진을 공개할 때 학교 이름이나 학원, 교복 명찰, 집 주변 위치처럼 신원을 특정할 수 있는 정보가 함께 보이지 않는지도 확인해볼 필요가 있습니다.
AI 범죄에서는 사진 자체뿐 아니라 사진 주변에 붙어 있는 개인정보가 함께 악용될 수 있기 때문입니다.
딥페이크 피해를 발견했다면 무엇부터 해야 할까?
당황해서 게시자에게 바로 연락하거나 주변 사람에게 해당 이미지를 전달하기 전에 증거부터 확보하는 것이 좋습니다.
1단계. 증거 확보
게시물 전체 화면, 게시자 계정, URL, 게시 날짜와 시간 등이 확인되도록 캡처합니다.
2단계. 재유포하지 않기
피해 사실을 알리기 위해 가족이나 지인에게 해당 사진이나 영상을 계속 전달하면 원치 않는 추가 확산이 발생할 수 있습니다.
3단계. 플랫폼 신고
게시물이 올라온 SNS나 온라인 서비스의 신고·삭제 기능을 이용합니다.
4단계. 범죄 신고
긴급한 상황이라면 경찰 112에 신고할 수 있으며 온라인 사이버범죄는 경찰청 사이버범죄 신고시스템(ECRM)을 통해 신고·상담할 수 있습니다.
5단계. 삭제지원 요청
성적 딥페이크 피해라면 디지털성범죄피해자지원센터를 통해 상담 및 피해영상물 삭제지원 등을 요청할 수 있습니다.
이것만은 기억해두자
AI 이미지 생성 기술 자체가 범죄인 것은 아닙니다. 하지만 다른 사람의 얼굴과 신체를 이용해 성적인 합성물을 제작하거나 이를 유포·저장·시청하는 행위는 형사처벌로 이어질 수 있습니다.
일반적인 AI 합성사진 역시 허위사실 유포, 사기, 협박 등에 이용된다면 별도의 범죄가 문제될 수 있습니다.
그리고 피해를 예방하는 가장 현실적인 방법은 모든 사진을 인터넷에서 없애는 것이 아니라 사진과 함께 공개되는 개인정보를 줄이고, 충격적인 사진을 보았을 때 출처부터 확인하는 습관을 갖는 것입니다.
AI가 만든 이미지가 실제 사진과 더욱 비슷해질수록 앞으로는 ‘사진을 봤다’보다 ‘어디에서 나온 사진인지 확인했다’가 더 중요해질 수 있습니다.
공식자료 및 참고자료
- 국가법령정보센터 「성폭력범죄의 처벌 등에 관한 특례법」 제14조의2, 제14조의3
- 국가법령정보센터 「아동·청소년의 성보호에 관한 법률」
- 경찰청 사이버범죄 신고시스템(ECRM)
- 디지털성범죄피해자지원센터
- 개인정보보호위원회 AI 범죄 대응 관련 자료
※ 이 글은 2026년 9월 29일 현재 공개된 법령과 정부기관 자료를 바탕으로 일반적인 정보를 정리한 것입니다. 실제 범죄 성립 여부와 적용 법률, 처벌은 구체적인 사실관계와 법원의 판단에 따라 달라질 수 있습니다.