티스토리 뷰
딥페이크
뜻은 모를 수 있어도, 어떤 것인지는 실제 영상을 보면 알 수 있습니다.
왜냐하면 영화나 각종 매체에서 예전부터 많이 나왔기 때문이죠.
말 그대로, AI 기술을 활용해서 영상에 나오는 사람 얼굴이나 목소리를 변조하는 기술입니다.
첩보영화나 SF 영화에서 자주 다루던 기술이기도 합니다.
지금, 대 AI 성장시대를 맞이해서,
벌써 딥페이크 피해 사건이 나오고 있습니다.
'나는 상관 없겠지?'
이런 안일한 마음으로 외면하고 있다가
큰 피해를 입을 수도 있습니다.
혹시나 나도 모르는 사이에 내 얼굴과 목소리의 영상이
인터넷상에 떠돈다?
그 피해로부터 받을 여파는 상상을 초월하게 됩니다.
학교 안 '딥페이크' 성범죄 "확인된 피해자만 517명"
"딥페이크(불법 합성물) 텔레그램 성범죄 이후 딸을 키우는 양육자는 피해를, 아들을 키우는 양육자는 가해를 걱정한다. 피해자가 발생한 모 학교에서는 여학생만 따로 강당에 모아 '각별히 주
www.ohmynews.com
이미 떠들썩한 텔레그램 음란영상 딥페이크 영상으로 인해
사회적으로 큰 문제가 되고 있습니다.
특히 어린아이들이 얼마나 상처를 입을지, 상상조차 가지 않는데요.
딥페이크란 무엇인지, 어떤 원리로 제작되는지를 알아보고
피해를 입었을 경우 어떻게 대응해야 하는지 알아보겠습니다.
목차
1. 딥페이크(Deepfake)란 무엇인가?
2. 딥페이크의 원리와 제작 과정
3. 딥페이크의 활용과 문제점, 동영상 협박 처벌 수위
4. 딥페이크 피해 대응 방법
1. 딥페이크(Deepfake)란 무엇인가?
딥페이크(Deepfake)는 인공지능(AI) 기술을 활용해 기존의 영상이나 이미지에 있는 사람의 얼굴, 목소리, 동작 등을 조작하여 새로운 콘텐츠를 만들어내는 기술을 말합니다.
이 기술의 이름은 '딥러닝(Deep Learning)'과 '페이크(Fake)'의 합성어로, 인공지능을 이용해 매우 정교하게 가짜 콘텐츠를 만들어낼 수 있다는 점에서 붙여졌습니다.
딥페이크에 대해 더 알고 싶다면 아래를 참조하세요 🔽🔽
2. 딥페이크의 원리와 제작 과정
딥페이크는 주로 인공지능의 딥러닝 알고리즘, 특히 생성적 적대 신경망(GAN, Generative Adversarial Network)을 이용해 제작됩니다.
GAN은 두 개의 신경망(생성자와 판별자)이 서로 경쟁하며 학습하는 구조로, 생성자는 가짜 데이터를 만들고 판별자는 이 데이터를 진짜 데이터와 비교하여 진위를 구분합니다.
생성자는 판별자를 속이기 위해 점점 더 정교한 데이터를 만들어내며, 이 과정에서 매우 현실적인 가짜 이미지나 영상을 생성할 수 있게 됩니다.
딥페이크 제작 과정은 다음과 같습니다.
데이터 수집: 딥페이크를 만들기 위해서는 특정 인물의 다양한 각도와 표정이 담긴 사진이나 동영상이 필요합니다.
모델 학습: GAN과 같은 딥러닝 알고리즘을 사용해 수집한 데이터를 학습시킵니다. 이 과정에서 AI는 인물의 얼굴 구조, 표정, 음성 등을 분석하게 됩니다.
콘텐츠 생성: 학습이 완료되면 AI는 새로운 영상이나 이미지에서 원본 인물의 얼굴을 원하는 대로 변경하거나, 아예 다른 인물의 얼굴로 바꿀 수 있습니다. 이때 음성 합성 기술을 사용해 목소리도 조작할 수 있습니다.
후처리 작업: 생성된 콘텐츠가 자연스럽게 보이도록 후처리 작업을 거칩니다. 이 단계에서는 영상의 화질, 움직임, 음성 싱크 등을 조정해 더욱 정교한 가짜 콘텐츠를 만들어냅니다.
3. 딥페이크의 활용과 문제점, 동영상 협박 처벌 수위
딥페이크 기술은 여러 가지 긍정적인 활용 사례가 있습니다.
예를 들어, 영화나 게임 산업에서 배우의 모습이나 목소리를 조작해 특수 효과를 더하는 데 사용되기도 하고, 교육용 콘텐츠에서 역사적인 인물의 재현에 활용될 수 있습니다.
그러나 딥페이크는 주로 부정적인 목적으로 악용되며 사회적 문제를 일으키고 있습니다.
딥페이크를 이용한 대표적인 범죄 행위는 다음과 같습니다.
허위 정보 유포: 유명인이나 정치인의 영상을 조작해 허위 정보를 퍼뜨리는 데 사용됩니다. 이는 여론을 왜곡하거나 정치적인 혼란을 초래할 수 있습니다.
사생활 침해: 개인의 얼굴을 조작해 음란물이나 명예를 훼손하는 콘텐츠를 만들어 사생활을 침해하는 사례가 많습니다.
금융 범죄: 딥페이크 기술로 사람의 음성을 조작해 금융 거래를 사칭하거나, 사기 행위에 이용하는 경우도 발생하고 있습니다.
딥페이크 동영상 협박, 처벌 수위
딥페이크 영상 제작, 몰카촬영, 성관계 영상 촬영의 경우
성폭력 처벌법 제14조가 적용
성폭력처벌법 제14조에 따르면 유포를 목적으로 사람의 얼굴, 신체 등을 촬영한 경우, 그리고 얼굴 신체 등을 합성 및 편집한 경우에도( 딥페이크 ) 그 결과 성적 수치심이나 모욕감을 일으켰다면 징역형 또는 벌금형에 처해질 수 있습니다.
딥페이크 편집 영상의 경우에는 5년 이하의 징역 또는 5천만 원 이하의 벌금형에 처할 수 있습니다.
직접 영상을 촬영했다면 7년 이하의 징역 또는 5천만 원 이하의 벌금형에 처해질 수 있습니다.
4. 딥페이크 피해 대응 방법
딥페이크 음란물 영상 피해를 당했을 때, 대응할 수 있는 방법은 다음과 같습니다. 이 절차는 법적 조치, 피해 복구, 정신적 지원 등 다양한 측면에서 이루어져야 합니다.
1. 즉각적인 대응: 증거 수집
- 증거 확보: 피해를 입었다고 판단되는 영상, 이미지, 게시물의 URL, 캡처 화면, 다운로드한 파일 등을 모두 수집해 증거로 확보합니다. 이때, 상대방이 영상을 삭제하더라도 증거를 남겨두는 것이 중요합니다.
- 관련 정보 기록: 누가, 언제, 어디에서 해당 영상을 제작하거나 유포했는지에 대한 모든 정보를 기록합니다. 특히, 영상이 게시된 플랫폼, 최초 발견 시각, 유포된 경로 등을 구체적으로 정리해 둡니다.
2. 영상 삭제 요청 및 플랫폼 신고
- 플랫폼 신고: 딥페이크 영상이 업로드된 플랫폼(유튜브, 페이스북, 인스타그램 등)이나 웹사이트에 즉각적으로 해당 콘텐츠의 삭제를 요청합니다. 대부분의 플랫폼은 딥페이크와 관련된 명예훼손, 음란물 등의 콘텐츠를 삭제하는 정책을 가지고 있으므로, 이를 적극 활용합니다.
- 정보통신망법에 따른 삭제 요청: 정보통신망법에 따라 피해자는 해당 콘텐츠를 게시한 자나 게시판 관리자에게 직접 삭제를 요청할 수 있습니다. 만약 해당 요청이 받아들여지지 않을 경우, 한국인터넷진흥원(KISA)이나 방송통신심의위원회(방심위)에 신고하여 삭제를 요청할 수 있습니다.
3. 법적 조치
- 경찰 신고: 딥페이크 음란물 제작이나 유포는 대한민국에서 불법입니다. 즉시 경찰서나 사이버수사대에 피해 사실을 신고합니다. 경찰 신고 시, 앞서 수집한 증거를 함께 제출하여 사건 조사에 도움을 줍니다.
- 형사 고소: 딥페이크 영상 제작자나 유포자를 대상으로 형사 고소를 진행할 수 있습니다. 이는 명예훼손, 초상권 침해, 성폭력 범죄 등의 법률을 근거로 할 수 있으며, 가해자는 처벌을 받을 수 있습니다.
- 법률 상담: 법률 전문가와 상담하여 추가적인 법적 대응 방안을 모색할 수 있습니다. 특히, 민사 소송을 통해 손해배상을 청구할 수도 있습니다.
4. 정신적 지원 및 보호
- 정신적 상담 및 치료: 딥페이크 피해는 심각한 정신적 고통을 초래할 수 있습니다. 전문 심리상담 센터나 병원에서 상담 및 치료를 받는 것이 중요합니다. 특히, 국가와 지자체에서 제공하는 무료 상담 서비스를 활용할 수 있습니다.
- 피해자 보호 프로그램: 필요하다면, 경찰이나 관련 기관에서 제공하는 피해자 보호 프로그램을 신청하여 물리적, 심리적 보호를 받을 수 있습니다.
5. 추가적인 대응 및 예방
- 언론과의 협력: 원할 경우, 언론과 협력하여 사건을 공개적으로 알리고 사회적 지지를 얻을 수 있습니다. 그러나 이 과정에서 신중하게 고려해야 할 점은 추가적인 2차 피해 발생 가능성입니다.
- 사생활 보호: 피해가 확산되지 않도록 SNS 계정을 비공개로 전환하거나, 개인정보를 보호하는 조치를 취합니다. 온라인 활동을 일시적으로 중단하는 것도 고려할 수 있습니다.
- 법 개정 및 정책 참여: 피해자 모임이나 관련 단체에 참여하여 딥페이크 규제 강화와 법 개정을 촉구하는 활동에 참여할 수 있습니다.
각종 신고 센터( 경찰청, 네이버, 방통위)
사이버범죄 신고시스템 (ECRM)
ecrm.police.go.kr
딥페이크 기술을 이용한 이미지, 영상 등 게시물 신고 바로가기 : 네이버 신고센터
딥페이크, 생성형 AI 등의 기술을 이용하여 글, 이미지, 동영상, 음성 등을 새로이 만들거나 기존 콘텐츠를 변형하여 게시, 유통하는 경우 법령을 위반하거나 타인의 소중한 인격과 권리를 침해
help.naver.com
마치며
딥페이크 범죄로 인해 사회적 불안이 고조되고 있습니다.
분명, AI 기술로 옛 위인들의 얼굴을 복원하거나, 잊고 싶지 않은 가족을 영상으로 볼 수 있는 등
분명 좋은 일에 사용할 수 있는 기술임에도 불구하고 범죄로 사용되며 성폭력과 협박, 금품을 갈취하는 등..
기술의 발전에 맞지 않는 의식 수준에 실망을 감추지 못합니다.
이젠 가족의 얼굴도 목소리도 믿지 못하는 세상이 올 지도 모른다고 하니
암담합니다.
이번 텔레그램 사건이 얼른 해결되어 범죄자들을 처벌하고 피해가 확산되지 않았으면 하는 바람입니다.
