검찰은 또 약 4년간 아동·청소년 성착취물을 유통하는 음란물 사이트 2개를 운영한 30대 남성 B 씨도 아동·청소년의 성보호에 관한 법률 위반 혐의 등으로 이날 구속기소했다.
B 씨는 2020년 12월부터 올해 8월까지 음란물 유포 사이트의 서버 유지보수, 도메인 관리 등을 담당하면서 2만여 개의 불법 성 영상물을 유포한 것으로 조사됐다.
이어 그는 “아동 및 청소년과 관련된 딥페이크 음란물 범죄에 대해선 매우 강력하게 처벌해야 한다”며 “최근 논의되는 5~7년형보다 훨씬 더 (형벌을) 높여야 한다”고 했다.
그러면서도 최 교수는 인공지능의 자율규제를 강화해야 한다고 주장했다. 그는 “규제가 AI의 발전을 막는 형태로 가선 안 된다. AI 혁신을 지속할 수 있는 규제 체계가 만들어져야 한다”고 했다....
딥페이크로 불법 음란물을 생성하는 게 문제”라며 “그래서 애매하다. 딥페이크와 딥페이크 음란물을 명확히 구분할 수 없다”고 했다. 정 조사관은 “이건 ‘정의(定義)’의 문제”라며 “딥페이크가 무엇인지, 인공지능이 무엇인지 정의가 돼 있지 않은 상황에서 딥페이크 규제 법안이 발의되고 있다”고 덧붙였다.
이런 극단적 사건 외에도 청소년들이 SNS로 음란물 등 각종 부적절한 내용의 콘텐츠를 쉽게 접할 수 있어 전 세계적으로 청소년의 SNS 사용을 제한해야 한다는 목소리가 커지는 상황이다.
다만 국가 차원에서 법으로 SNS 사용연령을 제한하는 경우는 없다. ABC 방송에 따르면 관련법이 호주에서 제정되면 이는 세계 최초다. 나아가 유사한 대안이 다른 국가로 확산할...
호주 정부는 이미 음란물을 포함한 온라인상의 부적절한 콘텐츠에 대한 아동의 접근을 막기 위해 연령 확인 기술을 시험하고 있다.
소셜미디어 접근 연령 제한법에 대한 여론은 우호적이다. 에센셜미디어가 6월에 실시한 설문조사에 따르면 68%가 소셜 미디어의 연령 제한을 지지했으며, 반대는 15%에 그쳤다.
앨버니지 호주 총리가 이끄는 중도 좌파 노동당 정부는...
그는 텔레그램 내 아동 음란물 유포, 마약 밀매 등을 버려둬 사실상 공모하고 수사당국의 정보 제공 요구에 불응한 혐의 등으로 예비 기소됐지만, 보석금을 내는 조건으로 석방됐다.
그는 “어떠한 혁신가도 이러한 도구의 잠재적 남용에 대해 개인적으로 책임을 질 수 있다는 것을 안다면 새로운 도구를 만들지 않을 것”이라고 말했다. 이어 “9억5000만 명의 사용자를...
인공지능(AI)을 악용해 사람의 얼굴과 음란물을 합성하는 딥페이크 영상물로 온 나라가 시끄럽습니다. 수사가 시작되자 분주하게 영상물을 삭제하고 있다는 소식도 들립니다. 범죄의 증거를 없애는 행위는 엄연히 증거인멸죄에 해당합니다. 허윤 변호사(법무법인 LKB & Partners)와 함께 증거인멸 관련 쟁점을 짚어보겠습니다.
‘딥페이크’를 악용한 음란물이...
사회관계망서비스(SNS) 속에서는 유명인뿐만 아니라 대학생, 교사, 군인에 미성년자까지 직업과 나이를 가리지 않고 일상사진에 음란물을 합성하는 딥페이크 성범죄 피해에 노출되며 딥페이크 음란물 공포가 확산하고 있다.
2일 텔레그램에서는 불법 합성물을 제작·유포하는 것으로 의심되는 단체 대화방이 다수 파악됐다. 이들 대화방에서는 SNS에 올라온 여성의...
여성의 얼굴 사진에 음란물을 합성하는 '딥페이크(허위 합성 사진·영상물)' 범죄가 사회적으로 대두되는 상황에서 정부의 'AI 역기능 억제를 위한 사이버 보안 특화 RAG 기반 sLLM 모델 개발 및 국민 체감형 실증 플랫폼 구축 개발' 연구개발 과제를 맡은 점이 부각되면서다.
30일 오후 12시 48분 현재 샌즈랩은 전 거래일 대비 9.49% 오른 1만40원에 거래 중이다.
당정은...
이는 최근 타인 사진을 도용한 딥페이크 음란물이 텔레그램을 통해 확산하며 사회적 우려가 커지자 방송통신심의위원회(방심위)가 전날 네이버와 카카오에 방심위 전용 신고 배너 설치 협조를 요청한 것에 따른 조치다. 네이버 역시 방심위의 요청이 있던 전날 즉각 방심위 전용 딥페이크 이미지, 영상 신고 채널을 개설했다. ‘국민 플랫폼’이라는 위상에 걸맞게 공적...
이후 2022년 4월과 5월에 여성 강제추행, 성폭행, 불법촬영 혐의, 음란물 전송 혐의 등으로 추가 기소됐는데요. 다만 피해자들과 합의한 덕에 실형이 아닌 집행유예를 선고받았습니다.
앞선 성범죄 아이돌들은 모두 감옥행을 피하지 못했는데요. 태일의 경우 정확한 사건 경위가 밝혀지지 않은 상황이라 속단할 수 없는 상황이죠. 다만 확실한 건 태일에 대한 대중의...
같은 회의에 참석한 추경호 원내대표도 “텔레그램 기반으로 불법 합성 음란물을 제작해 유포하는 딥페이크 성범죄 사건이 잇따라 큰 충격을 주고 있다”며 “특히 피해자와 가해자 모두 10대 미성년자 비중이 높다는 사실에 우려가 매우 크다”고 했다.
이어 “당정이 함께 신속하게 딥페이크 성범죄 근절에 앞장서야 한다”며 “신속 수사가 이뤄지고 더 이상 추가...
불특정 다수 여성 얼굴에 음란물을 합성한 '딥페이크' 성범죄물이 텔레그램 단체대화방에서 유포되며 피해가 잇따르자 피해 학교를 찾을 수 있는 사이트까지 등장했다.
27일 '팀 데이터스택'은 최근 X(엑스·옛 트위터) 등에서 퍼지고 있는 '딥페이크 피해학교 목록'을 기반으로 해당 학교를 온라인으로 확인할 수 있는 '딥페이크 맵' 사이트를 제작했다.
해당...
러시아 태생으로 프랑스 시민권자인 두로프는 아동 음란물 소지·배포, 마약 밀매, 조직범죄 등에 공모한 혐의를 받고 있다. 텔레그램 내 불법 행위를 묵인·방치한 것은 물론 프랑스 수사당국의 정보 제공 요청에도 응하지 않아 사실상 범죄를 공모했다는 게 당국의 판단이다.
프랑스는 두로프 건과 같은 다중 형사범죄에 대해 검사가 예비 기소를 통해 수사에...
법원은 어제 서울대 동문 여성의 얼굴을 합성한 음란물을 만들어 배포한 사건(서울대 딥페이크) 공범에게 징역 5년을 선고했다. 집행유예 정도에 그치던 과거보다 무거운 처벌이지만 피해에 비해 턱없이 부족하다. 허위영상물을 유포했을 경우 최대 2년 6개월 징역형에 그치는 양형기준부터 강화할 일이다.
딥페이크 성범죄가 교실까지 침투한 것은 2019년 버닝썬...
美, 주마다 제각각…연방 차원서 규제책 마련 부심영국, 딥페이크 공유 불법화 이어 제작 불법화 추진호주선 딥페이크 음란물 제작·공유 시 최대 7년형
인공지능(AI) 딥페이크 음란물 법 제정에 방아쇠를 당긴 것은 올해 초 세계적인 팝스타 테일러 스위프트의 가짜 음란 딥페이크 이미지가 온라인상에서 확산하면서부터다. 전 세계 팬들이 공분했고 관련 규제의...
전체 딥페이크 영상 중 음란물이 차지하는 비중은 98%나 된다. 또 딥페이크 음란 영상물의 표적이 되는 사람의 99%는 여성인 것으로 나타났다.
이제는 누구든지 딥페이크 앱을 통해 단 한 장의 선명한 얼굴 이미지만을 이용해 60초짜리 딥페이크 음란 영상물을 25분 이내에 무료로 만들어 낼 수 있다. 딥페이크 음란물 사진의 경우에는 더 만들기 쉽다. 딥페이크 AI 앱은 몇...
불특정 다수 얼굴에 음란물을 합성하는 `딥페이크(허위합성물)' 성범죄물이 텔레그램을 통해 전국 학교로 확산하고 있는 가운데 교육당국이 칼을 빼들었다. 교육부는 피해 우려가 확산됨에 따라 학생·교원들의 불안감 해소와 보호를 위해 피해 현황조사 및 긴급 전담조직(TF) 운영 등 신속한 지원에 나섰다.
28일 교육부는 17개 시도교육청으로부터 딥페이크 관련...
법원이 서울대 여학생을 대상으로 허위음란물을 만들어 제작한 이른바 ‘서울대 N번방’ 사건의 공범 20대 박 모 씨에게 징역 5년을 선고했다. 재판부는 “허위 영상물 내용은 일반인 입장에서 입에 담기 어려운 역겨운 내용”이라며 질타했다.
28일 오전 서울중앙지법 형사14단독(재판장 김유랑 부장판사) 심리로 열린 박 씨의 성폭력처벌법상...
최근 딥페이크를 이용해 얼굴과 신체 이미지 등을 합성한 음란물 유포 범죄가 사회적 문제로 떠올랐다. 수도권 여러 대학에서 여학생을 상대로 한 딥페이크 영상물이 텔레그램 단체 채팅방을 통해 퍼져나간 사실이 알려지며 논란이 일었다. 일부 커뮤니티에선 딥페이크 영상이 유포된 학교라며 중·고등학교 리스트가 거론되기도 했다.
사안의 심각성이 부각되며...