딥페이크 검색결과

검색결과 총127건

최신순 정확도순

방통위, 딥페이크 허위정보 대응 위해 국제 사회와 연대 강화

딥페이크 등 인공지능(AI) 기술을 악용해 허위조작정보를 쉽게 만들 수 있고, 이렇게 생산된 허위조작정보는 지리적 국경을 넘어 온라인 동영상 플랫폼 및 사회관계망서비스(SNS)를 통해 광범위하게 확산되고 있다. 이에 3월 민주주의 정상회의와 5월 인공지능(AI) 서울 정상회의 등에서도 허위조작정보에 효과적으로 대응하기 위해서는 국가 간 상호 협력은 물론...

2024-06-17 16:10
방통위, 2024 디지털윤리 창작콘텐츠 공모전 개최

딥페이크(가짜뉴스), 혐오표현, 불법·유해 콘텐츠, 정보편향 등이다. 2010년부터 시작되어 올해 15회를 맞는 디지털윤리 창작콘텐츠 공모전은 그동안 다양한 콘텐츠를 발굴하여 디지털윤리 인식제고를 위한 홍보 및 현장 교육에 활용되어 왔다. 공모전은 디지털윤리 ‘인식제고 콘텐츠’와 ‘학습 콘텐츠’로 나누어 진행된다. △인식제고 콘텐츠 부문은 ①그림일기...

2024-05-31 09:49
대검, '딥페이크 이미지' 분석 시스템 개발..."디지털 범죄 대응"

‘디지털 사진파일의 위‧변조 탐지 기법 연구’ 용역 발주전문가도 위‧변조 분별 어려워…“국내 사정에 맞게 연구”“추후 딥페이크 영상 분석 기법 연구‧개발 토대 마련” 검찰이 인공지능(AI) 발전으로 정교해지는 이미지 합성‧조작 기술과 그에 따른 디지털 범죄에 대응하기 위해 이미지 분석 시스템 구축에 나선다. 29일 법조계에 따르면 대검찰청...

2024-05-29 13:07
세계 6위 AI국 韓 ‘위태’...日에, 인력‧기반시설‧운영환경 뒤처져

챗GPT 출시 이후 AI 기술 혁신과 맞물려 할루시네이션(환각), 딥페이크, 가짜뉴스, 저작권 침해 등 악용 사례도 등장하자 AI 선진국들은 이미 발 빠르게 대응하고 있다. 정부도 지난해 세계 최초로 인공지능법을 마련하겠다고 외쳤지만 유럽연합(EU)이 세계 최초로 AI법을 통과시키고 미국 바이든 정부가 AI 행정명령을 내리는 동안 ‘인공지능 발전과 신뢰 기반 조성...

2024-05-28 05:00
“전 세계 아동 성착취 신고 1초에 1건...어린이 10명 중 1명 피해 경험”

범죄 사례에는 인공지능(AI)을 통한 딥페이크 기술 남용도 있었다. 특히 남아시아의 경우 성 착취ㆍ관련 게시물 업로드에 관한 차일드라이트의 전체 경고 중 3분의 1을 차지할 정도로 사례가 많았다. 인도에서 890만 건, 방글라데시에서 250만 건, 파키스탄에서 190만 건의 경고가 전달됐다. 미국과 영국 등 선진국에서도 범죄는 상당수 보고됐다. 조사에 따르면 미국...

2024-05-27 16:06
"서울대 N번방 범인은 면식범…텔레그램 이용해 피해자 협박"

'서울대 N번방' 사건을 경찰과 공조해 범인 검거에 조력한 원은지 미디어 플랫폼 얼룩소 에디터가 "범인은 텔레그램으로 딥페이크 영상을 보내 피해자를 협박했다"고 사건 정황을 설명했다. 원 에디터는 23일 SBS라디오 '김태현의 정치쇼'에서 "범행은 2021년 7월부터 시작됐다. 범인과는 2022년 7월부터 피해자에게 받은 대화방 링크를 통해...

2024-05-23 11:08
오픈AI·구글·네이버 등 '서울 AI 기업서약'…"안전한 AI 사용"

전 세계적으로 AI의 영향력 확대로 딥페이크를 활용한 가짜뉴스와 디지털 격차 등 AI 부작용에 대한 우려가 커지고 있다. 이에 많은 국가와 국제기관이 새로운 규제를 시도하고 있지만 서로 조화되지 않고 표준화되지 않은 상황이다. 이에 정부가 안전·혁신·포용이라는 AI의 방향성을 제시하며 국제사회에 AI 거버넌스 논의의 새로운 기준을 제공한 것이다. 조태열...

2024-05-22 17:40
국내외 IT기업 총출동 ‘AI 서울 정상회의’…AI 거버넌스 구축 발판

8대 핵심과제로 △AI 기술의 안전성 및 신뢰·윤리 확보 △딥페이크를 활용한 가짜뉴스 대응 △AI 개발·활용 관련 저작권 제도 정비 △디지털 재난 및 사이버 위협·범죄 대응 △디지털 접근성 제고·대체 수단 확보 △비대면 진료의 안정적 시행 △연결되지 않을 권리 보호 △ 잊힐 권리 보장 등을 추진한다. 정부는 먼저 AI 혁신과 안전·신뢰 등 균형을 위한 법...

2024-05-21 15:03
정부, AI 워터마크 연내 의무화하고 AI 저작물 이용대가 산정한다

8대 핵심과제로는 △AI 기술의 안전성 및 신뢰·윤리 확보 △딥페이크를 활용한 가짜뉴스 대응 △AI 개발·활용 관련 저작권 제도 정비 △디지털 재난 및 사이버 위협·범죄 대응 △디지털 접근성 제고·대체 수단 확보 △비대면 진료의 안정적 시행 △연결되지 않을 권리 보호 △잊힐 권리 보장을 지정했다. 정부는 AI 혁신과 안전‧신뢰(이용자 보호 등)의 균형을 위한...

2024-05-21 14:18
SNS에서 활개치는 'AI 걸프렌드'…딥페이크 악용 '제재 사각지대'

인스타ㆍX 등에서 음란물 유포…관련 게시물 쏟아져“미성년자인데 당황스러워…진짠지 가짠지 구분 못 해”AI가 생성한 가상 음란물은 딥페이크로 분류 안 돼 인공지능(AI)이 생성한 가상 음란물이 사회관계망서비스(SNS)에서 유포되고 있다. 이에 딥페이크로 분류되지 않는 AI 발 가상 음란물에 대한 규제 필요성도 제기된다. 17일 인스타그램에서 ‘aigirl...

2024-05-20 05:00
류희림 방심위원장 “생성 AI·딥페이크 악용 공동대응 방안 모색해야”

류희림 방송통신심의위원회 위원장이 생성형 인공지능(AI)와 딥페이크 기술의 악용에 대비해, 글로벌 유관 기구들과 국제적 공동대응 모색을 강조했다. 류 위원장은 17일 미국 워싱턴DC 소재 넥맥(NCMEC), 美 실종학대아동방지센터(National Center for Missing and Exploited Children)를 방문해 상호 긴밀한 업무협력 방안을 논의했다. 류 위원장은 “앞으로 생성형 AI와...

2024-05-17 14:59
AI 룰세팅 전세계 각축전…"자비스급 AI 오는데 안정장치 없는 韓"

챗GPT 출시 이후 AI 기술 혁신과 맞물려 할루시네이션(환각), 딥페이크, 가짜뉴스, 저작권 침해 등 악용 사례도 등장하자 AI 선진국들은 이미 발 빠르게 대응하고 있다. 국내에서 인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안이 국회 과학기술정보방송통신위원회 법안2소위를 통과한 채 1년 넘게 계류된 동안 유럽연합(EU)에서는 3월 세계 최초로 AI 기본법을...

2024-05-16 15:28
사이버 전문가 “AI 위협 과장…가짜 뉴스가 더 영향력 커”

8일(현지시간) CNBC방송에 따르면 마틴 리 시스코 탈로스인텔리전스그룹 기술 책임자는 이날 생성형 AI나 딥페이크가 민주주의에 미치는 위협이 우려만큼 크지 않을 수 있다고 주장했다. AI가 사람들의 정치적 견해와 투표 형태에 미치는 영향이 기존 가짜뉴스 만큼 효과적이지 않다는 이유에서다. 그는 “생성형 AI 도구는 가짜 콘텐츠 생성을 더 쉽게 만들 수 있고...

2024-05-09 16:53
일상 파고든 ‘AI의 비가역적’ 전환…“입법공백 해소 시급”

AI가 청각 장애인 목소리 보정…아이돌 그룹 '빅오션' 데뷔 인기'딥페이크 동영상' 부작용 속출…AI 기본법 1년째 국회서 계류 세상에 없던 인공지능(AI)이라는 신기술이 등장하며 AI가 나타나기 이전의 삶으로 돌아갈 수 없는 시대가 도래했다. AI 딥러닝 기술을 통해 청각장애인들이 아이돌로 데뷔를 하는가 하면, 손흥민 선수가 투자 종목을 추천해준다고 하는 거짓...

2024-04-30 05:00
금융범죄 전쟁 선포에도 딥페이크·AI로 끝없이 진화…“정책 지원 절실”

딥페이크 AI 등 최신 기술 발전에 따라 진화하는 디지털 금융범죄를 막기 위해서는 정책 지원이 절실하다는 의견이 나왔다. 25일 서병호 한국금융연구원 금융혁신연구실장은 서울 중구 명동 은행회관에서 열린 ‘제1회 금융 및 통신사기 방지와 대응을 위한 정책세미나’에서 “AI를 이용한 범죄에 대응하기 위해서는 생성형 AI 개발 관련 위수탁 시 수탁자 감독을...

2024-04-25 14:29
아동성범죄 피해자 평균 연령 13.9세…여성 피해자 91.5%로 절대다수

피해자의 얼굴과 음란물을 합성하는 '딥페이크 영상물' 제작도 크게 늘었다. 최종심 선고 결과는 징역형 38.3%, 집행유예 54.8%, 벌금형 6.3%인 것으로 나타났다. 직전 조사 대비 징역형 비율은 상승했고, 벌금형 비율은 하락했다. 한편 여가부는 SNS 등 온라인 활동 중 성인으로부터 온라인 그루밍 관련 성범죄 정황이 의심되면 바로 피해를 접수할 수 있는...

2024-04-25 11:00
경찰, ‘대통령 가짜 동영상’ 제작자 입건..."조국혁신당 당원"

해당 영상은 당초 딥페이크(Deepfake·AI로 만든 영상·이미지 합성 조작물)로 알려졌으나 기술적으로 확인한 결과 2022년 2월 윤 대통령이 대선후보였던 시절 진행한 TV 연설 장면을 짜깁기한 것으로 파악됐다. 해당 영상이 확산하자 국민의힘은 이를 윤 대통령에 대한 명예훼손으로 보고 지난 2월 경찰에 고발했다.

2024-04-08 21:51
“사람 음성 15초 들으면 그대로 모방”…오픈AI, '보이스 엔진' 공개

다만 오픈AI는 “인조 음성 기능의 오용 가능성 때문에 더 광범위한 출시에 대해서는 조심스럽게 접근하고 있다”라며 “현재로서는 이 기술을 미리 보여주기(preview)만 하되 널리 출시하지는 않기로 했다”고 밝혔다. 이 같은 기술이 딥페이크(AI로 만든 영상이나 이미지, 음성 조작물) 위험에 대한 불안감을 일으킨다는 것이다.

2024-03-30 10:54
김소영 금융위 부위원장 "금융소비자 보호 위해 당국·업권 합심해 노력하자"

김 부위원장은 "최근 어려운 민생경제 여건 등을 고려할 때 금융소비자를 보다 두텁게 보호하기 위한 금융당국과 금융업권이 합심해 노력하는 것이 어느 때보다 중요한 시기"라며 "딥페이크 등 유명인 사칭 불법금융투자사기, 불법사금융 등 민생침해 범죄에 관계기관 합동으로 강력히 대응해 나가는 한편, 앞으로도 현장에서 느낀 건의사항을 적극적으로...

2024-03-29 10:00
정부, 딥페이크와 전쟁 선포…AI 생성물 표기 의무화ㆍ피해구제 전담창구 설치

정부가 딥페이크와의 전쟁을 선포했다. 인공지능(AI)이 만든 콘텐츠에 대해 AI 생성물 표기를 의무화하고 관련 피해구제를 위한 신고 전담창구를 설치한다. 방송통신위원회는 21일 이 같은 내용을 담은 2024년도 업무계획을 발표했다. 이상인 방송통신위원회 부위원장은 “딥페이크 등 AI 기술발전·확산에 따라 새로운 유형의 허위조작정보, 불법유해정보가 디지털...

2024-03-21 19:42

1 2 3 4 5 6 7