한최근 사회적 문제로 떠오르고 있는 선거 관련 악의적 허위 정보나 딥페이크 생성물로 인한 피해 예방에도 만전을 기한다. 이를 위해 네이트가 제공하는 ‘AI챗’ 서비스를 이용한 이미지 생성 시 주요 정치인의 성명에 관한 ‘검색어 제한 조치’를 통해 선거 관련 딥페이크 제작을 사전 방지할 예정이다. 이와 함께 선거 관련 허위 정보 신고 채널을 운영하고 서비스 내...
이에 현재 딥페이크 영상 등 허위정보나 가짜뉴스 콘텐츠가 문제가 될 경우 민간 독립기구인 방송통신심의위원회(방심위)가 심의를 통해 유튜브 등 플랫폼 기업에 시정요구를 하고 있다. 그러나 일각에서는 정권이 바뀔 때마다 방심위 심의가 집권당의 방송장악 이슈로 비화할 수 있는 한계를 지적하는 목소리가 나온다.
또한, 정보통신망법상 명예훼손 혐의로 기소하는...
카카오가 22대 국회의원 선거를 맞아 선거 관련 딥페이크 허위 조작 정보를 담은 콘텐츠의 제작과 유통을 근절하기 위해 기술적 조치를 마련했다고 13일 밝혔다.
카카오는 책임감 있는 AI 활용을 위해 카카오브레인의 이미지 생성형 모델인 ‘칼로(Karlo)’에 비가시성 워터마크를 도입했다. 이미지 생성 애플리케이션인 ‘비 디스커버에는 가시성 워터마크를 이미 도입한...
검찰 역시 이번 총선의 핵심 점검 의제 중 하나로 AI 기술을 활용한 딥페이크를 지목했다. 이원석 검찰총장은 지난달 5일 대검에서 ‘전국 선거전담 부장검사 회의’를 열고 “생성형 AI, 딥페이크 기술 등과 결합한 가짜뉴스가 사이버 공간을 통해 무차별적으로 확산되고 있다”며 “신속하게 사실관계를 파악해 엄정하게 책임을 물어야 한다”고 강조했다.
검찰 출신...
한국인터넷기업협회 회원사인 네이버, 카카오, SK커뮤니케이션즈(가나다 순)는 올해 치러지는 선거 과정에서의 공정성과 신뢰성을 위한 ‘악의적 선거 딥페이크 사용 방지를 위한 공동선언’을 8일 채택했다.
이번 공동선언은 주요 IT 기업들이 악의적 선거 딥페이크에 대응하기 위해 자발적으로 구성한 자율협의체 활동의 일환으로, 제 22대 국회의원 선거 기간...
네이버가 4월 제22대 국회의원 선거를 앞두고 생성형 인공지능(AI)을 활용한 딥페이크, 허위정보 확산 방지에 나섰다. 자사 생성형 AI 서비스에 선거 주의 안내 문구를 띄우고, 딥페이크 관련 검색 결과에서는 경고 문구를 노출한다.
네이버는 28일 검색 블로그를 통해 “오늘부터 딥페이크 관련 검색어를 입력할 경우 딥페이크 기술 활용에 대한 주의를 당부하는 안내...
협약은 선거에 영향을 미치기 위해 악의적으로 제작·편집한 딥페이크 콘텐츠(영상·음성·이미지, 이하 악의적 선거 딥페이크)를 대상으로 한다.
한국인터넷기업협회는 악의적 선거 딥페이크 관련 위험 완화를 위한 노력, 악의적 선거 딥페이크 유포 방지를 위한 기업 간 논의, 외부 전문가 그룹과의 지속적 논의 등 대응 방안을 마련해 조속한 시일 내에 발표할...
정부가 최근 인공지능(AI) 기술로 이미지나 영상을 합성해 만들어낸 가짜 이미지, 영상물인 ‘딥페이크’에 대응하기 위해 네이버, 카카오, 구글, 메타 등 국내·외 플랫폼 사업자와 논의했다.
방송통신위원회(방통위)는 23일 딥페이크 허위정보 대응 관련 자율규제 강화를 위한 민관협력 회의를 개최했다. 딥페이크는 AI 기술인 딥러닝과 페이크의 합성어로, AI 기술을...
해당 영상은 당초 딥페이크(Deepfake·AI로 만든 영상·이미지 합성 조작물)로 알려졌으나 기술적으로 확인한 결과 AI로 만든 이미지 합성이 아닌 윤 대통령이 대선후보였던 2022년 2월 진행한 TV 연설 장면을 짜깁기한 것으로 파악됐다. 전날 경찰은 해당 영상과 게시글이 허위 사실 적시에 의한 명예훼손에 해당한다고 보고 방심위에 차단을 요청했다.
해당 영상의 제목은...
네이버가 4·10 국회의원 총선거를 앞두고 딥페이크(Deepfack) 관련 키워드 검색 결과에 경고 라벨을 붙이는 방안을 추진한다.
21일 정보기술(IT) 업계에 따르면 네이버는 이르면 다음 주 중 총선 페이지를 열고 가짜뉴스 대응 방안과 딥페이크 대응책 등을 발표할 예정이다.
딥페이크는 ‘딥러닝(Deep Learning)’과 ‘가짜(Fake)’의 합성어로 기존 인물의 얼굴이나...
뮌헨 안보회의서 협력안 발표딥페이크 자동 검출·워터마크 표기 등 기술 협력하기로X·틱톡 등 플랫폼 기업들도 참여
‘챗GPT’로 생성형 인공지능(AI) 돌풍을 일으킨 오픈AI를 비롯해 마이크로소프트(MS), 구글 모회사 알파벳, 메타 등 AI 기술을 선도하는 빅테크 20개사가 딥페이크 등 AI 기술의 선거 악용 방지책을 마련하겠다고 약속했다.
17일(현지시간) CNN방송에...
높은 싱크로율로 화제를 모았던 넷플릭스 시리즈 ‘살인자ㅇ난감’ 주연 배우 손석구의 아역 얼굴이 딥페이크 기술을 사용한 CG인 것으로 밝혀졌다.
‘살인자ㅇ난감’ 이창희 감독은 14일 서울 종로구 소격동 한 카페에서 진행된 인터뷰에서 ‘손석구의 아역이 싱크로율이 높다는 얘기가 많다’는 질문에 “연기는 아역 (강지석) 배우가 연기를 하고, 얼굴은 손석구...
최근 미국 대선을 앞두고 조 바이든 대통령의 목소리를 AI로 조작한 가짜 전화 유세가 확산되고 팝스타 테일러 스위프트의 얼굴과 음란물을 합성한 AI 조작 이미지가 SNS를 떠돌며 ‘딥페이크(AI를 활용한 이미지 및 음성 합성 기술) 규제’가 미국 내 주요 의제로 떠올랐다.
틱톡 역시 6일 개최된 ‘안전한 인터넷의 날’ 미디어 워크숍을 통해 “의도한 바와 상관없이...
네이버는 뉴스 댓글 외 선거 기간 다른 서비스 영역에서의 생성형 AI 기반 가짜 정보 생성과 유통, 딥페이크 영상에 대한 대응도 조만간 마련한다.
선거를 앞두고 뉴스 댓글 집중 모니터링 기간에 보안팀 내 전담 담당자를 확대하는 등 24시간 모니터링을 강화한다. 각 부서 핫라인을 구축해 이슈 발생 시 빠른 대응에 나선다.
네이버 측은 “문장 맥락을 파악해 혐오...
바이든 가짜목소리 전환에 '혼란'자율 외치던 美, 규제입법 목소리EU는 징벌적 과세 등 강력 규제정부 "현행법으로도 제재 가능"추가규제 필요성엔 신중한 입장AI기본법 국회서 1년째 계류 중
팝가수 테일러 스위프트의 사진이 인공지능(AI) 기술로 합성된 딥페이크 이미지가 확산하면서 전 세계적으로 AI에 대한 강력한 규제가 필요하다는 목소리가 커지고...
중앙선거관리위원회가 어제 인공지능(AI) 기반 ‘딥페이크’를 활용한 선거운동을 전면 금지했다. 실제와 구분하기 어려운 가상의 음향·이미지·영상은 4월 총선까지 제작·편집·유포·상영할 수 없다. 민주주의 최대 위협 요소를 사전에 차단하겠다는 것이다. 당내 경선이나 투표 참여 권유 등에선 허용된다.
딥페이크는 대중을 감쪽같이 속일 수 있다. 사실과 거짓을...
노골적 성적 자세 합성 이미지 SNS에서 확산백악관 대변인 “의회 전략적 입법 필요”나델라 MS CEO “놀랍고 끔찍하다”
팝스타 테일러 스위프트의 얼굴 사진이 합성된 음란한 딥페이크 이미지가 온라인상에서 확산해 전 세계 팬들이 공분했다. 이 이미지는 인공지능(AI) 도구로 생성된 것으로 추정된다.
최근 딥페이크 피해 사례가 잇따르는 가운데 미국 최고...
CNBC는 “개인정보보호 및 저작권 침해 등에 있어 AI 기능이 무엇을 의미해야 하는지 고려해야 한다”고 전했고, 우드 수석분석가는 “AI 기반 이미지 및 비디오 조작은 특히 딥페이크 콘텐츠 등 몇 가지 윤리적 질문을 남긴다”고 짚었죠. 그는 “삼성의 AI 기반 기능이 성공하기 위해서는 이점에 대한 명확한 의사소통, 사용사례의 지속적인 확대 등이 필요하다”...
컨트롤타워를 세워 덩어리 규제를 해결해야 한다는 전문가 조언을 경청할 일이다. 당장 2030년 831억 달러(약 109조3000억 원) 규모의 시장부터 남의 떡이 되고 만다.
보안·윤리 문제 대처도 시급하다. AI 유토피아의 이면에는 딥페이크, 피싱 등 위험요소가 도사리고 있다. 지난해 영국 ‘블레츨리 선언’의 후속 대응을 한국이 주도할 수 있도록 길을 뚫어야 한다.
선전•선동(Propaganda, 프로파간다)를 목적으로 딥페이크 기술을 활용해 가짜 뉴스를 생산하거나, 과거에 유출된 내용을 새로운 해킹 결과물이라고 허위로 주장할 수 있다. 특히, 국가 배후 공격 그룹의 경우 적대 세력의 정보를 빼내기 위한 활동뿐 아니라 전력 등 인프라 장애를 노린 공격도 시도할 수 있다. 이를 위해 공격자는 타깃을 직접 공격하는 방법 외에...
![[유튜브 중독 보고서④] 팩트 없는 팬덤 갈라치기...“정보통신 콘텐츠 분류 때문”](https://img.etoday.co.kr/crop/200/125/1998920.jpg)
![“반년만 버티자”…짧은 선거 공소시효, 부정선거·부실수사 우려 [6개월의 벽②]](https://img.etoday.co.kr/crop/200/125/1997487.jpg)
![“시리, 듣고 있니?”…외신도 사로잡은 ‘갤럭시 S24’, 게임 체인저 되나 [이슈크래커]](https://img.etoday.co.kr/crop/200/125/1977078.jpg)
![이제 2차전지에서 '이것' 매우 중요해졌습니다! K배터리 경쟁력은 글로벌 탑티어급 ㅣ 이영훈 하이투자증권 이사 [찐코노미]](https://i.ytimg.com/vi/Me0c6FU9V_0/mqdefault.jpg)
![[오늘의 주요공시] 셀트리온·한화오션](https://img.etoday.co.kr/crop/85/60/2045176.jpg)
![[아시아증시] 일제히 강보합…엇갈린 경제지표에 혼조](https://img.etoday.co.kr/crop/85/60/2045171.jpg)
![박민영이 터뜨리고, 변우석이 끝냈다…올해 상반기 뒤흔든 드라마는? [이슈크래커]](https://img.etoday.co.kr/crop/300/170/2045108.jpg)
!['슈퍼 엔저' 장기화에 엔화예금 1.4조 급증 [포토]](https://img.etoday.co.kr/crop/300/190/2045169.jpg)