이 밖에도 딥브레인AI는 AI 영상합성 분야에서 국내외 148건의 지적 재산권을 출원 또는 등록했으며, 국제 컴퓨터 비전 학회(ICCV) 2021과 인터스피치(Interspeech) 2021에 딥페이크 탐지와 음성 합성 관련 논문을 등재하는 등 더 나은 AI 휴먼을 제공하기 위한 연구 수행 및 기술 개발에 지속적인 노력을 기울이고 있다.
장세영 딥브레인AI 대표는 "세계 최고...
딥페이크 사용 시 워터마크 표기해야가짜뉴스 등 막으려는 조처
중국이 10일부터 전 세계 처음으로 딥페이크 규제를 시행한다고 월스트리트저널(WSJ)이 8일(현지시간) 보도했다.
앞서 국가인터넷정보판공실은 인공지능(AI)에 기반을 두는 이미지ㆍ오디오ㆍ텍스트 생성 소프트웨어 등 이른바 딥페이크 기술에 대한 규제를 10일 시작한다고 공표했다.
딥페이크는...
△기후변화, △팬데믹 영업중단, △딥페이크 등에 관한 아이디어 및 제안을 통해 금상, 은상, 동상을 수상했다.
삼성화재 관계자는 "급변하는 환경에 대응하기 위해서는 데이터 사이언스 중심의 리스크 관리는 필수"라며 "앞으로도 데이터를 기반으로 사회의 각 이슈를 해결하는 민간 부문의 사회 안전망 역할을 수행하고자 노력하겠다"고 밝혔다.
AI가 만든 콘텐츠, 갈수록 정교해져기사, 그림, 영상 등 구별 못 할 수준편의성과 함께 딥페이크 등 유해성도 문제AI 알고리즘, 가짜 리뷰의 약 20% 차지“전쟁 시 악의적인 정보 확산에 쓰일 수도”
인공지능(AI) 기술이 콘텐츠 산업에서 급성장하고 있다. AI가 쓴 기사가 온라인에 유통되고 있는가 하면 그림부터 제품 리뷰, 영상에 이르기까지 이 기술이 콘텐츠 산업에...
또한, 소셜 미디어를 기반으로 한 가짜뉴스, 딥페이크, 온라인 그루밍 등 최근 급증하고 있는 온라인 환경의 이슈와 이를 예방하기 위한 안전한 소셜 미디어 사용 방법을 설명한다.
삼정KPMG 사이버 보안 리더 김민수 전무는 “학생들이 온라인 상에서 개인정보 탈취, 온라인 상의 괴롭힘등에 쉽게 노출돼 일상생활에 직접적인 영향을 끼친다”며, “이번...
개발자에게 중요한 덕목으로는 문제를 정의하는 능력, 호기심과 함께 ‘윤리 의식’을 강조했다. “개발자가 할 수 있는 영역이 넓어지며 직·간접적으로 사회에 미치는 영향 커졌다. 잘못 악용하면 딥페이크 등 각종 사회적 문제를 야기한다. 나 혼자 잘 살겠다는 마음보다 오픈 소스나 커뮤니티를 위하는 개발자 문화에 대해 공감하고 따르길 바란다.”
이런 문제들이 어찌 보면 아직 초기 진행 상태라 우리가 크게 실감하지는 못하지만 사회와 기업, 정부 차원의 노력이 없으면 그 확산성과 심각성이 큰 것들이 있는데, 그중 하나가 딥페이크(Deep Fake)이다.
딥페이크는 쉽게 설명하자면 이미지나 영상을 인공 기술학습 알고리즘을 이용하여 이미지를 정교화시키는 것이다. 여러 이미지의 합성을 통해 아예 존재하지 않는...
이 영상은 고령이던 송해가 장시간 광고 촬영을 하기에는 무리라고 판단, 딥페이크와 인공지능(AI) 딥러닝 등 기술을 활용해 제작됐다. 생전 KBS1 프로그램 ‘전국노래자랑’을 34년간 진행한 송해가 사람들에게 전국 방방곡곡 여행을 독려하는 내용을 담고 있다.
다른 광고 영상에는 오픈카를 타고 캠핑을 간 송해의 모습도 딥페이크 기술 등을 활용해 연출됐다....
만취 짤’이라고 주장하는 사진”이라며 “포토샵을 할 거면 좀 티 안 나게 하시던가”라고 반박했다.
박 대변인은 “정작 이재명 후보 형님 욕설 녹취록은 목소리 ‘딥페이크’라고 부정하셨죠?”라며 “참 편리한 사고회로를 가지고 계시다”고 비꼬았다. 그러면서 “이런 분들께는 법의 매운맛을 보여드리는 게 가장 빠른 해결책”이라며 법적 대응을 예고했다.
어도비·MS·소니그룹, 변조 판별 기술 공동 개발 나서 딥페이크, 범죄 악용 늘어나 현재 이미지 데이터 가짜 여부 육안으로 비교 검증
전 세계적으로 사회문제로 떠오르고 있는 딥페이크(Deepfake) 동영상을 잡기 위해 글로벌 기업들이 손을 잡았다.
18일(현지시간) 일본 니혼게이자이신문(닛케이)은 미국 어도비와 마이크로소프트(MS), 일본 소니그룹 등이 동영상과 이미지...
딥페이크 기술 통해 아바타 해킹 후 사칭할 수도메타버스에 남게되는 생체·개인정보 문제도 해결해야 숙제
메타버스(3차원 가상세계) 관련 기술이 발전하고 기업들이 앞다퉈 시장 진입에 열을 올리고 있는 가운데, 메타버스로 인한 새로운 사이버 안보 위험이 기업들의 골칫거리로 떠오르게 될 것이라는 전망이 나왔다.
메타버스라는 가상세계 영역으로 기업들의...
또 범죄자들은 인공지능(AI)으로 얼굴·음성을 변조하는 ‘딥페이크’ 기술을 활용하거나 가짜 은행 홈페이지를 만드는 등 수법도 날로 정교해지고 있다.
외로움이 많은 사람이 주로 피해를 당한다고 경찰은 분석했다. 경찰학연구소가 2019년 발표한 논문에 따르면 상당수 피해자는 연인과 이별, 사별, 이혼 등 감정적으로 시련을 겪고 있을 때 로맨스 스캠에 당했다....
그는 디지털성범죄 수익에 대한 독립몰수제 도입, 광역 단위 디지털 성범죄 피해자 원스톱 지원센터 설치, 변형카메라 등록제 도입, 딥페이크 영상 표시의무제 도입 등 공약도 소개했다.
이 후보는 박 씨가 최초 n번방을 공론화하면서 느낀 분노와 무력감 등에 공감하면서 "수사기관 입장에서는 전통적으로 분류되는 중범죄에 주력하면서 새로운 중요한...
특히 AI를 이용하여 몇 번의 클릭으로 딥페이크(DeepFake, 다른 사람의 이미지를 가상공간에서 내 마음대로 조작하는 것) 또는 포토그래메트리(Photogrammetry, 여러 2차원 이미지를 섞어 붙여 3차원 이미지를 구현해 내는 것)를 하는 것이 전혀 어려운 기술을 요구하지 않고, 그 결과물이 얼마나 전문적이고 세련된 것인지에 다시 한번 크게 놀라는 기회였다. 이와 더불어...
현근택 민주당 선대위 대변인은 최근 이 후보가 욕설을 하는 딥페이크 영상을 문 대통령 강성 지지층인 ‘문파’가 제작·배포할 것이라고 음모론을 제기했다가 이들에게 집중포화를 받은 것. 논란이 되자 현 대변이 사과에 나섰지만 이들의 갈등은 쉽게 해결되지 않을 것으로 보인다,
민주당 현근택 선거대책위원회 대변인은 18일 페이스북에 “(친여 성향 유튜브 채널)...
김재원 국민의힘 최고위원이 이재명 더불어민주당 대선후보의 욕설 녹취록이 딥페이크로 조작된 것일 수도 있다는 일각의 목소리에 대해 “AI가 이 후보의 욕설을 흉내 내기 어려울 것”이라고 평했다.
김 최고위원은 19일 TBS 라디오 ‘김어준의 뉴스공장’에 출연했다. 김 최고위원은 욕설 녹취록의 존재를 녹취록 공개 전날인 17일부터 알게 됐다고 밝혔다. 그는...
다른 한편으로는 음성·이미지 합성 기술의 경우 보이스피싱, 가짜 뉴스, 딥페이크 영상 등 부적절한 의도로 오남용될 가능성이 있다.
테크 기업들은 인간이 기술에 대한 통제권을 유지할 수 있도록 자발적으로 AI 원칙을 만들고 있으며, 정부 차원에서도 AI의 부작용과 오남용을 줄이기 위한 정책을 발표하고 있다. 메타(옛 페이스북)의 경우, 지난 10월...
이재명 더불어민주당 대선후보가 5일 "인공지능을 이용한 딥페이크 악용 음란물, 가짜뉴스 등을 강력 처벌하겠다"고 공약했다.
이 후보는 이날 자신의 페이스북을 통해 20번째 '소확행 공약'에 대해 "딥페이크 인권침해로부터 국민을 지키겠다"며 이같이 밝혔다.
그는 "인공지능을 이용해 가상으로 영상, 목소리, 사진을 만들어내는...
실제 인물의 얼굴과 목소리를 모방하는 딥페이크 기술이 피싱 사기에 사용되면서 개인 스스로 피싱 사기 여부를 판단할 수 있는 영역을 벗어나고 있어 기업 차원에서 피싱사기 탐지 기술을 개발할 필요가 있다는 것이다. 아울러 메신저앱을 통한 피싱 사기가 증가함에 따라 ‘전기통신사업법’에서 휴대전화번호 변작 금지뿐만 아니라 메신저앱 사칭 계정도 금지하는...
지난달 진행한 1기 프로그램에는 20여 팀이 딥페이크 방지 AI솔루션, 태양광시스템 솔루션, AI번호판 검출 솔루션 등 다양한 아이디어를 제출했다.
새로운 솔루션 외에도 고객들이 더 간편하게 제품을 설치, 사용할 수 있도록 구성품을 표준화, 단순화하는 방안 등 사업 다방면으로 활용할 수 있는 아이디어도 제시됐다.
경영진의 최종 심사를 거쳐 아이디어가...