또 딥페이크 영상물에 대한 워터마크 표시 의무화가 시급하다고 강조했다.
특위 위원장인 안철수 의원은 11일 오전 국회에서 열린 특위 첫 회의에서 “딥페이크 범죄를 막기 위한 입법을 추진하고, 피해자 지원을 위한 실효성있는 조치가 이루어지도록 할 것”이라고 말했다.
안 위원장은 “딥페이크 성범죄는 차원이 다른 심각한 범죄”라며 “인공지능(AI) 기술로 적은...
AI 생성물에 워터마크를 박는 등 기술적 방안도 논의되고 있지만 사진 한 장으로 딥페이크물을 손쉽게 만들 수 있는 상태에서 이미 만들어진 성착취물 확산을 기술적으로 완전하게 막는 건 불가능하다. 우선은 성착취물을 생성하고 유포하며 이를 방조하는 것이 명백하게 중범죄가 되는 처벌 기반을 마련하는 게 시급하겠지만 근본적으로는 성착취물이 오락이 되는...
△딥페이크 성범죄 영상물의 유통금지 △인공지능 (AI)을 통해 제작된 영상물에 전자적 표시 (디지털 워터마크) 의무화 △전자적 표시가 없는 불법 영상물에 대한 정보통신사업자(플랫폼)의 삭제 의무 부과 등을 추가하는 한편 가해자 처벌 강화를 추진하겠다는 방침이다.
이수정 경기대 범죄심리학과 교수도 3일 국회에서 열린 ‘딥페이크 디지털 성범죄 예방과 대응책...
AI 산업 육성 및 안전성을 주요 골자로 하는 AI 기본법에는 딥페이크의 부작용을 예방하기 위해 AI가 생성한 콘텐츠에 워터마크 부착을 의무화하는 내용도 담을 예정이다.
워터마크 의무화는 근본적인 해결책은 아니지만 단기적인 측면에서 딥페이크 성범죄를 예방할 수 있는 대안으로 꼽힌다. 이 때문에 미국은 이미 지난해 10월 바이든 행정부 주도로 딥페이크 영상...
추 원내대표도 “지난 6월에 당론으로 제출한 AI 기본법은 AI 산업 육성과 신뢰 기반 조성을 균형 있게 달성하기 위해 AI 사업자를 대상으로 생성형 AI 서비스에 대한 사전 고지 및 워터마크 표시라는 기본적인 규제 사항을 준수할 것을 요구하는 내용을 포함하고 있다”며 조속한 법 통과로 사업자 대상 워터마크 부착 규제로 AI 신뢰 기반을 조성하자고도 했다.
추 원내대표는 “이미 6월에 당론으로 제출한 AI 기본법 등에 생성형 AI 서비스에 사전고지 및 워터마크라는 기본규제 준수를 요구하는 사안이 포함됐다”며 “이 법안이 조속히 통과된다면 사업자 대상 워터마크 부착 규제로 AI 신뢰 기반 조성이 가능하고 악용하는 이용자에 대한 처벌 강화도 개별법 차원에서 보완 가능하다고 생각한다”고 설명하기도 했다.
윤석열...
카카오는 카카오브레인의 인공지능(AI) 이미지 생성 모델 '칼로'에 대해 지난 3월 비가시성 워터마크 기술을 도입했는데, 이 기술을 공급한 회사가 스냅태그로 알려지면서다. 스톤브릿지벤처스는 스냅태그의 시리즈 B 투자에 참여했다.
28일 오후 2시 18분 현재 스톤브릿지벤처스는 전 거래일 대비 12.21% 오른 4180원에 거래 중이다.
이날 파이낸셜뉴스 등에 따르면...
캘리포니아 하원서 62대 0 만장일치전 세계 선거 앞두고 가짜정보 막을 것
챗GPT 개발사 오픈AI가 인공지능(AI)으로 생성한 콘텐츠에 워터마크를 붙이는 법안을 지지한다고 밝혔다.
27일(현지시간) 블룸버그통신에 따르면 오픈AI는 허위조작정보, 딥페이크 등 AI가 생성한 콘텐츠에 워터마크를 붙여 식별하도록 하는 캘리포니아 법안에 찬성 의지를 내비쳤다.
앞서...
구체적인 방안 중 하나로 AI가 생성한 저작물에 워터마크 적용을 위한 가이드라인을 준비하고 있다. 과학기술정보통신부 관계자는 “100% 완벽한 워터마크는 기술적으로 존재하지 않는다”라면서 “규제 성격의 세부 지침이라기 보다는 워터마크를 제작하려는 기업을 돕기 위한 가이드라인이며, 법제화에 대한 부분은 AI 기본법에 담길 것”이라고 말했다.
AI 관련...
구글은 이미지 생성의 오남용을 막기 위해 AI가 생성한 이미지에 디지털 워터마크를 부착하고 테일러 스위프트 등 유명 인사들의 이미지는 생성하지 않는다. 미 국회에서 AI로 특정인의 얼굴·음성을 재현하는 행위를 불법으로 규정하는 내용의 법안 발의된 만큼 AI 윤리 기준을 강화한 것으로 보인다.
이에 앞서 일론 머스크 테슬라 최고경영자(CEO)가 설립한 AI...
워터마크 식별 방식으로 부정행위 탐지기술 악용 등 우려해 2년간 공개 논의
챗GPT 개발사 오픈AI가 과제나 논문에 챗GPT를 사용했는지 식별할 수 있는 기술을 개발했지만 공개하지 않고 있는 것으로 알려졌다.
4일(현지시간) 월스트리트저널(WSJ)은 익명의 소식틍을 인용해 해당 기술은 약 1년 전부터 출시될 준비가 되어 있었다고 보도했다. 그러면서 오픈AI...
소버린 AI 모델 구축 방안을 논의했으며, 인텔과는 AI칩 소프트웨어 연구·개발 협력을 시작했다. 빅테크 기업들이 참여하는 개방형 컨소시엄 ‘MLCommons’에서 AI 안전 벤치마크 구축 작업에 기여했으며, AI 워터마크 기술 표준을 구축한 글로벌 연합체인 ‘C2PA’에도 국내 기업 최초로 가입하여 AI 생성 콘텐츠 탐지와 관련된 기술 연구도 공동으로 진행할 예정이다.
오픈AI 등은 정치인 관련 콘텐츠를 만들지 못하도록 제한하고, 콘텐츠에 AI를 식별하는 워터마크를 삽입하는 기술을 도입했다.
다만 AI 규제가 아직은 미비하다는 진단이 우세하다. 미디어 감시 단체인 디지털혐오대응센터(CCHD)가 생성 AI를 이용해 선거 관련 가짜 콘텐츠를 어디까지 만들 수 있는지 조사한 결과, 시도 횟수 중 40%가 규제와 상관없이 가짜 콘텐츠를...
이어 “안테나는 아티스트 보호를 위해 앞으로도 계속해서 엄중 대응하겠다”라고 덧붙였다.
한편 최근 SNS를 비롯해 온라인상에서는 유재석의 이미지를 무단으로 이용한 제품 광고가 다수 발견됐다.
이는 다이어트 제품 광고로 ‘유재석이 모델로 나선다’라는 문구와 매체 워터마크가 박혀있기도 했다. 하지만 이는 유재석과 아무런 관련도 없는 브랜드로 확인됐다.
☆ 시사상식 / 워터마크(watermark)
텍스트, 이미지, 비디오, 오디오 등의 원본 데이터에 본래 소유주만이 아는 마크(Mark)를 육안이나 귀로는 구별할 수 없게 삽입하는 기술이다. 일반 사용자들이 디지털 정보를 불법 복제해 정당한 대가나 허락 없이 상업용 혹은 기타 용도로 사용했을 때 원소유자는 자신의 워터마크를 추출해 자신의 소유임을 밝힐 수 있다. 이는 재산권...
이를 위해 클린 데이터를 활용하고, AI 생성물에는 워터마크를 표시한다. 정 상무는 “마케팅 잘한다는 카드사나 리테일, 제조업 등 분야에서도 자사의 익시를 활용할 수 있냐는 문의가 많다”며 “익시 마케팅 솔루션으로 다른 브랜드도 고객과 깊게 소통할 수 있을 것”이라고 말했다.
딥페이크를 악용한 가짜뉴스에 대응하기 위해서는 관련 법령 제·개정을 통해 AI 생성물의 워터마크 표시를 의무화하는 등 가짜뉴스 생성·유통·확산 전주기 대응 체계를 구축한다. AI 저작권 실무반을 통해 AI 학습 이용 저작물에 대한 적정 이용 대가 산정방안 등 연구 결과를 종합하고, 연내 저작권 제도 정비 방안을 마련할 계획이다.
정부가 생성형 인공지능(AI)가 생산한 저작물에 워터마크 표시를 연내 의무화하는 등 AI·디지털 규범을 주도하기 위한 청사진을 내놨다. 이번 추진계획은 윤석열 대통령의 디지털 구상을 담은 디지털 권리장전을 구체적인 정책으로 구현하기 위한 범부처 계획으로서, 디지털 심화시대의 새로운 질서를 정립하고 디지털 심화 쟁점을 신속히 해결하기 위해 마련됐다....
카카오는 책임감 있는 AI 활용을 위해 카카오브레인의 이미지 생성형 모델인 ‘칼로(Karlo)’에 비가시성 워터마크를 도입했다. 이미지 생성 애플리케이션인 ‘비 디스커버에는 가시성 워터마크를 이미 도입한 바 있다.
비가시성 워터마크란 일반 사용자의 눈에는 보이지 않는 워터마크를 적용하는 기술로, 이미지 가시적 훼손 없이 칼로로 생성된 이미지라는 정보를 담을...
카카오는 생성형 AI로 작성한 기사에 대해 AI 기술 적용 사실을 표시하고, 생성형 AI 이미지 생성 모델 칼로에 ‘비가시성 워터마크를 부착하는 기술’ 도입을 준비하고 있다. SK커뮤니케이션즈는 AI를 이용한 이미지 생성 시 주요 정치인의 성명에 관한‘검색어 제한 조치’를 통해 선거 관련 딥페이크 제작을 방지한다.
앞서 뮌헨협약을 통해 기만적 AI 선거...