AI 윤리 검증하는 민간 자율 신뢰성 인증 제도2021년부터 수십억 들였지만 참여 기업 저조IT 업계 "의무도 아니고, 굳이?"…차라리 국제 기준 준비
정부가 2021년부터 수십억 원을 들여 민간 기업의 인공지능(AI) 윤리 수준을 검증하는 '신뢰성 인증 제도'를 만들었지만 기업의 참여가 저조하다. 딥페이크 성범죄·환각 부작용이 드러나며 AI 윤리...
참여 저조한 AI 신뢰성 인증제…韓 뿐만 아냐EU도 자발적 AI 협약 기업 참여 고민…애플·메타 참여 안해"AI 윤리 기준 기업 참여 이끌려면 법적 근거 마련해야"
국내뿐 아니라 유럽연합(EU)도 기업이 인공지능(AI) 윤리 기준을 자발적으로 준수하도록 대책 마련에 골몰하고 있다.
지난달 25일(현지시간) EU는 AI법 시행 전 업계의 자발적 준수를 위한 준비...
‘AI 경영시스템(ISO/IEC42001)’은 국제표준화기구(ISO)와 국제전기기술위원회(IEC)가 제정한 인공지능 분야 첫 번째 국제 표준이다. 이 표준은 AI 시스템을 개발하고 제공하는 조직이 시스템 위험성을 효과적으로 관리하며, 윤리적이고 사회적인 책임을 다할 수 있도록 하는 표준 프레임 워크를 제공한다.
한국경영인증원은 한국인정지원센터(KAB)로부터...
이어 “질문을 준비하는 과정에서 딥페이크라는 용어 사용에 대한 문제점을 인식하지 못했다”라고 인정하면서도 인공지능(AI) 기술로 만들어낸 이미지와 실제 자신과의 차이에 대한 생각을 묻는 것이었다고 해명을 덧붙였죠. 또 “선발 과정에서 참가자들이 여러 가지 사회 이슈를 두고 토론을 하는 과정도 있었고, 그 중 딥페이크 영상에 대한 문제점을 짚는 부분도...
AI법 전면 시행 전 법 준수업계 참여 독려하는 자발적 협약삼성, 구글, 마이크로소프트(MS) 등 115개 기업 참여
애플과 메타가 유럽연합(EU) 인공지능(AI)법 준수를 위한 자발적 협약에 불참했다.
EU 집행위원회는 25일(현지시간) AI법 전면 시행 전 업계의 자발적 법 준수를 약속하는 'AI 협약'(AI Pact)을 발표했다.
여기에 삼성·구글·마이크로소프트(MS) 등 115개...
세계 주요국 대비 인공지능(AI) 거버넌스 확립에서 뒤처지고 있는 우리나라가 AI 경쟁력을 높이기 위해서는 산업의 진흥을 위하는 AI 기본법이 조속히 마련돼야 한다는 지적이 나왔다. 다만 AI가 가져올 위험에 대해서는 규제를 하되, 지나치게 과장된 위험을 염려해 발전을 저해하기보다는 현실적인 위험에 대응해야 한다는 주장이다.
24일 국회...
20ㆍ21대 국회에서 발의됐다가 회기 만료로 폐기됐던 '인공지능(AI) 기본법'이 22대 국회에서 재차 입법 제정에 불이 붙었다. 그러나 여야 간 정치적 충돌로 인해 연내 제정을 확신할 수 없고 이로 인한 우리 기업들의 글로벌 AI 경쟁력 저하가 우려된다는 지적이 나온다.
23일 국회에 따르면 다음날 국회 과학기술정보방송통신위원회(과방위)는 ‘AI 기본법 공청회’...
AI-POT 2급 자격시험은 생성형 AI 기술의 이해와 활용 능력을 평가하는 시험으로 △인공지능 기초 이론 △생성형 AI 기초이론 △프롬프트 엔지니어링 기술기초 △프롬프트 엔지니어링 기술기초 활용 △프롬프트엔지니어링 업무활용과 윤리의식 등 5개 영역에서 30문항(이론 및 윤리 20문항. 실습형 10문항)을 CBT(컴퓨터 기반 전형) 방식으로 진행됐다.
시험...
LG AI연구원이 신뢰할 수 있는 인공지능(AI)을 위한 개발 생태계 확장에 앞장서고 있다.
LG AI연구원은 이달 중순 국제 표준화 기구인 국제전기전자 표준협회(IEEE-SA)와 계약을 체결하고 국내 첫 AI 윤리 평가·인증 기관으로 선정됐다고 23일 밝혔다.
LG AI연구원은 국제 AI 윤리 인증인 ‘IEEE CertifAIEd(Certified AI Ethics)’ 국내 1호 협력 기관으로서 IEEE-SA와...
발제자로 나선 최 교수는 ‘AI로 생성한 콘텐츠의 지적재산권 침해’, ‘개인정보 및 사생활(프라이버시) 침해, ‘혐오·편향·차별 등 윤리 문제나 인권 침해’, ‘AI를 이용한 피싱 등 범죄 피해’ 등을 인공지능의 폐해로 꼽았다.
최 교수는 “지금의 딥페이크는 누구나 다 쉽게 만들 수 있다는 게 문제점이자 장점”이라며 “한 번 확산되고 나면 무한정 퍼지기 때문에...
외국 플랫폼을 통해 이뤄졌는데, 이런 플랫폼을 방조해서는 안 된다”며 “국내·국제 공조에 대한 방법을 반드시 찾아야 하는 시점에 다다랐다”고 말했다.
이외에도 안 위원장은 인공지능을 통한 불법 콘텐츠의 자동 신고·삭제 시스템 구축, 디지털 범죄 대응과 건강한 AI 생태계 구축을 위한 윤리교육, 피해자들의 일상 회복 지원 확보 방안 등이 필요하다고 말했다.
국내 기업 재무·회계·세무 종사자 대다수가 인공지능(AI) 도입으로 감사 품질이 향상될 것으로 기대하고 있는 것으로 나타났다. 또 앞으로 'AI 기술 및 데이터에 대한 전문성과 경험'이 감사인의 핵심 역량이 될 것이라고 바라봤다.
9일 국내 기업의 재무·회계·세무 관련 부서 임직원 총 616명이 참여한 '2024 EY한영 AI와 재무의 미래' 설문조사 결과에 따르면 AI...
생성형 인공지능을 활용한 작업과 학습, 생체 신호의 원리에 대한 이해, 자율주행 자동차와 관련한 윤리적 이슈 등이 대표적이다. 학생들은 수업에서 이 같은 주제에 대해 자료 분석과 발표문 작성, 찬반 토론 등의 학습을 진행하게 된다.
현대모비스는 이번 교재 제작 과정에서 발간과 제작 등에 필요한 재원을 마련하고 교재 내용 검수 등을 맡았다. 관련 분야 대학...
신기술인 인공지능(AI)을 받아들이기엔 기술의 발전 속도가 너무나 빨랐던 것일까. 아니면 예견된 인재일까.
올해 1월 팝스타 테일러 스위프트의 사진이 합성된 성착취물 이미지가 온라인상에서 확산되면서 전 세계가 발칵 뒤집힌 사건이 있었다. 세계적으로 AI 부작용에 대한 규제 필요성이 대두했으나 정부와 정치권은 안일했다. 정부에서는 현행법으로도 충분히...
주요 커리큘럼은 △AI·DX 글로벌 혁신생태계 △AI·DX 시대의 법적리스크 관리와 윤리 △글로벌 DX 사례 분석 △한국 정부의 인공지능 국가전략 등이다.
9월 말에는 해외 디지털전환(DX) 생태계 사례 조사 및 네트워킹을 위해 정보통신산업진흥원(NIPA)의 베트남 IT지원센터도 방문한다.
이날 교육생과의 네트워킹을 시작으로 오순영 전 KB국민은행 센터장, 최재붕...
금융권 망분리 규제 개선 움직임에 따른 선제적인 그룹 AI 관리 체계 마련지주회사가 수립한 그룹 표준과 각 그룹사의 내규 연계해 향후 단계적 강화 예정
신한금융그룹이 인공지능(AI) 분야 내부통제 체계 강화를 위해 그룹의 'AI 거버넌스' 구축을 시작했다. AI 거버넌스는 금융회사가 고객과 임직원을 대상으로 한 AI 활용 시 발생할 수 있는 윤리ㆍ법ㆍ사회적 잠재...
실제로 그는 지난달 20일 ‘정부효율위(DOGE)’라는 팻말이 붙은 연단에 선 자신의 모습을 인공지능(AI)으로 만든 이미지를 엑스(X·옛 트위터)에 올리며 “기꺼이 봉사하겠다”라는 글을 남겼다.
이후 트럼프 전 대통령은 지난달 25일 공개된 팟캐스트 ‘션라이언쇼’ 인터뷰에서 머스크를 정부 자문역으로 기용할 수 있다고 언급하면서 “그는 일부 ‘지방(정부 내...
국가인공지능위원회는 딥페이크 성범죄와 같은 AI 부작용에 대한 안전성과 신뢰성을 마련해야 할 뿐만 아니라 AI 연구개발 및 투자 전략 수립, 데이터센터 등 인프라 확충, 인공지능 윤리원칙 확산 등 국가 인공지능 정책 전반을 심의하고 조정하게 된다.
법무법인 세종의 AI 센터장인 장준영 변호사는 “AI 기본법을 추진하는 단계인 만큼 국가인공지능위원회에서 향후...
전 세계 피해자 절반이 한국인…낮은 양형이 성범죄 키웠다최근 디지털 성범죄 대부분 집행유예…'서울대 N번방'은 5년 전문가들 "궁극적 해결책은 AI 윤리 교육…초·중·고 의무 교육 추진해야"
‘딥페이크(인공지능(AI) 기반 이미지 합성)’ 성범죄가 세계적인 팝스타 테일러 스위프트만의 문제가 아니다. 이미 우리 일상에 깊숙이 침투하고 있다....
이어지는 분과에서 △인공지능 등 핵심‧신흥 기술 분야 △기후 및 에너지 분야 △인구변화와 성평등 등 주제에 대해 논의할 예정이다.
특히 이번 포럼에 양국 과학기술 핵심 전문가들이 참여해 인공지능의 국제표준 채택, STEM 분야 산학연 협력 등 핵심‧신흥 기술 분야 현안에 대한 양국 협력 방안을 논의한다. 또한 폭스바겐, 보다폰, 삼성현지법인 등 현지 산업 및...
![[단독] 예산 수십억 원 들였는데 기업 참여 저조…'AI 신뢰 인증제'](https://img.etoday.co.kr/crop/200/125/2083761.jpg)
![이번엔 ‘딥페이크’까지…더 뜨거워진 미스코리아 폐지 목소리 [해시태그]](https://img.etoday.co.kr/crop/200/125/2082563.jpg)
![[노트북 너머] 딥페이크 사태 예견 못 했다면 거짓말](https://img.etoday.co.kr/crop/200/125/2074457.jpg)
![[딥페이크 쇼크] 방치됐던 'AI 기본법' 국가인공지능委 출범으로 탄력받나](https://img.etoday.co.kr/crop/200/125/2070402.jpg)
![[딥페이크 쇼크] 피해가 얼마나 심하길래…“나도 당했다”](https://img.etoday.co.kr/crop/200/125/2072239.jpg)
![당신이 몰랐던 '미쉐린 스타'의 그늘(?) [이슈크래커]](https://img.etoday.co.kr/crop/300/170/2084354.jpg)
![2024년 청년친화강소기업+중견기업 일자리박람회 [포토]](https://img.etoday.co.kr/crop/300/190/2084339.jpg)