국가 안보 최전선 ‘AI 안전연구소’ 차주 개소…AI 안전 리더십 확보전

(사진제공=과학기술정보통신부)

인공지능(AI)의 안전을 지켜 이른바 신(新) AI 제국주의에서 국가 안보를 최우선으로 책임지기 위해 국내의 ‘AI 안전연구소’가 다음 달 문을 연다. AI 안전 속도전에서 뒤처진 우리나라가 AI안전연구소 설립을 통해 국가 안보에 적극 대응할 수 있을지 주목된다.

20일 정보기술(IT) 업계에 따르면 김명주 AI 안전연구소 초대 소장(서울여대 정보보호학부 교수)는 이날 샌프란시스코 골든게이트 클럽에서 열리는 ‘국제 AI 안전연구소 네트워크’ 첫 회의에 참석하며 공식 일정을 시작했다.

국제 AI 안전연구소 네트워크는 주요국의 AI 안전연구소가 AI 기술 발전에 따른 위협에 공동 대응하기 위해 조성한 모임이다. 이날 열리는 첫 회의에는 미국, 영국, 일본, 싱가포르, 캐나다, 프랑스 등 10개국이 참여한다.

첫 회의에서는 네트워크의 운영 방향과 딥페이크물 등 AI 합성 콘텐츠 대응, AI 기반 모델 테스트의 안정성 문제 등을 다룰 계획이다. 네트워크가 향후 다룰 의제에 관해서도 논의한다. 가령 AI 위험 평가 시스템을 국제 사회가 공유하는 방안 등이 이에 해당한다.

AI안전연구소의 공식 개소가 일주일 앞으로 다가오며 우리나라가 AI 안전 리더십을 확보할 수 있을지 이목이 집중된다. AI 안전을 평가·연구하고, 주요국의 AI 안전 연구소와 협력할 국내 AI 안전연구소는 27일 판교 글로벌 R&D 센터에 문을 연다.

정부는 AI 안전연구소를 토대로 글로벌 디지털 질서를 주도하고 AI와 디지털 시대의 시급한 쟁점에 대해 관계 부처와 함께 대응할 방침이다. 정부는 AI안전연구소 비전으로 ‘아태지역을 대표하는 글로벌 AI안전 거점연구소 구현’을 세웠다. 3대 핵심미션은 △AI안전에 대한 과학적 이해 증진 △AI안전 정책 고도화 및 안전제도 확립 △국내 AI기업의 안전 확보 지원을 추진한다.

다만 AI 안보 리더십 경쟁에서 뒤처진 속도는 극복해야 할 과제다. AI 경쟁력이 국가의 경쟁력을 넘어 국가의 안보까지 좌지우지하는 시대가 도래하며 AI 주요국들이 앞다퉈 AI안전연구소를 일찌감치 설립한 반면 우리나라는 이제 첫 발을 뗐기 때문이다.

영국은 선제적으로 지난해 11월 AI안전연구소를 설립했다. 올해 2월에는 AI 안전테스트 연구 초기결과를 발표하는 등 본격적인 연구 활동을 시작했다. 미 백악관은 지난해 11월 AI안전성 정상회의에서 AI안전연구소 설립을 발표했다. 미국 AI안전연구소는 안전한 AI 개발과 배포를 위한 기술표준을 만들기 위해 올해 2월 대규모 AI안전연구소 컨소시엄(AISIC)을 발족하고 공공-민간협력체계를 구축했다. 일본 정부는 올해 2월 AI안전연구소를 만들고 업무를 수행하고 있다.

IT 업계 관계자는 “AI의 발전 속도가 따라가기 힘들 정도가 되면서 이제는 기술의 발전보다도 AI를 안전하게 활용하느냐가 관건이 됐다”면서 “AI 기술 주도권을 잡기 위해서도 이제는 기술 발전뿐만 아니라 AI 안전성을 강화할 수 있어야 할 것”이라고 말했다.