“인공지능 탓 인류 멸종할 수도…” 美 국무부도 화들짝

美 국무부 AI 자문기구에 보고서 의뢰
1년여 조사…“인류 멸종 초래할 우려”
“미국 정부 개입해야 할 필요성 있어”

(게티이미지)

인공지능(AI)이 인류를 멸종시킬 수 있다는 경고가 나왔다.

12일(현지시간) 미국 CNN은 관련 내용을 보도하면서 “진화하는 AI로 인해 국가 안보가 위험해질 수 있다는 경고”라고 짚었다.

앞서 미국 국무부는 AI 정책 자문기관인 ‘글래드스턴 AI’에 AI의 위험성과 관련한 연구를 의뢰했다.

글래드스턴 AI는 보고서를 통해 “최악의 경우 가장 발전한 AI 시스템이 인류에게 멸종 수준의 위협을 가할 수 있다”라며 “이를 해결하기 위해 미국 정부가 나서야 한다”고 지적했다.

CNN에 따르면 이번 보고서는 인류가 재앙을 피할 수 있는 시간이 얼마 남지 않았다는 경고했다.

무엇보다 AI 시스템의 무기화를 가장 크게 우려했다. 기업 간 경쟁이 심화하면서 AI의 결정권이 안전과 보안 체계를 벗어날 경우다. 통제력을 상실해 잠재적으로 세계 안보에 파괴적인 결과를 초래할 수 있다는 의미다.

이를 해결하기 위해 미국 정부가 획기적인 조치에 나설 것도 촉구했다. 새로운 AI 감독 기관과 긴급 규제 안전장치를 만드는 것은 물론, AI 모델 훈련에 사용할 수 있는 컴퓨터 성능을 제한하는 방안 등을 제시했다.

이번 보고서는 주요 AI 기업의 최고 경영진과 사이버 보안 연구원, 대량살상무기 전문가, 국가 안보 정부 당국자 등을 1년여에 걸쳐 인터뷰한 내용을 토대로 작성됐다. 인터뷰 인원만 200명이 넘는다.

보고서에 등장한 전문가들은 하나같이 “미국 정부가 개입해야 할 분명하고 긴급한 필요성이 있다"고 강조했다.

글래드스턴 AI 공동 설립자이자 최고경영자(CEO)인 제러미 해리스는 CNN에 “AI는 이미 경제적으로 혁신적인 기술”이라면서 “그러나 우리가 알아야 할, 재앙적인 위험을 포함한 심각한 위험을 가져올 수 있다”고 지적했다.

이어 “세계 최고의 AI 회의들에서 발표된 경험적 연구와 분석을 포함해 늘어나는 증거들은 특정 능력의 한계점을 넘어서면 AI가 잠재적으로 통제할 수 없게 될 수 있음을 시사한다”고 말했다.

CNN은 “미국 국무부가 국내외에서 미국의 국익을 보호하려는 목표에 AI가 어떻게 부합하는지를 지속해서 평가하고 있고, 이를 위해 이번 연구를 의뢰했다”라면서도 “그러나 이 보고서가 미국 정부의 견해를 대변하는 것은 아니다”라고 설명했다.