‘AI’와 함께 맞이하는 2024 선거, 얼마나 달라지나 [AI 선거]

미국 공화당 AI 동영상 선거 광고, 달라질 선거판 예고
즉각적 선거 대응·정확한 메시지 타게팅 가능해져
허위 정보 범람은 우려…각국 대응책 마련에 속도

▲투표(VOTE) 버튼과 로봇 손이 보인다. 게티이미지뱅크

미국 샌프란시스코를 순찰하는 중무장한 미군들, 이민자들로 넘쳐나는 미국 남부 국경, 대만을 폭격하는 중국 전투기. 미국 공화당전국위원회(RNC)가 5월 공개한 32초짜리 짧은 동영상 선거 광고에 나온 이미지들이다. 공화당전국위원회는 재선에 도전하는 조 바이든 미국 대통령이 당선될 경우 벌어질 디스토피아를 보여주겠다면서 이러한 모습을 담은 동영상을 공개했다. 물론 해당 사진들은 모두 실제로 일이 아니라 인공지능(AI)이 만든 가짜 이미지다.

RNC가 내놓은 광고는 AI 기술로 인해 달라질 내년 선거판을 미리 엿볼 수 있는 일종의 예고편이었다. 특히 내년은 무려 40개국에서 대통령 선거와 총선이 치러지는 ‘슈퍼 선거의 해’인 만큼 AI가 미칠 파장이 더욱 주목된다. 미국 싱크탱크 브루킹스연구소는 딥페이크 등 AI 기술 발전이 내년 주요국 선거에 몰고 올 수 있는 긍·부정적 변화를 각각 정리했다.

먼저 정치인들은 생성형 AI를 이용해 선거전에 빠르게 대응할 수 있게 됐다. RNC도 바이든 대통령의 재선 도전 발표 직후 새 비디오를 공개했다. 내년에는 대응 시간이 며칠, 몇 시간이 아니라 몇 분으로 대폭 단축될 수 있다. AI는 인터넷을 검색하고, 전략을 구상하며, 강력하게 어필할 수 있는 방법을 생각해낼 수 있다. 연설문, 보도자료, 농담, 동영상 등 다양한 방식으로 특정 후보의 강점을 선전하도록 돕는다. 특히 AI의 가장 큰 강점은 고액의 컨설턴트나 전문 비디오 제작자에게 의존하지 않고도 저렴한 비용으로 즉시 대응이 가능하다는 점이다.

또 AI는 선거전에서 매우 중요하게 꼽히는 ‘정확한 타깃팅’을 가능하게 만든다. 정치인들은 이미 자신을 지지하거나 타 후보를 강력하게 지지하는 유권자들에게 시간과 돈을 낭비하길 원하지 않는다. 선거에서 이기기 위해서는 캐스팅 보트 역할을 하는 소수의 부동층을 정확하게 겨냥해야 한다. AI는 각 개인의 읽기, 보기, 구매, 정치적 행동 등 데이터를 실시간으로 분석해 아직 결정을 내리지 못한 사람들에게 다가가 정확한 메시지를 전달할 수 있게 해준다.

다만 허위 정보가 범람할 수 있다는 점은 매우 우려스러운 부분이다. 누구나 손쉽게 정치 콘텐츠 창작자가 돼 유권자나 언론에 영향력을 행사할 수 있다. 누군가 고의로 허위 정보를 만들고 퍼뜨려 선거 결과에 영향을 미칠 수 있다는 것이다. RNC는 바이든 대통령을 공격하는 영상을 만들면서 생성 AI를 사용했다는 사실을 자발적으로 공개했다. 하지만 누군가는 이 사실을 공개하지 않은 채 선거에 혼란을 줄 수 있으며, 이 속에서 개개인이 진실과 거짓을 스스로 구분하는 일은 거의 불가능하다.

우려는 점차 현실이 되고 있다. 최근 급부상 중인 독일 반이민 극우정당 ‘독일을 위한 대안(AfD)’의 연방하원 원내부대표는 인스타그램에 “더 많은 난민은 안된다”는 구호와 함께 공격적이고 성난 남성들의 사진을 게재했다. 해당 이미지는 AI가 만든 것으로 피난민에 대한 편견과 함께 불안과 선동을 의식적으로 부추길 수 있도록 합성된 것으로 분석됐다.

현재는 이러한 가짜 뉴스, 허위 정보, 거짓된 이미지나 영상 등으로부터 유권자를 보호할 가드레일이 부족하다. 각국은 서둘러 AI가 선거에 미칠 악영향을 최소화하기 위해 대책 마련에 나서고 있다. 유럽연합(EU)은 최근 내년 6월 유럽의회 선거를 앞두고 선거 등 민주주의에 영향을 미치는 유권자와 선거 부문 AI 시스템을 고위험군으로 분류해 규제하자는 내용의 ‘AI 규제법’에 합의했다. 내년 총선을 치르는 한국도 딥페이크를 이용한 선거운동을 규제하는 법안을 통과시켰다. 공직선거법 개정안에 따르면 선거일 90일 전부터는 선거 운동을 위해 딥페이크 영상을 제작·편집해 유포·상영 또는 게시할 수 없다. 또 선거일이 90일 넘게 남았더라도 딥페이크 영상을 만들어 게재할 때는 가상의 정보라는 것을 명확히 알 수 있게 표시하도록 했다.