'딥페이크'로부터 선거를 지키려면

제22대 국회의원선거를 91일 앞둔 10일 경기 수원시 경기도선거관리위원회에서 관계자들이 사이버선거범죄 근절 홍보 퍼포먼스를 하고 있다. 이번 선거부터는 선거운동을 위해 인공지능(AI) 기반 딥페이크 영상을 제작·편집·유포·상영·게시하는 것이 금지된다. 수원=연합뉴스

글로벌 리스크 리포트 2024. 세계경제포럼 홈페이지

'AI가 생성한 가짜 정보'가 올해 인류가 직면한 최대 위험 요인 중 하나로 꼽혔다. 세계경제포럼(WEF∙다보스포럼)이 펴낸 '글로벌 리스크 리포트 2024'에 따르면, 세계 각계 전문가 1,490명은 AI로 가공한 허위 정보를 기후위기, 사회∙정치적 대립 등과 함께 인류의 가장 큰 위협으로 지목했다.

이 같은 인식에는 AI 기반의 허위 정보를 감별하고 규제하는 역량과 제도가 AI 기술의 발전 속도를 따라잡지 못하는 각국의 현실이 반영된 것으로 보인다. 여기에 올 한 해에만 76개국에서 선거가 치러지는 시기적 특수성이 더해지면서, AI를 악용한 가짜 뉴스가 민주주의의 근간을 흔들 수 있다는 우려도 커지고 있다. 불순한 의도를 지닌 정치 세력이 '딥페이크(AI의 딥러닝 기술을 이용해 만들어낸 가짜)' 영상이나 이미지를 퍼뜨려 여론을 조작하고 선거 결과에 중대한 영향을 미칠 경우, 세계적으로 심화하고 있는 갈등과 대립이 더욱 극단으로 치달을 수 있기 때문이다.

AI로 조작된 허위 정보가 민주주의에 중대 위협이 될 수 있다는 우려는 미국 대선에서 이미 현실화하고 있다. 지난 23일 공화당 대선 후보 경선 뉴햄프셔주 예비선거를 앞두고 조 바이든 대통령을 사칭한 딥페이크 음성이 유포됐는데, 유권자들에게 공화당 경선 불참을 유도하는 내용을 담고 있다. 주 사법당국이 선거 방해로 간주해 수사에 나섰지만 이미 수만 명에게 확산된 뒤였다. 지난해에는 트럼프 전 대통령이 경찰에 체포되는 딥페이크 이미지가 확산되면서 논란이 일기도 했다.

지난해 3월 트럼프 전 대통령이 뉴욕 경찰에 체포되는 듯한 딥페이크 이미지가 확산되며 논란이 일었다. 사진은 해당 이미지를 만들어낸 엘리엇 히긴스의 SNS 계정. 알링턴=AP 연합뉴스

제22대 국회의원선거를 91일 앞둔 10일 경기 수원시 경기도선거관리위원회에서 관계자들이 사이버선거범죄 근절 홍보 퍼포먼스를 하고 있다. 이번 선거부터는 선거운동을 위해 인공지능(AI) 기반 딥페이크 영상을 제작·편집·유포·상영·게시하는 것이 금지된다. 수원=뉴시스

AI로 조작한 허위 정보는 22대 총선을 70일 앞둔 우리에게도 '발등의 불'이다. 진영이 극단적으로 대립하는 치열한 선거전에서 딥페이크를 동원한 상대방 흠집 내기가 얼마든지 시도될 수 있기 때문이다. 중앙선관위는 이에 대응해 가상의 음향∙이미지∙영상 등 AI 기술로 만든 허위 콘텐츠의 선거운동 활용을 29일 전면 금지했다. AI 전문가 등으로 '감별반'을 꾸리고, 선거일이 임박할수록 불법 AI 콘텐츠에 대한 대응 수준을 최대한 높이겠다고도 했다.

그래도 걱정은 여전히 남는다. AI 기반의 가짜 정보를 감별하는 기술 자체가 아직 완벽하지 않은 데다, 인터넷 주소(IP)를 해외로 바꿔 유포하면 추적은 물론, 사후 수사조차 쉽지 않다. 플랫폼 사업자에게 허위 콘텐츠 차단 의무를 지우고, 어기면 과태료를 부과하는 등의 제재 수단이 없다 보니 허위 정보가 선거일에 임박해 무차별 확산할 경우 선거 자체가 큰 혼란에 빠질 수도 있다. 실제로 지난해 슬로바키아 총선에서 투표일 이틀 전 확산된 가짜 음성이 친러 야당의 승리를 견인한 사례도 있다. 여야 모두 가짜 정보 유통에 대해 사업자 책임을 강화하는 법안을 발의했으나 상임위에 계류 중이다.

결국 정당과 정치인, 지지자들의 자율 규제가 어느 때보다 중요한 상황이다. 하지만 협치가 실종되고 증오만 넘실대는 정치 문화를 감안하면 딥페이크 콘텐츠가 언제 어디서 유포돼도 이상하지 않은 게 우리 현실이다. AI를 악용한 여론 호도는 배후에 혐오와 적개심이 자리 잡고 있다는 점에서 물리적 테러와 다를 바 없다. 딥페이크로부터 선거를 지키고자 한다면, 상대방에 대한 혐오 부추기기와 흠집 내기를 중단하고 증오의 악순환을 끊어야 한다. 여야 모두 시간이 많지 않다.

박서강 기획영상부장 pindropper@hankookilbo.com