국민의힘이 지난 6일 선대위 출범식에서 공개한 딥페이크 영상인 ‘AI 윤석열’

국민의힘이 야심차게 내놓은 ‘AI 윤석열’이 뜻밖의 논란에 휩싸였다. ‘AI 윤석열’은 인공지능(AI)과 딥러닝(deep learnig) 기술에 기반해 제작된 가짜(fake) 동영상을 뜻하는 ‘딥페이크’(deepfake)의 일종인데, 미국과 유럽 일부 국가에선 이를 이용한 선거운동에 대해 “유권자의 올바른 판단을 저해할 수 있다”며 금지 혹은 규제하고 있기 때문이다.

윤석열 국민의힘 대선 후보 측에서는 “문제 될 게 없다”는 입장이지만, 민주당은 “공식 문제를 제기하겠다”고 대응에 나섰다. 중앙선거관리위원회는 “검토가 필요한 사안”이라는 입장이다.

9일 민주당 선대위 관계자는 “국민의힘이 만든 ‘AI 윤석열’에 대해 선관위의 판단을 받아야 한다는 데는 이견이 없다”라며 “내부 검토를 거쳐서 공식적인 문제제기를 하겠다”고 말했다. 딥페이크 영상 기술을 이용해 선거전을 치르는 것이 공정 선거를 방해한다는 측면에서 선거법에 저촉될 가능성이 있다는 것이다. 이 관계자는 “미국과 유럽 등에서는 이미 딥페이크 영상을 이용한 선거운동을 금지하고 있다”라며 “우리나라 역시 딥페이크 영상 사용에 대한 가이드라인은 있어야 하는 것 아니냐”고 덧붙였다.

앞서 국민의힘은 지난 6일 서울 송파구 올림픽공원 KSPO 돔에서 열린 선대위 출범식에서 윤 후보의 얼굴과 음성을 합성한 동영상 형태의 ‘AI 윤석열’을 공개했다. 영상에서 AI 윤석열은 “윤석열 후보와 너무 닮아 놀라셨습니까”라며 “정치권 최초로 만들어진 AI 윤석열은 윤석열 후보가 열어갈 대한민국의 새로운 미래와 도전을 상징한다”고 말했다.

그러나 AI 윤석열이 공개된 직후 정치권에서는 “유권자의 판단을 흐릴 수 있다”는 비판이 쏟아졌다. 방송통신위원회 상임위원을 지낸 고삼석 동국대 석좌 교수는 “딥페이크 기술을 적용해 윤 후보의 아바타를 도입한 목적은 뻔하다. 도리도리, 쩍벌 등 후보의 좋지 않은 이미지와 부족한 언변을 속이기 위한 거 아닌가, 이미지 세탁 아닌가”라며 “인공지능 및 딥페이크 기술의 정치적 이용에 대한 가이드라인을 만들어야 한다. 선관위부터 나서야 한다”고 촉구했다.

조승래 민주당 선대위 수석대변인도 전날 논평을 통해 “국민이 보고 싶은 것은 진짜 윤 후보의 면모”라며 “윤 후보가 토론장에서 직접 자신의 정견을 설명하고 국정 비전을 제시하기를 국민께서는 바란다”고 비판했다.

앞서 이재명 더불어민주당 대선후보도 악의적 딥페이크 처벌 공약을 통해 “미국 대선 투표 독려 김정은 위원장 합성 영상, 트럼프 대통령을 비난하는 가짜 오바마 대통령 영상 사례처럼 딥페이크 가짜뉴스는 당장 이번 우리 대선에서도 유권자의 선택을 왜곡할 수 있는 심각한 위협”이라며 “리 대선에도 ‘악의적 딥페이크 가짜영상’이 난무하지 않도록 플랫폼 기업들의 민간 자율규제 강화를 요구하겠다”고 밝혔다.

앞서 정치권의 딥페이크 영상 논란이 불거졌던 미국과 유럽은 선거에 딥페이크 영상을 활용하는 것을 법으로 금지하는 추세다. 딥페이크 영상을 통해 정치인이 하지도 않은 말을 지어내 선거에 영향을 미칠 수 있다는 것이다. 지난 2018년 연방 차원에서 악의적 딥페이크 금지 법안을 통과시킨 미국은 캘리포니아주 등에서 아예 선거 60일 전부터 후보자와 관련한 딥페이크 영상이나 음성을 게시 못 하도록 못 박았다.

이 밖에도 영국과 프랑스, 캐나다 등도 정치권에서 사용되는 악의적 딥페이크 영상에 대해 “정치인의 신용을 떨어뜨릴 수 있고, 유권자의 올바른 판단을 방해할 수 있다”며 관련 처벌 근거를 만들어 운영 중이다.

반면, 선관위는 “아직은 검토가 더 필요하다”는 입장이다. 선관위 관계자는 딥페이크 영상의 선거법 위반 여부에 관한 질문에 “검토해볼 만한 사안”이라면서도 “법적 근거 등을 파악해 판단할 문제로, 당장 대답할 수 있는 사안은 아니다”라고 답했다.

강문규·유오상 기자