중앙선거관리위원회는 6월 3일 실시하는 제21대 대통령선거에서 선거가 임박한 시기에 후보자의 당선 또는 낙선 목적으로 인공지능(AI_ 기술을 이용해 만든 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상(이하 딥페이크영상)을 제작·게시한 유튜브 채널 운영자 등 3명을 공직선거법 위반혐의로 29일 수사기관에 고발했으며, 이는 2023년 12월 28일 해당 공직선거법이 신설된 후 처음으로 고발한 사례이다.

피고발인들은 각각 ▲특정 인터넷 커뮤니티 게시판에 후보자가 죄수복을 입고 감옥 안에 수감된 이미지 등 총 35회 게시 ▲다수가 구독하는 유튜브 채널에 AI로 구현한 여성 아나운서를 이용해 뉴스 형식으로 후보자의 당선 또는 낙선을 도모하는 내용으로 제작한 10건의 영상을 게시한 혐의 ▲개인 SNS에 특정 후보자에 대한 부정적인 이미지를 주는 글과 영상을 딥페이크로 직접 제작해 게시·유포한 혐의를 받는다.

공직선거법 제82조의8(딥페이크영상등을 이용한 선거운동) 제1항은 누구든지 선거일전 90일부터 선거일까지 선거운동을 위해 인공지능(AI) 기술 등을 이용해 만든 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등을 제작·편집·유포·상영 또는 게시하는 행위를 하여서는 아니 된다고 규정하고 있으며, 이를 위반할 경우 법 제255조(부정선거운동죄)제5항은 7년 이하의 징역 또는 1천만원 이상 5천만원 이하의 벌금에 처한다고 규정하고 있다.

중앙선관위는 “제21대 대통령선거가 일주일도 남지 않은 만큼 사이버상 위법행위 단속에 역량을 집중하고 있다”고 강조하면서 “유권자가 AI를 활용해 영상이나 이미지를 제작해 활용할 때 선거법에 위반되지 않도록 각별한 주의할 것”을 당부했다.