▲ 인공지능(AI)으로 생성된 여성. 온라인 커뮤니티 캡쳐

 

한국 프로야구(KBO) 경기 관중석에 등장한 한 여성의 영상이 크게 화제를 불러 모았지만, 결국 가짜로 밝혀져 논란이 일었다. 미국 최대 온라인 커뮤니티에는 ‘평범한 한국 여성이 아니다(Not an average Korean woman)’라는 제목의 5초 분량 영상이 올라왔고, 순식간에 800만 조회 수와 2만5000개 이상의 추천을 기록했다. 하지만 이 영상의 진위를 가장 먼저 지적한 것은 다름 아닌 야구팬들이었다.

영상 속 내용과 자막에 여러 문제가 있었기 때문이다. 머리카락이나 피부 표현이 지나치게 매끄럽고 휴대폰 이미지가 왜곡돼 있다는 지적도 있었지만, 결정적인 것은 경기 정보였다. 여성의 영상 이미지는 한화 이글스와 두산 베어스 경기 중계 장면에 등장했는데, 화면 속 선수들의 현역 시기가 서로 맞지 않았다.

투수로 김서현이 등장하고 타자로 조인성이 표시됐는데, 김서현은 2023년에 입단한 선수이고 조인성은 1998년 입단해 2017년 은퇴 후 코치로 활동하고 있기 때문에 현재 같은 경기에서 뛸 수가 없다. 더구나 조인성은 LG 트윈스에서 주로 활동했던 선수인데 두산 선수로 표기돼 있었다. 관중석 속 작은 플래카드에 적힌 ‘최강은 두산’이라는 문구도 어색했다. 일반적으로는 ‘최강 두산’이라고 표현한다. 지난해는 물론 올해에도 두산-한화 경기에서 8회 4대3 스코어가 나온 적이 없었다.

결국 한국 여성의 외모 때문에 화제가 됐던 영상은 인공지능이 만들어낸 가짜 영상이라는 점이 밝혀졌다. 문제는 여성의 이미지 소비 방식이다. 흰색 오프숄더 상의와 청바지를 입고 다리를 꼰 채 경기를 관전하는 모습으로 등장하며 ‘야구장 여신’이라는 이름까지 붙었다. 외모와 성적 이미지에 집중한 것이다. 더구나 어깨가 훤히 드러난 모습은 아직 쌀쌀한 날씨의 야구장과도 어울리지 않았다. 결국 이는 섹시한 여성성을 부각하기 위한 설정으로 볼 수밖에 없다. 

 

▲ 윤 어게인 실제 집회 현장에 AI 이미지 합성한 극우 유튜브 캡처

그런데 이런 현상이 단순한 사회적 해프닝에 머무르지 않고 정치 권력 다툼의 영역까지 번지고 있다는 점이 더 문제다. AI로 만든 여성 사진이나 실제 인물 사진을 도용한 SNS 계정을 만들고, 관련 콘텐츠를 올리며 정치적 목적으로 활용하는 사례가 늘어나고 있기 때문이다. 이를 ‘정치적 피싱’이라고 부를 수 있을 것이다. 일각에서는 ‘정치적 보이스피싱’이라는 표현까지 나온다.

이런 행위는 사실상 범죄 행위라고 볼 수 있다. 사진을 도용한 것 자체도 문제지만, 생성형 AI로 만든 이미지를 실제 인물인 것처럼 꾸며 특정 정치 세력의 외연 확장 수단으로 사용하기 때문이다. 실제 인물로 착각하거나 속아 넘어갈 수 있으므로 사기적 성격도 있다. 더구나 이를 온라인상에서 잘못된 여론 형성을 목적으로 활용한다면 선거법 위반 문제로도 이어질 수 있다.

실제로 2023년 12월 공직선거법에는 딥페이크 관련 규정이 신설됐다. 공직선거법 제82조의8에 따르면 선거일 전 90일부터 선거운동을 위해 딥페이크 영상 등을 제작·편집·유포·게시하면 처벌받는다. 그 외 기간에도 AI 기술로 만든 정보라는 사실을 명확히 인식할 수 있도록 표시해야 한다.

2024년 제22대 국회의원 선거 당시 딥페이크를 이용한 선거운동 적발 건수는 389건이었다. 그런데 제21대 대통령선거 당시 딥페이크 영상 등을 이용한 선거운동 적발 건수는 총 1만513건에 달했다. 1년 만에 무려 27배 증가한 것이다. 이번 지방선거에서도 관련 사례가 폭증하고 있는데, 그만큼 AI 제작 접근성이 쉬워졌기 때문이다.

특히 AI를 이용해 만든 가짜 여성 이미지를 활용해 ‘윤 어게인’ 주장을 전하는 계정들이 크게 늘어나고 있다는 점은 심각한 문제다. 지난 2월에는 한 항공사 승무원이 자신의 사진이 윤어게인 계정에 도용됐다고 주장한 사례도 있었다. 이런 계정과 콘텐츠는 내란 쿠데타를 합리화·정당화하는 잘못된 정보와 가짜 정보를 유포하는 수단이 되고 있다. 결국 지방선거 결과에까지 영향을 미치려는 의도로 읽힐 수밖에 없다.

무엇보다 젊고 예쁜 여성 이미지를 정치적 수단으로 활용하는 방식 자체가 문제다. 짧은 치마를 입은 여성 이미지나 자극적인 영상들을 통해 클릭 수와 조회 수를 끌어올리고, 왜곡된 정보를 퍼뜨리며 여론을 호도하기 때문이다. 한국여성단체연합 등 여성단체들도 이런 문제에 대해 보다 적극적으로 문제 제기를 해야 할 것이다.

아울러 AI 기본법 역시 보완이 필요하다. 지난 1월부터 시행 중인 AI 기본법은 AI로 제작한 콘텐츠에 워터마크 표시 의무를 두고 있지만, 이는 플랫폼 사업자나 서비스 사업자 중심의 규제에 가깝다. 개인이나 임의 조직이 이를 정치적 목적의 선전 도구로 활용하는 경우까지는 충분히 제재하지 못하고 있다.

특히 정치적 목적으로 여성 이미지를 도용하는 행위에 대해서는 보다 엄격한 규정이 필요하다. 동시에 플랫폼 사업자 역시 이런 콘텐츠를 걸러내지 못한 데 대한 책임에서 자유로울 수 없다. AI 기술의 발전 속도만큼, 사회적 책임과 법적 기준 역시 더 빠르게 정비되어야 할 시점이다.

 

[ⓒ 시사타파NEWS. 무단전재-재배포 금지]