황희두 “AI 허위정보는 출처 세탁·동시 확산”…개별 팩트체크만으로 대응에 한계
김어준 “정치인도 알고리즘 감옥에 갇힐 수 있어”…조직적 정보 유통 구조 추적 강조
 |
| ▲ 12일 유튜브 방송 '김어준의 겸손은힘들다 뉴스공장'에서 AI 기반 여론 조작과 온라인 허위정보 확산 문제를 논의하고 있다. 왼쪽부터 황희두 노무현재단 이사, 김어준 진행자, 박대희 '깨어있는대구시민들' 기자. (사진=뉴스공장 방송 화면 갈무리) |
이재명 대통령이 사회관계망서비스(SNS)에서 사용한 '좌아하다'라는 표현을 둘러싼 논란이 이어지는 가운데, 해당 표현의 사용 시기와 의미를 설명하는 자료가 온라인 단체대화방을 통해 다시 유통되는 사례가 공개됐다. 정치권의 온라인 여론 형성 과정에서 특정 표현과 게시물이 어떻게 해석되고 확산하는지, 인공지능(AI)을 활용한 정보 조작에 어떻게 대응할 것인지가 새로운 쟁점으로 떠올랐다.
지난 12일 유튜브 방송 '김어준의 겸손은힘들다 뉴스공장'에는 황희두 노무현재단 이사와 박대희 '깨어있는대구시민들' 기자가 출연해 AI 기반 여론 조작의 위험성과 온라인 커뮤니티의 정보 확산 사례를 소개했다.
박 기자는 이 대통령이 사용한 '좌아하다'라는 표현과 관련해 특정 온라인 단체대화방에서 공유된 자료를 제시했다. 화면에는 해당 표현이 과거부터 사용됐다는 취지의 게시물과 이를 전달하는 대화 내용이 담겼다.
박 기자는 이 대통령이 해당 표현의 과거 사용 사례를 언급한 뒤, 자신이 관찰해 온 단체대화방에서도 관련 자료가 전파되는 것을 확인했다고 주장했다. 그는 표현이 언제 처음 등장했는지를 따지는 것보다 현재 어떤 의미로 사용되고, 이를 접하는 사람들이 어떻게 받아들이는지가 중요하다고 강조했다.
특히 박 기자는 대통령의 표현을 일부 지지세력이 자신들에 대한 지지 신호로 해석할 가능성을 우려했다. 대통령의 의도와 무관하게 특정 온라인 집단이 해당 발언을 자신들의 행동을 정당화하는 데 활용할 수 있다는 것이다.
이에 김어준은 이 대통령의 의도가 특정 집단의 활동을 승인하는 것은 아닐 것이라면서도, 정치인이 SNS에서 접하는 정보가 여론 전체를 제대로 반영하지 못할 수 있다는 문제를 제기했다.
김어준은 이를 '알고리즘 감옥'이라고 표현했다. 특정 정치인의 SNS 화면에 정상적이고 설득력 있는 글을 반복적으로 노출해 실제 여론과 다른 인식을 갖도록 유도할 수 있다는 설명이다.
다만 방송에서 제시된 단체대화방 자료만으로 해당 게시물의 유통이 조직적인 조작 행위였는지, 누가 확산을 주도했는지까지 확인된 것은 아니다. 박 기자가 제시한 자료는 온라인 정보 확산 양상을 살펴볼 사례로서 추가적인 검증이 필요하다.
 |
| ▲ 12일 '김어준의 겸손은힘들다 뉴스공장'에서 공개된 온라인 단체대화방 자료. 이재명 대통령이 사용한 '좌아하다' 표현과 관련한 과거 게시물이 공유되고, 이를 둘러싼 대화가 이어지는 모습이다. (사진=뉴스공장 방송 화면 갈무리, 자료 제공 박대희) |
이날 황희두 이사는 최근 리투아니아에서 열린 국제 허위정보 대응회의에 참석한 경험을 소개하며 AI 기술의 발전으로 온라인 여론 조작이 더욱 정교해지고 있다고 설명했다.
황 이사에 따르면 이번 행사에는 학계와 정부기관, 시민사회, 기술 전문가 등이 참여해 각국의 허위정보 확산 사례와 대응 방안을 논의했다. 황 이사는 한국에서 민간 전문가 2명과 함께 참석했다고 밝혔다.
그는 과거에는 허위 게시물이나 이미지의 진위를 확인하는 팩트체크가 주요 대응 방식이었지만, 이제는 그것만으로 문제를 해결하기 어렵다고 설명했다. 허위정보가 SNS와 커뮤니티, 영상 플랫폼, 언론 등을 거치며 여러 형태로 재가공되고, AI 기술을 통해 실제 정보처럼 보이도록 만들어질 수 있기 때문이다.
특히 '출처 세탁'을 주요 위험 요소로 지목했다. 특정 온라인 집단에서 만들어진 주장을 해외 언론이나 전문가의 발언처럼 포장한 뒤 다시 국내로 유통시키면, 이용자들이 실제 출처를 확인하기 어려워질 수 있다는 것이다.
황 이사는 이러한 정보 조작의 영향을 파악하려면 개별 게시물의 진위를 따지는 것에서 나아가 정보가 어디서 생산되고 어떤 경로로 확산하는지 살펴봐야 한다고 강조했다.
김어준 역시 온라인 커뮤니티에서 반복적으로 나타나는 유사한 게시물과 확산 패턴을 거론하며, 조직적 조작이 의심되는 경우 개별 게시글 삭제나 사실 확인만으로는 대응에 한계가 있다고 주장했다.
그는 “누가 어떻게 조직적으로 퍼트렸는가”를 확인하는 것이 중요하다며 수사기관과 정보기관이 불법적인 조직적 여론 조작 여부를 조사할 필요가 있다고 밝혔다.
박 기자는 온라인 갈등이 정치권의 공격 소재로 활용되는 현상도 우려했다. 다만 김어준은 정당과 정치인 사이의 통상적인 공방과 금전적·조직적으로 수행되는 불법적인 정보 조작은 구분해야 한다고 설명했다.
이번 방송에서는 AI를 활용한 허위정보 문제가 단순한 기술적 문제를 넘어 정치적 의사소통과 사회적 신뢰에 영향을 미칠 수 있다는 점이 강조됐다. 출연자들은 정보의 생산자와 유통 경로, 반복적인 확산 방식 등을 종합적으로 분석하고 제도적·기술적 대응책을 마련해야 한다는 의견을 제시했다.
특히 정치인의 SNS 발언이 온라인에서 본래의 의도와 다르게 해석되거나 특정 집단의 메시지로 재가공되는 문제는 향후에도 검증이 필요한 영역이다. 개별 사례의 사실관계와 조직적 조작 여부를 구별하면서 정보 확산 구조를 추적하는 작업이 중요해지고 있다.
[ⓒ 시사타파NEWS. 무단전재-재배포 금지]
