“우크라이나군은 무기를 내려놓고 가족에게로 돌아가라”며 항복을 권유하는 젤렌스키 대통령의 동영상이 빠르게 퍼져 나갔다. TV 24 우크라이나 채널이 해킹된 후 문자 메시지로 퍼뜨려진 이 동영상은 딥페이크 기술로 조작된 가짜로 밝혀졌다. 유튜브, 페이스북, 트위터가 가짜 동영상을 삭제했다. 하지만 러시아 매체에선 더 널리 퍼져 나갔다. 동영상이 나돌자 젤렌스키 대통령은 직접 트위터에 “유치한 도발”이라며 “우리는 승리할 때까지 무기를 버리지 않을 것”이라고 신속히 반박했다. 딥페이크는 전쟁의 신무기가 되었다.

이미 우크라이나 전략통신정보보안센터는 러시아 정부가 우크라이나인들에게 항복을 설득하기 위해 딥페이크 기술을 사용할 수 있다고 경고한 바 있다. 하지만 실제 전쟁 상황에서 유포된 젤렌스키 대통령의 딥페이크 동영상은 전쟁의 향방에 심대한 영향을 미칠 수 있다. 노량해전에서 “어서 방패로 나를 가려라. 나의 죽음을 적에게 알리지 마라”는 마지막 정보전으로 죽은 이순신이 산 왜적을 무찔렀다. 유포된 동영상 속 대통령의 머리는 몸보다 너무 커 보이며, 머리 부분의 화질은 선명하지 않다. 목소리도 실제보다 더 낮아서 조작임을 쉽게 알 수 있었다. 하지만 다음 버전은 좀 더 정교해질 것이다. 무서운 점은 이런 허위정보의 무차별적 살포에 대응할 방법이 마땅치 않다는 것이다.

딥페이크 악용에 대한 우려는 이번이 처음 아니다. SNS에는 푸틴 대통령이 '평화를 선언하는' 딥페이크 동영상도 다시 퍼지고 있다. 얼마전 오바마와 트럼프의 패러디 동영상도 있었고, 가짜 엘리자베스 2세 여왕의 성탄절 메시지 선언도 영국의 채널4에서 방송됐다. MBN 김주하 아나운서의 뉴스 동영상 소동 때 대중 반응은 갈렸다. 정말 진짜 같았다는 감탄과 김 아나운서의 실직을 걱정하는 소리가 함께 들렸다. 대통령 선거에서는 'AI 윤석렬입니다'가 큰 관심을 끌며 득표에 기여했다. '기술적 한계(?)'로 '도리도리'는 재현되지 않았다. 정교한 딥페이크 영상은 진실을 말하는 언론에 대한 신뢰를 무너뜨린다. '모든 것이 조작'이라 생각하는 사람은 더 이상 아무것도 믿지 않게 될 것이다. 이제 기술 발달로 중학생 정도면 적은 비용으로 정교한 가짜 정보를 대량생산해서 무한 배포할 수 있게 되었다. 사람들은 믿고 싶은 것을 믿는다.

“백 번 듣는 것이 한 번 보는 것만 못하다”(百聞不如一見)거나 “내 눈으로 직접 보는 것이 가장 완전하다”(Seeing is believing)는 오랜 믿음은 이제 폐기될 운명에 놓였다. 눈으로 보는 것만으론 충분하지 않다. 새 시대는 '보고' '분석'하고 '검토'해서 믿을지 말지 스스로 결정해야 하는 시대다. 단순히 메시지를 읽고 뜻을 해독하는 문해력 교육만으로는 부족하다. 이제 메시지는 그 메시지의 전달 매체와 나누어 생각할 수 없다. 매체별 특성을 이해하고 전달 매체와 메시지 관계를 검토해서 가짜 정보를 식별하고 비평적으로 진위를 판별하는 능력인 '디지털 문해력'의 향상을 위한 교육과 훈련이 필요하다. 다른 하나는 기술적 대응이다. 창이 있으면 방패가 있듯 딥페이크를 포함한 허위정보를 실시간적으로 검증하는 딥트레이스류 대응 도구가 개발되었지만 넘쳐나는 가짜 정보를 다 거르기엔 역부족이다. 현실에선 다양한 규제로 대응한다. SNS는 딥페이크를 '규정위반'으로 차단한다. 미국의 3개 주에서는 관련 입법을 진행중이다. 버지니아주는 딥페이크로 만든 외설 동영상을 범죄행위로 규정하고, 텍사스주는 선거에 남용하는 것을 금지하고, 캘리포니아주는 이 두 가지로 손해를 본 피해자의 배상권을 입법 중이다. 기업들도 내부 규정을 정비 중이다.

양의 탈을 쓴 늑대가 문을 두드리면 엄마 목소리뿐만 아니라 엄마의 거칠어진 손마디도 확인하고, 엄마만 아는 질문을 몇 개 던져서 답을 잘 듣고 문을 열어야 한다. 인공지능은 사람과의 대화와 상호작용하는 '튜링 테스트'에 매우 취약하다. 가짜 영상보다 더 무서운 것은 진짜 영상에 담긴 거짓 정보다. 중국의 지원이 필요한 푸틴 대통령은 21일 132명이 탑승한 중국 둥팡항공 여객기 추락사고에 “가족과 친구를 잃은 분들의 슬픔을 공유한다”는 애도 성명을 냈다. 이솝우화에서 양의 탈을 쓴 늑대는 이튿날 사용할 양고기가 필요했던 양치기에 의해 나무에 매달리는 신세가 되었다.

김주한 서울대 의대 교수 [email protected]