총선을 한달여 앞두고 플랫폼 기업들이 악의적 선거운동용 딥페이크 사용 방지를 위한 공동선언을 채택했다. 자발적으로 구성된 협의체는 22대 총선 선거 기간동안 딥페이크 콘텐츠 악용 사례를 최소화하는데 초점을 맞췄다.

공동선언을 채택한 플랫폼 기업들은 콘텐츠의 유통 기업이다. 업체간 공동 대응을 통해 악성 딥페이크 영상 유통을 효율적으로 필터링할 수 있을 것으로 기대된다. 또 빅테크가 앞장섬으로써 IT업계 전반에 딥페이크 신뢰도 제고 분위기가 형성될 수 있을 것으로 전망된다.

중요한 것은 총선 이후에도 딥페이크 대응 노력은 지속돼야 한다는 점이다.최근 한 글로벌 기업은 딥페이크로 인해 수백억원 가량의 사기를 당했다. 본사 CFO로부터 거액의 돈을 송금할 것을 요청받아 피싱으로 의심했지만 화상회의로 본사 임원이 재차 요구하자 송금한 탓이다.

또 일반인도 불과 만원 남짓한 금액을 지불하면 '페이스 스와핑'이 가능하다. 누구나 영상에 원하는 얼굴을 합성할 수 있게 되면서 페이스 피싱 위험은 커지고 있다.

기업의 자정 노력과 함께 정부의 규제가 발을 맞춰야 한다. 콘텐츠 탐지 기술보다 생성 기술이 더 빠른 속도로 발전하기 때문이다. 딥페이크 콘텐츠를 판별하기 위한 일정 수준의 규제가 필요하다.

현재 국회에는 '정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정안', '인공지능산업 육성 및 신뢰 확보에 관한 법률안' 등 생성형 AI와 관련된 다양한 법안이 계류 중이다. AI를 이용해 만든 가상 영상 콘텐츠 등에 표시 의무를 부과하는 것, 인공지능 연구 개발 등 사업을 지원하는 것 등이 골자다.

딥페이크 기술은 콘텐츠 비즈니스 분야 등에서 활용 가치가 무궁무진하다. 하지만 악의적 이용 사례 때문에 기술 자체가 발목 잡혀서는 안 된다. 순기능을 극대화하고 역기능은 최소화하기 위해 세밀한 규제 설계가 필요한 시점이다.

손지혜 기자 [email protected]