생성형 인공지능(AI)을 활용한 신종 금융사기로 손실 금액이 400억달러에 달할 것이라는 전망이 나왔다. 전문가들은 AI가 금융산업 전반을 변화시키는 동시에 발생시키는 시장 위험에 대비해야 한다고 경고한다.

컨설팅업체 딜로이트는 최근 발간한 '2024 금융서비스 산업 예측보고서'에서 이같이 분석했다. 딜로이트 금융 서비스센터는 미국에서 생성형 AI로 인한 사기 손실 규모가 2023년 123억달러(약 17조원)에서 2027년 400억달러(약 55조원)까지 늘어날 것이라고 예측했다.

딜로이트는 지난해부터 금융·핀테크 분야에서 AI 기술을 활용한 사기 사건이 급격히 증가했다고 지적했다. 딥페이크뿐 아니라 생성 AI 이메일 사기, AI 보이스피싱 등 다양한 사기 행위 위험성이 증가하고 있다는 설명이다.

2027년까지 딥페이크 관련 손실은 연 평균 32% 늘어날 것이라고 내다봤다. 딥페이크 비디오, 가상 음성·문서 등 제작이 쉬워지고 있기 때문이다. 생성형 AI 이메일 사기로 인한 손실은 2027년까지 총 115억달러(약 15조원)에 달할 것으로 추정했다. 개인 혹은 비즈니스 이메일 계정을 손상시킨 후 무단 송금을 진행하거나, 불법 소프트웨어를 유포하는 등 생성형 AI 이메일로 인한 동시다발적 대규모 사기를 우려했다.

은행과 핀테크사가 이러한 위협에 대비해 AI와 최신 기술에 투자해야 할 필요성도 제기됐다. 기존의 위험 관리 프레임워크는 AI기술로 인한 리스크 관리에 적합하지 않기 때문이다. 딜로이트는 AI기반 리스크관리 제도로 마스터카드의 인공지능 솔루션 '디시전 인텔리전스'(Decision Intelligence)를 예로 들었다. 마스터카드는 정교한 알고리즘과 정보 분석을 통해 신용카드 사기를 방지하는 부정거래 방지 시스템을 운영하고 있다. 1조개 이상 데이터값을 분석해 거래 신뢰도와 정확도를 예측한다.

딜로이트 금융서비스 센터는 생성형AI 사기에 대비하기 위해 금융권 안팎의 요구를 당부했다. 빨라지는 AI 변화에 대응하기 위해 은행·금융사 단독이 아닌 제3자 기술업체와의 전략적 협업관계를 제언했다. 또한 새로운 인재 고용·양성 방안도 강조했다. AI시대 인재 영입을 통한 대응 체계 구축뿐 아니라 광범위한 훈련과 학습·조직문화 조성을 이어가야한다고 언급했다.

정다은 기자 [email protected]