AI가 ‘손자의 목소리’까지 복제…신종 음성 사기로 수천만 원 피해 속출

[서울=뉴스닻] 최승림 기자 = 인공지능(AI)이 일상과 산업 전반에 침투한 가운데, 이제는 가족의 목소리를 완벽히 모방해 금전을 갈취하는 AI 음성 사기(voice cloning scam) 가 급속히 확산하고 있다. 미국 앨라배마주에서는 노년층을 중심으로 수백 건의 피해가 발생했으며, 일부 피해자는 수만 달러를 잃었다.

앨라배마주 버밍햄에 거주하는 앨리스 보렌(Alice Boren) 부부는 지난 해 충격적인 전화를 받았다. 전화기 너머에서 들려온 목소리는 분명 증손자 캐머런(Cameron) 의 것이었다.
“할머니, 코가 부러지고 피가 나요. 교통사고가 났고 곧 감옥에 갈지도 몰라요.”

그는 사건 번호와 변호사 이름까지 말하며 “보석금 1만 1천 달러만 내주면 집에 갈 수 있다”고 호소했다. 뒤이어 변호사라고 주장한 남성이 전화를 걸어 같은 말을 반복했다. 다급한 상황에 속을 뻔했지만, 이후 실제 손자와 통화한 결과 모든 것이 AI로 만들어진 음성 사기극이었다.

보안 전문가이자 윤리적 해커(ethical hacker)인 케빈 매닝(Kevin Manning)은 기자의 음성을 약 30초간 녹음해 AI로 복제하는 실험을 진행했다. 결과는 충격적이었다.
“단 30초의 음성 데이터만 있으면, 그 사람의 억양·감정·호흡까지 그대로 재현할 수 있다”며 “AI가 한 번 학습하면 그 목소리로 무한한 길이의 대화 스크립트를 생성할 수 있다”고 말했다.

이 기술은 원래 TTS(음성합성) 나 보조 기기 개발에 사용되었지만, 현재는 사기범들의 주요 수단으로 악용되고 있다.

앨라배마 증권위원회(ASC) 국장 아만다 센(Amanda Senn)은 “AI 사기는 이미 ‘10점 만점 중 10점’ 수준의 위협”이라고 경고했다.
그녀는 “AI는 선과 악의 기술 군비 경쟁(arms race) 으로 변했다”며 “사이버 범죄자들이 합법적 기술 개발보다 빠른 속도로 진화하고 있다”고 말했다.

현재 앨라배마주에서는 수백 명의 피해자가 수백만 달러의 손실을 입었으며, 자금을 회수할 가능성은 거의 없다고 한다.
센 국장은 “최근 범죄자들은 ChatGPT를 본뜬 ‘FraudGPT’ 같은 불법 AI 툴을 활용해 피해자를 속이고 있다”고 덧붙였다.

최근 범죄조직은 음성 합성뿐 아니라 딥페이크(Deepfake) 영상까지 제작해 금융기관과 투자자들을 속이고 있다.

일부는 피해자의 신원을 도용해 가짜 보험, 투자, 스트리밍 서비스 가입을 시키거나, 가짜 계좌로 송금을 유도하는 사례도 늘고 있다.

센 국장은 “AI는 혁신의 도구이기도 하지만, 경계심을 잃는 순간 가장 교묘한 범죄 수단이 된다”며 “지금은 ‘의심하는 습관’이 최고의 방어 수단”이라고 강조했다.

[저작권자 ⓒ 뉴스닻. 무단전재·재배포 금지]
최승림 기자 (seunglim.choi@newsdot.net)