챕터 6

딥보이스·딥페이크 시대의 검증법 — 목소리와 얼굴을 믿지 않는 습관

음성·영상 복제 사기 사례와 한계, 가족 암구호·콜백 같은 절차 검증, AI 판별 도구가 가진 정확도 한계와 국내 제도 현황을 정리합니다.

목소리가 같다고 같은 사람이 아닙니다

5장까지는 문구와 정황을 읽는 방법이었습니다. 이번 장은 문구가 아니라 목소리와 얼굴 자체가 가짜일 때입니다. 결론부터 말하면, 귀와 눈으로 가려내는 방법에는 기대지 않는 편이 낫습니다. 대신 상대가 진짜인지 확인하는 절차를 미리 정해 둡니다.

실제로 있었던 일

  • 홍콩 Arup 사건 홍콩 지사 직원이 딥페이크로 꾸민 화상회의에 속아 약 HK$2억(약 2,500만 달러)을 송금했습니다. 홍콩 경찰이 2024년 2월 공개했고 Arup이 2024년 5월 피해를 확인했습니다(Fortune, CFO Dive).
  • 국내 사례 유명 축구선수 딥페이크를 쓴 불법도박 광고(한국경제, 2025년 8월), 연예인 딥페이크 로맨스 스캠(뉴시스, 2025년 11월), 딸 목소리를 흉내 낸 긴급송금 사기(서울신문, 2025년 4월 9일)가 보도됐습니다.
  • AI 조작 음성 금융감독원은 2026년 2월 AI로 조작한 아이 울음소리를 쓰는 납치 빙자 수법에 소비자경보를 냈습니다.

경찰청이 딥페이크 사기를 별도 항목으로 집계한 통계는 확인하지 못했고, 인터넷에 도는 "증가율 2,137%" 같은 수치는 원출처가 불분명해서 인용하지 않습니다.

3초면 복제된다?

"목소리는 3초만 있으면 복제된다"는 말의 원출처는 Microsoft의 VALL-E 논문(arXiv 2301.02111, 2023년 1월)입니다. 연구실 조건에서 3초 길이의 샘플을 프롬프트로 쓴다는 의미이고, 품질은 음질과 소음 같은 조건에 크게 좌우됩니다. McAfee(2023년 5월)의 3초 주장은 업체 조사라 독립 검증으로 보기 어렵습니다. 무서운 소리를 그대로 믿기보다 "짧은 영상 하나가 SNS에 있으면 시도는 가능하다" 정도로 이해하면 충분합니다.

육안·청각 판별의 한계

단서는 있지만 오래가지 않는다

FBI 경보문은 AI 영상의 단서로 손·치아·눈의 왜곡, 부정확한 그림자, 지연, 음성 불일치를 들었습니다. 그러나 모델이 좋아지면 이런 단서는 사라질 수 있습니다. 그래서 이 장은 "얼굴 이상한지 보세요"가 아니라 "절차를 따르세요"를 중심에 둡니다. "얼굴을 가려 보라거나 옆모습을 보여 달라고 하라"는 요령도 공식기관 출처를 확인하지 못했으니 보조 수단으로만 생각하세요.

판별 도구도 완벽하지 않다

학술 평가에서 딥페이크 탐지기의 실전 성능은 실험실과 크게 달랐습니다.

연구 결과
Deepfake-Eval-2024(arXiv 2503.02857, 2025년 3월) 오픈소스 탐지기의 AUC가 학술 데이터셋 대비 영상 -50%, 오디오 -48%, 이미지 -45% 하락. 오픈소스 최대 AUC는 0.58
VoiceWukong(arXiv 2409.06348) 최고 EER 13.5%, 대부분 20% 초과(원 데이터셋 0.82%)

상용 탐지기는 더 낫지만 인간 전문가에는 못 미쳤습니다. AI or Not이나 Resemble AI의 탐지 기능처럼 이미지·음성이 AI로 만들어졌는지 판별해 주는 서비스가 있습니다. 하지만 개별 서비스의 정확도를 독립적으로 평가한 자료는 찾지 못했습니다. Resemble 자체 블로그의 98.1%는 자사 테스트셋 결과라 인용하지 않습니다. 결과가 "AI 아님"이어도 믿지 말고, "AI 의심"이면 신호 중 하나로만 쓰세요.

탐지 도구의 결과는 증거가 아니라 단서입니다. 송금 여부는 도구가 아니라 절차가 결정합니다.

절차로 확인하는 3가지 방법

1. 가족 암구호

FBI는 2024년 12월 3일 공개한 경보(I-120324-PSA)에서 가족끼리 비밀 단어를 정해 두라고 권고했습니다. 이 권고는 원문으로 확인했습니다. 한국의 금융감독원·경찰청이 공식 권고로 낸 내용은 확인하지 못했으므로, 국내에서는 실무 팁으로 이해하세요.

좋은 암구호의 조건입니다.

  • 인터넷에서 검색해도 나오지 않는 가족만 아는 단어나 사건
  • 메신저에 적어 두지 않기 (사진·메모 앱에도 저장 금지)
  • 긴급 송금·계좌 요구 때만 묻기
  • 정기적으로 바꾸기

2. 끊고 다시 걸기(콜백)

FBI 경보는 전화를 끊고 은행·기관의 연락처를 직접 찾아 확인하라고 합니다. 3장에서 본 대로 악성앱이 깔린 폰은 재발신이 가로채일 수 있어, 의심되면 다른 사람의 전화로 확인합니다.

3. 두 번째 경로로 묻기

영상통화 속 상사가 송금을 지시하면, 같은 화상회의 안에서 확인하지 말고 평소 쓰던 사내 메신저나 직접 통화로 따로 확인합니다. Arup 사건이 알려 주는 교훈입니다.

상황별 대응표

상황 지금 할 일
자녀가 울며 돈이 필요하다고 함 끊고 자녀 번호로 직접 걸기, 암구호 묻기
상사가 영상통화로 송금 지시 다른 채널로 재확인, 결재 절차 요구
연예인·전문가가 투자 권유 광고 속 영상은 증거 아님, 금융당국 조회
모르는 번호에서 지인 목소리 일단 끊고 저장된 번호로 확인

국내 법·제도

알아 둘 것

  • 성폭력처벌법 개정(2024년 9월 26일 의결)으로 허위영상물의 소지·시청이 처벌 대상이 됐습니다. 소지·시청은 3년 이하 징역 또는 3천만 원 이하 벌금, 제작은 7년 이하 징역 또는 5천만 원 이하 벌금입니다. 시행일은 2024년 10월 16일로 표기되나 법제처 원문으로 확인하세요. 이 개정은 성적 딥페이크에 한정됩니다. 딥페이크 사기에 직접 적용되는 신설 처벌 조항은 확인하지 못했습니다.
  • 성적 딥페이크 피해 신고처로 디지털성범죄피해자지원센터(02-735-8994), 여성긴급전화 1366, 방송미디어통신심의위원회, 경찰 ECRM이 안내됩니다.
  • AI기본법이 2026년 1월 22일 시행되어 생성형 AI 결과물에 대한 표시 의무가 생겼습니다. 대상은 개발사·서비스 사업자이고 과태료는 최대 3,000만 원이지만, 계도기간 표현은 기사마다 달라 원문 확인이 필요합니다.

AI에게 시킬 만한 일

음성·영상 자체를 AI에 올려 진위를 묻는 것은 위 한계 때문에 권하지 않습니다. 대신 이런 질문은 유용합니다.

우리 가족(부모, 배우자, 자녀 N명)이 쓸 수 있는 긴급 송금 확인 절차(암구호, 콜백, 제3자 확인)를 한 장짜리 체크리스트로 만들어줘. 어르신이 이해할 수 있게 쉬운 말로, 상황별로 "이 말이 나오면 바로 끊기" 문장 5개도 포함해줘.

Claude나 ChatGPT 같은 범용 AI는 절차 문서를 만드는 데 강합니다. 진위 판정은 그들의 몫이 아닙니다.

다음 장에서는 이미 돈을 보냈거나 앱을 설치한 직후, 시간 순으로 해야 할 일을 다룹니다. 112 신고, 지급정지, 피해구제, 명의도용 차단 순서입니다.

도구 모음은 도구 레시피 모음, 연재 목록은 시리즈 목록입니다.