AI 생성 영상, 미 법정에 등장…판사들 “딥페이크 증거, 대응 준비 안 됐다”

[서울=뉴스닻] 최승림 기자 = 미국 법정에 인공지능(AI)이 만든 영상·음성·문서가 ‘증거’로 제출되기 시작하면서, 판사들이 “무엇을 믿어야 할지 모르는 시대”에 대한 불안을 드러내고 있다. 특히 사실처럼 보이는 딥페이크(deepfake) 증거가 재판 결과를 뒤흔들 수 있다는 우려가 커지고 있다.

캘리포니아 알라메다 카운티 상급법원의 빅토리아 콜라코프스키 판사는 최근 주택 분쟁 소송 ‘멘도네스 대 쿠시먼 앤드 웨이크필드’ 사건에서 이상 징후를 발견했다. 원고 측이 제출한 ‘증거 6C’라는 영상 속 증인은 목소리가 부자연스럽고 표정이 흐릿했으며, 몇 초마다 같은 표정과 말이 반복됐다.

판사는 이 영상이 실제 증언이 아니라 생성형 AI로 만든 딥페이크라고 판단했고, 원고가 이를 실제 증거인 것처럼 제출했다는 이유로 9월 9일 소송 자체를 기각했다. 원고는 “AI 생성 영상이라는 점을 판사가 ‘의심’했을 뿐, 증명하지 못했다”며 재검토를 요청했지만, 콜라코프스키 판사는 이달 6일 이를 다시 기각했다.

미네소타주 제10사법구역의 스토니 힐유스 판사는 NBC뉴스와 인터뷰에서 “많은 판사들이 ‘진짜가 아닌 증거’를 바탕으로 판결을 내릴까 두려워하고 있다”고 토로했다. AI 생성물이 한 사람의 출입금지명령, 양육권, 재산권 등 삶 전체를 바꿔놓을 수 있다는 것이다.

루이지애나주 5순회항소법원의 스콧 슐레겔 판사는 AI 도입을 적극 옹호하는 인물이지만, 동시에 위험성도 크게 우려한다. 그는 “아내가 무료 소프트웨어로 내 목소리를 손쉽게 클론해 협박 메시지 녹음을 만들고, 그 파일을 들고 어느 법원에 가도 판사는 보호명령에 서명할 것”이라며 “그 순간 집·애완동물·총기까지 잃을 수 있다”고 말했다.

캘리포니아 산타클라라 카운티의 에리카 유 판사는 “딥페이크 증거가 실제로 얼마나 자주 등장하는지 기록할 중앙 저장소조차 없는 상황”이라며 “법원에 보고되지 않은 사례가 훨씬 많을 것”이라고 말했다.

유 판사는 특히 전통적으로 ‘신뢰도 높다’고 여겨졌던 증거까지 의심해야 하는 상황이 올 수 있다고 경고한다. 예컨대 누군가가 AI로 조작한 차량 소유권 증서를 들고 카운티 청사에 가면, 담당 공무원이 진위 검증 능력이나 시간이 없어 그대로 등기할 가능성이 높다. 이후 해당 서류는 ‘공적 기록’으로 남고, 소송에서 자동으로 신뢰받는 증거가 될 수 있다.

그는 “이제 판사가 등기부 등본이나 관공서 기록까지 일일이 ‘가짜일 수도 있다’고 의심해야 하느냐는 근본적인 질문 앞에 서 있다”며 “AI는 전통적인 위조 문제를 완전히 다른 차원으로 확장시키고 있다”고 말했다.

미국 법원 안팎에서는 딥페이크 증거에 대응하기 위해 증거능력 규칙을 손질해야 한다는 주장과, 기존 규칙으로도 충분하다는 신중론이 맞서고 있다.

전 연방법원 판사이자 듀크 로스쿨 교수인 폴 그림과 워털루대 모라 그로스먼 교수는, 상대방이 딥페이크를 주장할 경우 더 엄격한 입증을 요구하고, 딥페이크 여부 판단을 배심원이 아닌 판사가 맡도록 하는 규칙 개정을 제안했다.

그러나 이 제안은 올해 5월 연방법원 증거규칙 자문위원회에서 “현행 진정성(Authenticity) 기준으로도 AI 증거를 충분히 다룰 수 있다”며 보류됐다. 다만 위원회는 “향후 필요할 경우를 대비해 규칙 초안을 ‘대기 상태’로 남겨두자”고 기록했다. 그림 교수는 “새 연방 규칙이 실제로 시행되기까지 최소 3년이 걸리는 만큼, AI 발전 속도를 따라가지 못할 수 있다”고 우려했다.

미국의 일부 주에서는 판사만으로는 감당하기 어렵다며, 변호사에게 1차 방어선 역할을 맡기고 있다. 루이지애나주는 올해 ‘법률행위에서 AI 증거 사용 시 변호사의 합리적 주의의무’를 명시한 법률(Act 250)을 통과시켰다. 변호사는 자신 또는 의뢰인이 제출하는 사진·영상·음성 등이 AI로 생성됐는지 합리적으로 확인해야 하며, 이를 소홀히 하면 직무 윤리 위반이 될 수 있다.

전문가들은 향후에는 파일의 메타데이터(생성 기기·시간·수정 이력 등 보이지 않는 기술 정보)가 진위 판별의 핵심 도구가 될 것으로 보고 있다. 실제로 멘도네스 사건에서도, 문제의 영상 메타데이터를 분석해 원고 측 주장이 ‘아이폰 15 기능’을 전제로 함에도 영상 자체는 오래된 아이폰 6에서 촬영된 것으로 나타나 모순이 드러났다.

향후에는 카메라·녹음기 제조 단계에서, 생성된 콘텐츠의 ‘원본성’을 증명하는 암호학적 서명(디지털 워터마크)을 기본 탑재하도록 요구하자는 제안도 나온다. 다만 이런 기술에 접근할 수 있는 자원과 전문성이 균등하지 않을 경우, AI·디지털 포렌식 지식이 부족한 당사자가 불리해질 수 있다는 점도 문제로 지적된다.

[저작권자 ⓒ 뉴스닻. 무단전재·재배포 금지]
최승림 기자 (seunglim.choi@newsdot.net)