사법부 앞에 놓인 AI 과제… 전 세계 판사들이 공통으로 마주한 고민

[서울=뉴스닻] 최승림 기자 = 인공지능(AI)이 법률 현장 깊숙이 들어오면서, 전 세계 법원과 판사들이 새로운 도전에 직면하고 있다. 변호사들이 판례 검색, 서면 작성 등 다양한 업무에 AI를 활용하기 시작하자, 법원은 이 기술을 어디까지 허용할 것인지, 또 어떤 위험을 경계해야 할지를 본격적으로 논의하고 있다.

AI가 만든 ‘가짜 인용’… 법정에서 드러난 한계

뉴욕주변호사협회(New York State Bar Association)는 최근 각국 판사들을 초청해, 법정에서 AI를 다루는 방법을 공유하는 국제 세미나를 열었다. 이 자리에서 미국 뉴욕 남부연방법원 판사인 Sidney H. Stein은 실제 재판 경험을 소개했다.

그는 한 사건에서 변호사가 제출한 서면에 판례 인용 오류가 다수 포함돼 있었다고 밝혔다. 사건 번호와 판결 자체는 실제 존재했지만, 판결문 속 문장은 AI가 만들어낸 허위 인용이었다는 것이다. 판사는 이를 “AI가 사실과 다른 내용을 그럴듯하게 만들어내는 ‘환각(hallucination)’ 현상”의 전형적인 사례라고 설명했다.

해당 변호사는 즉시 책임을 인정하고, 소속 로펌 차원에서 AI 사용 교육을 강화하겠다고 약속했다. 이에 판사는 징계 대신 경고로 마무리했다. Stein 판사는 “이런 위험이 널리 알려질수록 같은 일이 반복될 가능성은 줄어들 것”이라며, “형사 처벌보다는 벌금이나 공개적 책임이 더 적절할 수 있다”고 말했다.

한국 법원의 접근법… AI는 보조, 판단은 인간

한국의 사법 시스템도 AI 활용에 대한 원칙을 정리하고 있다. 한국 대법원 산하 사법연수기관 소속인 이서윤판사는 한국 법원이 제안한 모델을 소개했다. 이 모델의 핵심은 투명성과 책임이다.

AI는 당사자 모두가 사용 사실을 알고 동의한 경우에만 활용할 수 있으며, AI가 생성한 모든 내용은 반드시 사람이 검토한다. 최종 판단과 책임은 전적으로 판사가 진다. 이서윤 판사는 “모든 판결에는 판사의 이름이 적힌다”며 “그 이름은 책임을 의미하고, 기계는 그 책임을 질 수 없다”고 강조했다.

또한 판결은 단순히 옳고 그름을 가르는 것이 아니라, 표현의 자유와 명예, 공공 안전과 사생활 보호처럼 서로 충돌하는 가치를 저울질하는 과정이라고 설명했다. 그는 “AI는 데이터를 분석할 수는 있지만, 인간의 삶과 맥락에서 의미를 이해하지는 못한다”며, 판단의 주체는 여전히 인간이어야 한다고 말했다.

AI가 빼앗는 ‘배움의 기회’에 대한 우려

패널들은 AI가 초급 법률 업무를 빠르게 처리하면서, 젊은 변호사들의 성장 기회를 줄이고 있다는 점도 문제로 지적했다. 판례 정리나 초안 작성 같은 기본 업무는 신입 변호사들이 판단력과 압박 대응 능력을 기르는 중요한 훈련 과정이기 때문이다.

이서윤 판사는 “이런 경험을 차단하면, 10년 뒤에는 겉보기엔 훌륭하지만 실제 상황에서는 쉽게 무너지는 중견 변호사가 늘어날 수 있다”고 경고했다. 그는 AI 없이는 서면을 쓰지 못하거나, 스스로 판단을 내리지 못하는 법조인이 생길 수 있다며 “단기적인 효율을 위해 다음 세대 전문성을 희생해서는 안 된다”고 말했다.

전 세계 법원이 찾는 균형점

이번 세미나는 AI가 법률 시스템에 가져올 효율성과 동시에, 책임·윤리·교육이라는 새로운 과제를 분명히 드러냈다. 판사들은 AI를 완전히 배제하기보다는, 어디까지 허용하고 어떻게 통제할지에 대한 공통 기준을 모색하고 있다. 기술은 빠르게 발전하지만, 법정에서 최종 판단의 무게를 지는 존재는 여전히 인간이라는 점이 이날 논의의 핵심으로 남았다.

[저작권자 ⓒ 뉴스닻. 무단전재·재배포 금지]
최승림 기자 (seunglim.choi@newsdot.net)