앤트로픽, AI 모델의 실제 작동 여부 검증하는 기술 공개… 암호화 증명으로 신뢰성 강화

미국 인공지능(AI) 기업 앤트로픽(Anthropic)이 AI 서비스에서 실제로 어떤 모델이 응답을 생성했는지 확인할 수 있는 새로운 검증 기술을 공개했다. AI 모델의 내부 정보를 외부에 노출하지 않고도 서비스 제공자가 약속한 모델이 사용됐는지 검증하는 방식으로, AI 서비스의 투명성과 신뢰성을 높이기 위한 연구다.

앤트로픽은 2일 공식 연구 발표를 통해 '플래시프루브(FlashProve)'라는 암호화 기반 AI 검증 시스템을 공개했다. 연구진은 관련 기술 보고서와 실행 코드, 수학적 검증 자료를 함께 제공해 외부 연구자들이 기술의 작동 방식과 한계를 살펴볼 수 있도록 했다.

이번 연구는 AI 이용자가 서비스에서 실제로 어떤 모델이 사용되는지 직접 확인하기 어렵다는 문제에서 출발했다. AI 서비스를 이용할 때 화면에 표시되는 모델 이름과 실제 서버에서 작동하는 모델이 일치하는지, 응답이 중간에 변경되지 않았는지 등을 이용자가 독립적으로 확인하기는 쉽지 않다.

플래시프루브는 암호화 기술을 이용해 이러한 문제를 해결하도록 설계됐다. AI 서비스 제공자가 특정 모델의 정보를 식별할 수 있는 암호학적 증명 기준을 마련하면, 이후 생성된 응답이 해당 모델의 연산 결과와 일치하는지 확인하는 방식이다.

이 과정에서는 모델의 가중치를 공개할 필요가 없다. AI 모델의 가중치는 학습 과정에서 형성된 수치 정보로, 모델의 성능과 작동 방식을 결정하는 핵심 요소다. 상업용 AI 기업들이 이러한 정보를 비공개로 유지하면서도 모델의 작동 여부를 증명할 수 있다는 점이 이번 기술의 특징이다.

검증에는 '영지식 증명(Zero-Knowledge Proof)' 계열의 암호화 기술이 활용된다. 이는 검증에 필요한 핵심 정보를 직접 공개하지 않으면서 특정 계산이나 조건이 올바르게 수행됐음을 증명하는 기술이다.

앤트로픽은 메타의 공개 AI 모델인 '라마 4 매버릭(Llama 4 Maverick)'을 이용해 시스템의 성능을 시험했다. 약 4,000억 개의 매개변수를 갖춘 모델을 대상으로 엔비디아 H100 그래픽처리장치(GPU) 한 대에서 초당 약 110토큰에 해당하는 검증용 증명을 생성했다고 밝혔다.

연구진이 공개한 실험 결과에 따르면 1,024토큰 길이의 요청에 대한 증명 파일 크기는 약 19메가바이트(MB)였으며, 24개 CPU 스레드를 사용하는 환경에서 증명 하나를 검증하는 데 약 17초가 소요됐다.

다만 증명을 생성하는 과정에는 상당한 연산 비용이 필요하다. 앤트로픽은 이번 실험에서 증명 생성에 투입된 GPU 연산 시간이 일반적인 모델 실행보다 약 70~95배 많았다고 설명했다.

이번 기술은 AI 서비스 제공자뿐 아니라 외부 평가기관에도 활용될 가능성이 있다. 특정 AI 모델을 사용해 보안 점검이나 다른 작업을 수행했다고 주장하는 경우, 실제 해당 모델이 사용됐는지 확인하는 수단으로 발전시킬 수 있다는 설명이다.

앤트로픽은 연구 코드와 관련 문서를 아파치 2.0(Apache 2.0) 라이선스로 공개했다. 이를 통해 외부 개발자와 연구기관이 기술을 시험하고 개선할 수 있도록 지원한다는 방침이다.

다만 플래시프루브는 아직 연구용 시제품으로, 일반 이용자가 사용하는 클로드(Claude) 서비스에 실제 적용된 기능은 아니다. 현재 검증 가능한 입력 길이와 모델 연산 방식에도 제한이 있으며, 공개된 실행 코드와 수학적 보증 사이의 일치 여부 역시 추가적인 검토가 필요한 부분이다.

앤트로픽은 이번 공개를 완성된 상용 기술의 출시가 아닌 중간 연구 성과 공유로 설명했다. 향후 검증 범위를 확대하고 연산 비용을 줄이는 작업이 진행되면 AI 서비스의 모델 신원 확인과 외부 감사 분야에서 활용 가능성이 높아질 것으로 보인다.

박태민/taemin2347@newsdot.net

※ 참고자료

*Anthropic, "Progress on provable inference for large language models", 2026년 11월 2일 참조.

*TechCrunch, "Anthropic is working on a system to prove AI models’ identity", 2026년 11월 3일 참조.