앤트로픽, AI 모델의 실제 작동 여부 검증하는 기술 공개… 암호화 증명으로 신뢰성 강화

AI 생성 이미지미국 인공지능(AI) 기업 앤트로픽(Anthropic)이 AI 서비스에서 실제로 어떤 모델이 응답을 생성했는지 확인할 수 있는 새로운 검증 기술을 공개했다. AI 모델의 내부 정보를 외부에 노출하지 않고도 서비스 제공자가 약속한 모델이 사용됐는지 검증하는 방식으로, AI 서비스의 투명성과 신뢰성을 높이기 위한 연구다. 앤트로픽은 2일 공식 연구 발표를 통해 '플래시프루브(FlashProve)'라는 암호화 기반 AI 검증 시스템을 공개했다. 연구진은 관련 기술 보고서와 실행 코드, 수학적 검증 자료를 함께 제공해 외부 연구자들이 기술의 작동 방식과 한계를 살펴볼 수 있도록 했다. 이번 연구는 AI 이용자가 서비스에서 실제로 어떤 모델이 사용되는지 직접 확인하기 어렵다는 문제에서 출발했다. AI 서비스를 이용할 때 화면에 표시되는 모델 이름과 실제 서버에서 작동하는 모델이 일치하는지, 응답이 중간에 변경되지 않았는지 등을 이용자가 독립적으로 확인하기는 쉽지 않다.