AI가 ‘도리토스 봉지’를 총으로 오인…무장 경찰에 손목 잡힌 16세

[서울=뉴스닻] 최승림 기자 = 미국 메릴랜드주의 한 고등학생이 과자 봉지를 들고 있다가 인공지능(AI) 무기 탐지 시스템에 ‘총기 소지자’로 잘못 분류돼, 다수의 무장 경찰에게 바닥에 눕혀진 채 수갑까지 채워지는 일이 발생했다. 사건은 볼티모어 카운티의 켄우드 고등학교(Kenwood High School)에서 벌어졌으며, 학교와 지역 교육청의 대응 절차를 두고 안전보다 과도한 무력 대응이었다는 비판이 제기되고 있다.

해당 학생 타키 앨런(Taki Allen, 16)은 미식축구 훈련을 마친 뒤 친구들과 학교 밖에서 도리토스(Doritos) 과자를 먹고 있었다고 밝혔다. 그는 지역 방송에 “20분쯤 지나자 경찰차가 한꺼번에 몰려왔다. 총을 겨눈 채 ‘땅에 엎드려!’라고 소리쳤다”고 말했다. “무릎 꿇고 손을 뒤로 하라고 해서 그대로 했고, 결국 수갑이 채워졌다”고 했다. 경찰은 현장에서 그의 주머니와 주변을 수색했지만 실제 무기는 나오지 않았고, 대신 구겨 넣은 과자 봉지 하나만 발견됐다.

볼티모어 카운티 경찰은 “학생은 수갑이 채워졌지만 체포되지는 않았으며, 위협이 없다는 사실이 확인된 뒤 상황은 안전하게 종료됐다”고 밝혔다. 경찰은 “당시 현장 대응은 전달받은 정보에 비례해 적절하게 이뤄졌다”고 설명했다.

이번 상황은 학교가 도입한 AI 기반 총기 감지 시스템에서 시작됐다. 이 시스템은 교내·교외 감시카메라 화면에서 ‘무기처럼 보이는 물체’를 탐지하면 곧바로 경보를 전송하는 방식이다. 학교 측에 따르면 경보가 발생한 직후, 외부 기술업체와 교육구 안전팀의 인적 검토에서 “실제 총기가 아니다”라는 판단이 내려졌다고 한다. 그러나 이 결론이 현장에 즉시 반영되지 못한 채 학교가 학교자원경찰(SRO)과 지역 경찰서에 추가 지원을 요청했고, 결국 무장 대응으로 이어졌다는 것이다.

학교 교장은 학부모 공지문에서 “학교 안전팀은 최초 경보를 신속히 취소했으나, 이후 추가 지원 요청 과정에서 무장 경찰이 현장에 출동하게 됐다”며 “학생과 현장을 목격한 다른 학생들에게 큰 충격을 준 만큼 상담 지원을 제공하겠다”고 밝혔다.

타키 앨런은 “경찰이 나한테 AI 시스템이 ‘네가 총을 들고 있다’고 감지했다고 보여줬다. 근데 그 사진은 내가 도리토스 봉지를 들고 있는 장면이었다. 손가락 모양 때문에 총처럼 보였다고 했다”고 말했다. 그는 “지금은 훈련이 끝나도 밖에 있기 무섭다. 과자를 들고 있는 것만으로도 위험한 상황이 될 수 있다고 느꼈다”고 말했다. 그의 할아버지 라몬 데이비스(Lamont Davis)는 “누구도 이런 일을 자기 아이에게 겪게 싶지 않을 것”이라며 강하게 항의했다.

총기 감지 솔루션을 공급한 옴닐러트(Omnilert)는 “본 사건은 유감스럽다”고 하면서도, 시스템 자체는 ‘우선 탐지 → 즉시 인간 검토 → 학교 측에 상황 전달’이라는 절차에 따라 작동했다고 밝혔다. 업체 측은 “결국 실제 총기가 아니라는 점이 확인됐고, 신속한 인간 검증을 통해 안전을 우선시했다”며 시스템이 “의도대로 운영됐다”고 주장했다.

하지만 지역 정치권은 절차 자체를 문제 삼고 있다. 볼티모어 카운티 지역구 의원들은 카운티 교육청에 “AI 기반 무기 탐지 시스템 운용 가이드라인과 경찰 호출 기준을 재검토하라”고 요구하고 있다. 일부는 “AI가 잘못된 신호를 보냈을 때 최종적으로 누구 책임 하에 무장이 동원되는지 명확해야 한다”고 지적했다.

미국 학교들은 반복되는 총기 사건 이후, 캠퍼스 감시와 무기 탐지에 AI 시스템을 빠르게 도입하고 있다. 그러나 이번 사례처럼 오탐(false positive) 이 실제 무장 대응으로 연결될 경우, 학생 특히 흑인·청소년 등 특정 집단에 대한 과잉 제압으로 이어질 수 있다는 우려도 커지고 있다.

실제로 미국 내 AI 무기 스캐너 업체들은 “모든 무기를 탐지할 수 있다”는 주장을 내세워 왔지만, 일부 기업은 부정확한 광고를 했다는 이유로 조사를 받고 과장 홍보 중단 조치를 받는 등 신뢰성 논란에 직면해 있다.

이번 사건은 “AI가 학교를 더 안전하게 만드는가, 아니면 또 다른 위험을 만드는가”라는 질문을 다시 꺼내 들고 있다.

[저작권자 ⓒ 뉴스닻. 무단전재·재배포 금지]
최승림 기자 (seunglim.choi@newsdot.net