[서울=뉴스닻] 김 크리스 기자 = 호주 대형 유통업체 울워스(Woolworths)가 고객 상담용 인공지능(AI) 챗봇 ‘올리브(Olive)’의 일부 기능을 수정했다. 올리브가 자신을 사람처럼 소개하고 가족 이야기를 덧붙이는 등 ‘개인사’로 대화를 끌고 가면서 고객들이 불편함과 불안을 호소한 데 따른 조치다.

24시간 전화 상담… 주문 조회부터 상품 안내까지

올리브는 울워스 고객 전화를 24시간 응대하는 AI 상담원으로, 주문 추적이나 특정 상품 찾기 등 기본 고객 서비스를 제공한다. 일부 이용자들은 “친절하다”는 평가를 남겼지만, 최근에는 일상적인 상담 중 갑자기 사적인 이야기를 꺼내는 사례가 잇따라 논란이 됐다.

“엄마가 그해 태어났다”… 가짜 개인사로 대화

SNS 이용자들은 올리브가 생년월일을 물어본 뒤 “우리 엄마도 같은 해에 태어났다”는 식의 이야기를 하거나, 스스로를 실제 사람처럼 소개하며 어머니에 대한 기억을 말하는 경험을 공유했다. 또 일부는 “사람이 타이핑하는 것처럼 가짜 타자 소리를 내서 더 무섭다”며, 사람이 응대하는지 AI인지 구분하기 어려웠다고 주장했다.

이 같은 반응은 AI가 실제 인격이 없는 도구인데도 ‘인간처럼 행동’하는 순간 소비자가 느끼는 심리적 거부감이 커질 수 있다는 점을 보여준다.

울워스 “AI가 아니라 사람이 만든 스크립트”

울워스 측은 논란이 된 ‘생일 관련 멘트’는 AI가 즉흥적으로 만든 답변이 아니라, 과거 직원이 고객과 친밀감을 높이기 위해 작성한 고정 문구(스크립트)였다고 해명했다. 회사는 “고객 피드백을 반영해 해당 스크립트를 최근 삭제했다”고 밝혔다.

기업 AI 도입 늘며 ‘투명성’ 요구 커져

이번 사례는 고객 응대에 AI를 적용하는 기업이 늘어나는 가운데, AI가 어디까지 ‘사람처럼’ 행동해도 되는지, 그리고 고객에게 AI임을 얼마나 명확히 알릴지에 대한 논쟁을 다시 불러일으키고 있다. 기술이 자연스러운 대화를 제공할수록, 이용자 입장에서는 오히려 ‘속는 느낌’과 불안이 커질 수 있다는 지적도 나온다.

[저작권자 ⓒ 뉴스닻. 무단전재·재배포 금지]
김 크리스 기자 (chris@newsdot.net)