[편집인의 시선] AI 챗봇은 아직 ‘믿는 도끼’ 축에도 끼지 못한다

"노력하겠지만, 완전히 믿지는 마세요"ChatGPT 활용 제작 이미지 정부와 지자체를 포함한 공공부문 AI 챗봇이 제공하는 정보와 답변의 정확성과 다양성을 아무리 강조해도 부족하지 않다. AI 챗봇이 거짓말쟁이가 되거나 듣기 좋은 답변만 해대는 ‘아첨꾼’이 되도록 해서는 안 된다. 정보의 편향성에 대한 검증 없이 밑도 끝도 없는 편견과 오해를 불러일으키는 불안한 폭탄이 되어서도 안 된다. 기업이나 민간에서 활용하는 AI 챗봇의 위험성도 문제지만, 공공부문 AI 챗봇의 실패는 더 치명적인 사회적 손상을 초래한다. 2023년 10월부터 미국 뉴욕시(New York City)가 운영하고 있는 ‘MyCity’ 챗봇의 사례를 보자. 당시 에릭 애덤스(Eric Adams) 뉴욕시장은 뉴욕시의 AI 전략에 포함된 40여 개의 실행계획 중 하나로 ‘마이시티’ 챗봇을 내놓았다. 뉴욕시의 중소기업이나 사업자에게 빠르고 신뢰할 수 있는 정보를 제공해 이들의 의사결정이나 협력 관계 구축에 도움을 주겠