미국 메릴랜드주 볼티모어에서 인공지능(AI) 기반 총기 감지 시스템이 16세 학생이 들고 있던 과자 봉지를 총기로 오인하면서 경찰이 출동하고 학생에게 수갑을 채우는 사건이 발생했다.
27일(현지시간) BBC, CNN 등 외신에 따르면 사건은 지난 20일 고등학생 타키 앨런이 학교에서 축구 연습을 마친 뒤 과자 한 봉지를 먹고 빈 봉지를 주머니에 넣고 친구들과 대화하던 중 발생했다. AI 총기 감지 시스템이 앨런이 들고 있던 빈 과자 봉지를 총기로 잘못 판단하면서 경보를 발령했다. 이 경보를 받은 학교 안전팀은 즉시 경찰에 신고했고 무장 경찰이 학교에 출동했다.
앨런은 지역 매체에 “경찰차가 8대나 도착했고 경찰들이 총을 겨누며 바닥에 엎드리라고 했다. 무릎을 꿇게 한 뒤 수갑을 채우고 몸을 수색했다”고 전했다. 볼티모어 카운티 경찰은 “당시 제공받은 정보를 바탕으로 적절히 대응했다. 위협이 없다는 사실을 확인한 뒤 사건은 안전하게 종료됐다”고 밝혔다. 앨런은 체포되지는 않았다.
AI 시스템 제공업체 ‘옴닐러트’는 사건 발생에 대해 유감을 표하며 “피해를 본 학생과 지역사회에 우려를 전한다”고 밝혔다. 이어 “나중에 해당 물체가 총기가 아닌 것으로 확인됐지만 시스템은 설계대로 작동했다”고 강조했다. 회사에 따르면 AI는 총기로 의심되는 물체를 탐지하고 즉시 인간 검토자에게 알렸으며 검토 결과 위협이 없다는 사실이 확인됐다. 하지만 학교 교장은 이를 제대로 확인하지 않고 경찰 지원을 요청하면서 상황이 과잉 대응으로 이어졌다.
이번 사건으로 학교 내 AI 기반 총기 감지 시스템 사용에 대한 비판이 제기됐다. 볼티모어 카운티 의원 이지 파토카는 사회관계망서비스(SNS)에서 “도리토스 한 봉지 때문에 학생이 경찰 추궁을 받는 일은 있어서는 안 된다”며 절차 재검토를 촉구했다. 줄리언 존스 의원도 AI 시스템 사용 안전 장치 점검을 강조하며 “이런 오류가 반복되지 않도록 조치를 마련해야 한다”고 말했다.
앨런은 이번 사건 이후 축구 연습을 마치고 밖에 나가는 것을 꺼리고 있으며 과자나 음료를 들고 밖에 나가는 것이 안전하지 않다고 밝혔다.
한편, 미국에서 AI 기반 무기 탐지 시스템의 정확성은 꾸준히 논란이 되고 있다. 지난해 미국의 한 무기 스캐닝 업체는 자사 AI 스캐너가 모든 무기를 탐지할 수 있다고 주장했지만 조사 결과 근거 없는 주장으로 판명됐다. 전문가들은 AI 무기 탐지가 현실에서는 오류가 잦고 인간 검토와 안전장치가 반드시 필요하다고 지적한다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
hihilinn@sedaily.com
