AI 보디캠 실험에 시민 감시 논란 확산
경찰용 얼굴 인식 기술, 윤리 기준 다시 도마 위로
정확도 향상 주장 속 편향·오작동 우려 여전
에드먼턴 시험운영, 북미 치안 정책의 분수령 되나
공공안전 명분과 프라이버시 침해 논쟁 재점화
캐나다 앨버타주 에드먼턴 경찰이 인공지능(AI) 기반 얼굴 인식 기능을 탑재한 보디캠을 본격적으로 시험 가동하면서, 북미 전역에서 논란이 재점화되고 있다. 한때 “윤리적 우려가 크다”며 금지 대상에 가깝던 기술이 현장 실험 단계로 옮겨가자, 감시사회 강화와 인권 침해 가능성을 둘러싼 우려가 커지고 있다는 것이다.
AP통신은 6일(현지시간) 미국 테이저건 및 보디캠 제조 대기업 ‘액손’이 최근 에드먼턴에서 시작한 얼굴 인식 시범사업이 “제품 출시가 아닌 초기 단계의 현장 연구”라는 설명에도 불구하고, 광범위한 사회적 논쟁을 촉발하고 있다고 전했다.
7천여 명 얼굴, 실시간 감지 대상… “위험 인물 경보용”
에드먼턴 경찰이 운용 중인 AI 보디캠은 약 7,000명 규모의 ‘고위험군 감시 목록’에 등록된 이들의 얼굴을 자동 인식하도록 설계됐다. 경찰에 따르면 이 명단은 폭력·무기 소지·도주 위험·고위험 범죄자 등 강력 범죄와 연관된 인물들로 구성돼 있으며, 별도로 중범죄 체포영장이 발부된 724명도 별도 목록으로 포함돼 있다. 경찰은 이번 시범사업이 순찰 중인 현장 경찰관의 안전성을 높이고, 사건 대응 시 위험 인물을 조기에 감지하기 위한 목적이라고 설명했다. 현재 약 50명의 경찰관이 시험에 참여하고 있으며, 식별 결과는 현장에서 즉각 통보되지 않고 사후 분석용으로만 활용된다. 실험은 낮 시간대에 한정해 올해 12월 말까지 진행된다.
액손 윤리위원회 전 의장 “충분한 공론화·검증 없어 우려”
액손은 2019년 자사 AI 윤리위원회의 권고에 따라 경찰용 얼굴 인식 기술 도입을 중단한 바 있다. 당시 위원장을 지낸 뉴욕대 법학자 배리 프리드먼 교수는 이번 시범사업과 관련해 “기술의 위험과 사회적 비용에 비해 효익이 명확히 입증되지 않았다”며 깊은 우려를 표했다고 AP는 전했다. 프리드먼 전 위원장은 “이런 결정은 경찰 조직이나 민간 기업이 단독으로 판단할 사안이 아니며, 투명성과 책임성이 핵심인데 이번 사업에는 그런 요소가 보이지 않는다”고 지적했다.
정확도 개선 주장 vs 편향·오작동 우려 여전
액손 측은 “수년간 통제된 환경에서 연구를 지속해 왔고, 기술의 정확도가 상당히 개선됐다”고 주장했다. 그러나 회사는 어떤 AI 모델을 사용하는지 공개하지 않았다. 또한 “거리·조명·각도 등 변수는 특히 피부색이 어두운 인물에게 부정확성을 유발한다”는 점도 시인했다. 이 때문에 모든 일치 결과는 반드시 인간 검토를 거쳐야 하며, 시범사업은 인간 검토자의 교육·감독 기준 설정에도 목적이 있다고 설명했다.
캐나다·미국·유럽, 얼굴 인식 기술을 둘러싼 엇갈린 흐름
앨버타주는 지난해 모든 경찰에 보디캠 착용을 의무화했으며, 이를 투명성과 책임성 강화를 위한 조치로 소개해 왔다. 그러나 보디캠이 AI 얼굴 식별 기능과 결합되면서 정책 취지와 충돌할 수 있다는 지적이 나온다. 미국에서도 여러 주와 도시에서 경찰의 실시간 얼굴 인식 기술을 제한하거나 금지했지만, 연방 정부 차원에서는 규제를 막거나 축소하려는 움직임도 있다는 것이 AP의 분석이다. 유럽연합(EU)은 공공장소에서의 실시간 얼굴 스캔을 전면 금지하고 있으나, 영국은 EU와 결별한 이후 해당 기술을 적극 활용해 최근 2년간 1,300건의 체포에 이용했다고 보도는 전했다.
“에드먼턴이 실험실”… 지역사회 신뢰·인권 논란도 대두
캐나다 에드먼턴대 범죄학자 테미토페 오리올라 교수는 “얼굴 인식 기술이 공항 등에서 이미 일상적인 만큼, 경찰이 실험적으로 도입하는 것도 예상된 흐름”이라면서도 “이 지역 경찰이 흑인·원주민 공동체와 갈등을 겪어 온 만큼 실제 치안 개선 효과와 시민 신뢰 회복으로 이어질지는 지켜봐야 한다”고 말했다.
AP는 액손이 지난해 로열캐나다기마경찰 보디캠 납품 경쟁에서 모토로라 솔루션을 제치며 캐나다 시장에서 입지를 넓혀온 가운데, 이번 현장 실험이 향후 북미 전역의 경찰 정책에 막대한 영향을 미칠 가능성이 있다는 전문가들의 전망을 소개했다.
