CBSA “2차 심사 대상자 식별”… 일각에선 “편향 우려”
캐나다 국경서비스국(CBSA)이 모든 육로 국경에서 인공지능(AI)을 도입해 2차 심사가 필요한 여행객을 식별할 계획이다.
‘여행객 준수 지표(TCI)’라고 불리는 이 도구는 내부적으로 개발되었으며, 기존 시스템의 데이터를 실시간으로 수집해 국경 규정 위반 위험이 높은 여행을 표시한다. 이는 국경 입출국 직원이 2차 심사 여부를 결정하는 데 도움을 주기 위한 것이다.
CBSA 대변인은 “TCI 도구는 직원들이 실시간으로 사용 가능한 데이터를 요약해 여행객 심사를 더 빨리 처리하고, 신원이 불확실하거나 위험 요소가 있다고 판단되는 여행객에 심사를 집중할 수 있도록 돕는 것”이라고 설명했다.
이 도구는 지난해 8월부터 진행 중인 CBSA 현대화 계획의 일부다.
2023년부터 6개 육상 국경에서 시범 운영 중인 TCI는 2027년 말까지 전면 도입될 예정이다.
CBSA 측은 “TCI는 단순한 지표일 뿐이며, 직원의 판단을 대체하거나 자동으로 결과를 결정하지 않는다”고 강조했다.
하지만 토론토대학의 에브라힘 바게리 교수는 “AI가 인간의 행동과 결정에 영향을 미칠 때 내재된 편향이 발생할 수 있다”고 우려했다.
그는 AI가 과거 데이터의 편향을 학습하고 이를 증폭시킬 수 있으며, 특히 소수 집단이 부정적으로 프로파일링될 위험이 있다고 지적했다. 국경 직원이 자신의 판단 대신 알고리즘의 제안을 선호하게 될 수도 있다는 것이다.
이에 대해 CBSA는 잠재적 편향을 최소화하기 위해 노력하고 있으며, 다양한 형평성 그룹에 걸쳐 도구의 성능을 모니터링할 계획이라고 밝혔다.
TCI 개발에는 약 1,530만 달러가 소요되었으며, 향후 연간 운영 및 유지보수 비용은 약 70만 달러로 예상된다.
