[IT, 테크]유럽의회, '법 집행기관'은 AI 사용 금지한다

2021-10-08

MEPs oppose mass surveillance

해당 결의안에는 '얼굴 인식 기술'과 '범죄 예측 기술'을 수사에 사용하는 것을 반대하는 안건이 포함되어 있다. 찬성 377, 반대 248, 기권 62로 결의안이 채택되었다. 이것으로 인해 수사기관과 국경 검문소 등에서는 AI를 사용하는 데 제한이 걸린다.

범죄 단속에 있어서 AI 관련 기술은 큰 논쟁이 되어 왔다. 잘못된 범죄 예측은 무고한 사람들을 피해자로 만들 수 있으며, 치안 유지를 명목으로 시민 감시로 이어질 수 있기 때문이다. 중국 등의 몇몇 나라에서는 얼굴 인식과 생체 인식을 사용해 실제 시민들의 행동을 제한하고 있는 것으로 알려졌다. 미국에서는 잘못된 얼굴 인증 시스템으로 인해 오인 체포 사건이 발생한 바 있다.

유럽의회는 AI 알고리즘이 특정 범죄에서 악용되는 것을 막기 위해 이 같은 결의안을 채택했다고 밝혔다. 특히 AI를 사용해 소수 민족, LGBTI, 노인, 여성 등을 차별하는 것을 막기 위해 인간에 의한 감독과 법적 권한이 필요하다고 전했다. 또한 공공기관에서 AI를 이용할 경우 투명성과 추적 가능성을 충분히 확보해야 한다고 밝혔다.

유럽의회의 이번 결의안은 법적 구속력은 없지만 AI 관련 법안을 취급할 때 결정 요인으로 작용할 수 있다. EU에서는 테러 등의 중대 범죄에 대한 조치가 아니라면 생체 인식 기술을 공공장소에서 사용하는 데 제한이 걸린다.