우리 대부분은 매일 AI를 사용하지만, AI가 배후에서 작동하고 있다는 사실조차 모르는 경우가 많습니다. Pew Research에 따르면 우리가 혁신의 최전선에 살고 있는 것처럼 느껴질 수도 있지만, 많은 미국인은 여전히 AI를 경계하고 있습니다. 이는 딥페이크, 잘못된 정보 등 논란의 여지가 많은 방식으로 사용되지만 코드 작성과 같은 작업에도 도움이 될 수 있습니다. 경찰은 이를 보고서 작성, 의사소통 강화, 심지어 얼굴 인식에도 사용하고 있습니다. 하지만 AI가 틀리면 어떻게 될까요? 테네시에 사는 한 여성의 경우, 이는 자신이 한 번도 가본 적도 없는 주에서 발생한 범죄로 인해 감옥에서 몇 달을 보내는 것을 의미했습니다.
안젤라 립스는 집에서 1,000마일 이상 떨어진 노스다코타주 파고 경찰서에서 영장을 발부한 지 몇 주 뒤인 2025년 7월에 체포되었습니다. 경찰서는 Clearview AI라는 회사의 안면 인식 기술을 일상적으로 사용하는 이웃인 West Fargo PD에게 도움을 요청했습니다. Fargo는 AI가 은행 사기 사건에서 용의자를 식별하는 데 도움이 되기를 바랐습니다.
경찰은 립스를 용의자로 지목하기 전 안면인식 외에도 다른 수사단계도 진행했다고 밝혔다. 그녀에게 체포 영장이 발부되었고 US Marshalls가 그녀가 아기를 돌보고 있던 테네시에 있는 그녀의 집에 나타났습니다. 그녀는 도망자로 카운티 교도소에 수감되었고 거의 4개월 동안 보석금 없이 구금되었습니다. 이것이 어떻게 일어났는지, 그리고 Fargo 경찰국이 실수를 깨달았을 때 무엇을 했는지는 다음과 같습니다.
감옥에 갇힌 달
개인정보를 보호하기 위해 아무리 노력해도 안면인식 기술을 피하기는 어려울 수 있는데, 안젤라 립스 사건이 해결되기까지 왜 그렇게 오랜 시간이 걸렸는지는 불분명합니다. Clearview 안면 인식 시스템은 Lipps를 용의자로 식별했지만 경찰이 사용한 다른 증거는 알려지지 않았습니다. Fargo 경찰서장 Dave Zibolski는 이 사건이 AI가 생성한 단서를 “전적으로 기반”으로 한 것이 아니라고 말했습니다.
Lipps는 10월까지 감옥에 갇혀 있었는데, 이후 여러 혐의로 노스다코타로 송환되었습니다. 그녀의 변호사는 결국 그녀의 무죄를 입증하기 위해 그녀의 은행 기록을 사용했고, 혐의는 기각되었습니다. 안타깝게도 그녀의 사건은 인공지능을 이용해 부당 체포를 초래한 최초이자 유일한 사례가 아닙니다. 지난해 디트로이트 여성 포르차 우드러프(Porcha Woodruff)는 안면 인식 기능으로 잘못 식별된 후 차량 강탈 혐의로 기소되어 10시간 동안 감옥에 갇혔습니다. 혐의는 기각됐고 경찰은 실수를 인정했으며, 이 사건으로 인해 디트로이트가 안면 인식을 사용하는 방식이 바뀌었다고 한다.
안젤라 립스(Angela Lipps)는 감옥에서 석방된 후 노스다코타에 고립되었습니다. 그녀는 결국 집에 돌아왔고, 파고 경찰은 그녀가 감옥에 있었던 기간은 송환과 싸우거나 별도의 범죄로 복역했기 때문이라고 밝혔습니다. 그녀는 소송을 고려하고 있습니다. 자체 얼굴 인식 기술을 보유하지 않은 파고 경찰국은 “어떻게 운영되고 감독되는지 모르기 때문에” 웨스트 파고의 정보를 더 이상 사용하지 않는다고 밝혔습니다.
