Bir Yapay Zeka Hatası Daha: Gözaltına Alınan Siyahi Kadın Yüz Tanıma Sistemi Üzerinden Suçsuz
Yapay zeka teknolojileri üretken araçlarla akıllı telefonlarımızda bile kullanılabilir hale gelip milyarlarca insanın hizmetine sunulmuş olsa da aslında yıllardır hayatımızda büyük bir paya sahip. Birçok branşta bu teknolojiler, güvenlik, öngörü, operasyon ve kolaylaştırma için.kullanılıyor.
Elbette bazı kullanımlar zaman zaman tartışmalara yol açabiliyor; ABD’de polis güçlerinin bu sistemleri yüz tanıma için kullanması hakkında. Vatandaşların bu teknolojiyle haksız yere suçlandığını daha önce gördük. Bunların ortasına yakın bir yenisi katıldı.
Yanlış gözaltı ile ne oldu:
İki çocuğu olan ve üçüncü çocuğuna 8 aylık hamile olan 32 yaşındaki siyah kadın Porcha Woodruff, evinde çocuklarını okula göndermeye hazırlanırken polis kapısını çaldı. grup, Woodruff araba hırsızlığı iddia üzerine evinden götürüldü.
“Dalga mı geçiyorsun?” Woodruff bu maç sırasında söyledi. Soru sorarak ve karnını işaret ederek suç işleyecek durumda bile olmadığını anlatmaya çalıştı ama olmadı. Detroit Gözaltı Merkezine götürüldü ve burada 11 saat tutuldu.
Gözaltındayken aranmak üzere telefonu elinden alındı ve işlemediği bir kabahatten sorguya çekildi. Ayrıca, tutulduğu hücrede sırt ağrısı ve kasılmalar yaşadı. Üstüne üstlük, serbest kalması için 100.000 dolarlık bir kefalet sağlandı.
Tabii iş burada bitmedi. Gözaltından serbest bırakılan Woodruff, doğruca hastaneye gitti. burada kendisine susuzlukTeşhis konuldu ve intravenöz sıvı desteği verildi.
Ertesi gün polis merkezine gidip telefonunu aldı ve ardından Zoom üzerinden iki kez mahkemeye çıktı. Ama yargıç delil yetersizliğinden davayı reddetmiştir.
Ancak tüm bunlar yalnızca arızalı bir yüz tanıma sistemi nedeniyle oldu ve geçen Şubat ayında oldu.
Yapay zeka, altıncı kez yanlış kişinin gözaltına alınmasına/tutuklanmasına yol açtı: Hepsinin ortak bir yanı var!
Woodruff, ABD’de yapay zeka nedeniyle tutuklanan altıncı kişi ve First Lady oldu. Eğer bu altı kişinin tek ortak noktası buysa onlar siyahtı.Dava, Detroit Polis Departmanı için üçüncü vakaydı.
Şehir polisi, DataWorks Plus tarafından sağlanan bir yüz tanıma sistemi kullanır.
Woodruff bu hafta Detroit belediyesine dava açtı:
Woodruff Salı günü Detroit şehrine karşı dava açtı. Davanın açılmasıyla birlikte Detroit polisinden açıklama geldi. Şef James E. White, New York Times’a durumu ciddiye aldıklarını söyledi:
Yüz tanıma sisteminin yanlış çalışma mantığı:
- Woodruff’un uyumsuz fotoğrafı (solda) ve bugünü (sağda).
Woodruff’un yüzünün gerçek suçluyla eşleşmesinin nedeni, yapay zeka için geliştirilen sistemde açılabilen uygulamaydı. Sistem, bireyleri daha önce suç faaliyetleri olan kişilerle karşılaştırdı. Sistemden eşleşmeler son onay bir insan tarafından verildi.
Woodruff’un gözaltına alınmasına yol açan olayı araştıran analist de eşleşmeyi doğru buldu ve Woodruff’un adını dedektife gönderdi. Woodruff’un bu sistemde bir yüzünün olmasının sebebi 2015 yılında olmasıdır. ehliyetsiz araç kullanmaktandikkate alınmasıydı.
Ancak, sistem tek hata değildir:
Eşleşmeyi yanlış bulan analistin yanı sıra araç hırsızlığı kurbanı Ortada Woodruff olmak üzere 6 kişiyi kendi gözleriyle gören kişi yanlışlıkla Woodruff’u işaret etti. Bu da bayanın gözaltına alınmasına yol açan son faktör oldu.
Detroit polisi 2020’de yeniden gündem oldu:
Sadece Detroit’te değil, ABD’nin farklı bir yerinde daha emsalli bir olay yaşandı:
