Detroit Polis Departmanı, departman aleyhine açılan bir davaya nazaran, yüz tanıma yazılımı kullanılarak yapılan yanlış bir eşleşmeye dayanarak üç çocuk annesi bir bayanı kazara tutukladı.
Altı Detroit polisi 16 Şubat sabahı erken saatlerde 32 yaşındaki Porcha Woodruff’un konutunun kapısına geldi.
32 yaşındaki Bayan Woodruff o sırada sekiz aylık gebeydi ve iki çocuğunun okula hazırlanmasına yardım ediyordu.
Polis, siyahi olan anneye Ocak ayındaki bir otomobil kaçırma ve soygun olayından ötürü tutuklu olduğunu bildirdi.
YAPAY ZEKA BAYANI OTOMOBİL HIRSIZLIĞIYLA SUÇLADI
Şaşkına uğrayan gebe bayan “Şaka mı yapıyorsunuz, otomobil hırsızlığı mı? dedi ve geçen hafta açılan federal bir davaya nazaran memurlara Sekiz aylık gebe olduğunu görüp görmediklerini sorarak reaksiyonunu ortaya koydu.
Daha sonra polisin, güvenlik imgelerini departmanın yüz tanıma yazılımından geçirdikten sonra, 2015’te tutuklanan bir kişinin sabıka fotoğrafını, otomobil hırsızlığı kurbanının Bayan Woodruff’u saldırgan olarak seçtiği bir fotoğraf dizisine koyduktan sonra onu kuşkulu olarak tanımladığını öğrendi.
Yetkililer daha sonra davayı geri çekse de, Bayan Woodruff davada, gerilime, susuzluğa ve gerilim kaynaklı kasılmalara maruz kalmasına neden olduğu argüman edilen tüm olayın, önyargılı yüz tanıma yazılımının tehlikelerinin bir örneği olduğunu savunuyor.
Şikayette, “Potansiyeline karşın, kolluk kuvvetlerinin yüz tanımaya güvenmesi, bu olayda da görüldüğü üzere, aşağılanma, utanç ve fizikî yaralanmalara neden olarak haksız tutuklamalara yol açmıştır” deniliyor.
BU OLAY ALTINCI SEFER GERÇEKLEŞMİŞ OLDU
Amerikan Sivil Özgürlükler Birliği’ne nazaran bu yanlış tutuklamanın ABD’de bu çeşitten en az altıncı olay olduğuna inanılıyor.
Örgüte nazaran bunlardan üçü, 2018 yılında yüz tanıma teknolojisini kullanmaya başlayan DPD’de meydana geldi ve ABD genelinde ezkaza tutuklanan altı kişinin tamamı Siyahtı.
25 Yaşındaki siyahi genç ailesinin önünde tutuklanmıştı
2019 yılında, Michael Oliver isimli 25 yaşındaki siyahi bir adam, bir öğretmenin cep telefonunu çalmak ve kırmakla haksız yere suçlandı.
Yüz tanıma yazılımı, görünür dövmeleri ve tez edilen hırsızlığa karışan şahıstan farklı bir beden tipi, cilt tonu ve saç tarzı olmasına karşın, polisi fotoğrafını sıraya koymaya ikna etti.
Ertesi yıl Robert Julian-Borchak, Detroit’teki üst seviye bir Shinola butiğinden hırsızlık yaptığı argümanıyla ailesinin önünde tutuklandı.
Borchak’ın ismi, bir güvenlik müteahhidinin DPD’ye güvenlik kamerası imgelerini göndermesi ve DPD’nin de bu imajları Michigan Eyalet Polisi’ne iletmesi ve polisin de yüz tanıma aracı kullanarak Borchak’ın ismini eşleştirmesi üzerine polise verildi.
“BÜTÜN SİYAH ERKEKLERİN BİRBİRİNE BENZEDİĞİNİ Mİ SANIYORSUNUZ?”
Bu tıp yanlışların yalnızca siyahi vatandaşlar üzerinde meydana gelmesi insanları sinirlendirdi. The New York Times’a nazaran Robert Julian-Borchak Williams soruşturma sırasında polise “Bu ben değilim, bütün Siyah erkeklerin birbirine benzediğini mi sanıyorsunuz?” dedi.
Yapay zeka ön yargılı beşerler tarafından manipüle edilebilir!
Yüz tanıma araçları, algoritmik önyargı olarak bilinen, önyargılı beşerler tarafından yaratılmaları nedeniyle görünüşte tarafsız teknolojilere yerleştirilen belli tercihlerden muzdarip olabilir.
Örneğin, yüz tanıma araçları çoklukla büyük manzara bilgi setleri üzerinde eğitilir ve çeşitlilik içermeyen bir bilgi setinin kullanılması, renkli insanları gerçek bir formda tanımlayamayan teknolojilerin ortaya çıkmasına neden olabilir.
