Twitter yakın vakitte, ayrımcılık yaptığı için eleştirilen otomatik fotoğraf kırpma özelliğini kullanıcının inisiyatifine bırakmıştı. Twitter, otomatik fotoğraf kırpma özelliğini kaldırmakla gerçek bir karar aldığını gösteren bir araştırmanın sonuçlarını paylaştı. Kullanıcıların geçen yıl siyahların yüzlerinin otomatik kırpma sonrası geri planda kaldığına yönelik tezlerini araştıran Twitter, bu tenkitlerin haklı olduğu sonucuna vardı.
Test edilen bu otomatik algoritmanın sahiden de siyahlar ve erkeklere karşı ayrımcılık yaptığı ortaya çıktı.
Ön plana çıkarıyor
Araştırmaya nazaran algoritma beyaz bireyleri yüzde 4, bayanları da yüzde 8 oranında daha çok öne çıkarıyordu. Fotoğrafların kırpılan kısımlarında bayanların yüzlerinden çok bedenlerinin kadraja alınıp alınmadığı da incelendi ancak araştırmaya nazaran bu türlü bir durum kelam konusu değil.
Sorunların fotoğrafın art planı ve göz rengi üzere birçok nedenden kaynaklandığını ancak bunların hiçbirinin mazeret olamayacağının vurgulandığı araştırmada, “Otomatik fotoğraf kırpma algoritması sıkıntılı zira kullanıcının kendi kimlik ve pahalarını tabir etmesini kısıtlayıp tersine fotoğrafın en farklı kısmının neresi olduğuna dair normatif bir bakış dayatıyor” denildi.
Diğer bir teknoloji devi Amazon, işe alım için ürettiği için yapay zekanın kullanımına cinsiyetçilik yaptığı gerekçesiyle son vermişti.