İngiltere'de yapay zeka sistemlerinin insan hakları, ayrımcılık ve etnik azınlıklar üzerindeki etkilerine ilişkin endişeler artarken, işe alım süreçlerinde kullanılan otomatik eleme sistemleri etnik azınlık mensubu adayları "orantısız şekilde" etkiliyor.

İngiltere Parlamentosunda milletvekilleri ve Lordlardan oluşan İnsan Hakları Ortak Komitesi (JCHR), geçen ay yayımladığı raporda, yapay zekanın insan hakları açısından oluşturduğu risklere karşı mevcut yasaların "yetersiz" kaldığına işaret ederek, yeni yasal düzenleme çağrısı yaptı.

Komite, yapay zekanın hızlı gelişimi karşısında mevcut yasal ve düzenleyici çerçevenin "parçalı ve takip edilmesi zor" olduğu, bunun da insan haklarının korunmasında boşluklar yarattığı uyarısında bulundu.

JCHR, yapay zekanın yol açabileceği tehditlerin ölçeği ve ciddiyeti dikkate alınarak, "yeni yapay zeka yasası" çıkarılması gerektiğine dikkati çekti.

Otomatik işe alım sistemleri adayları insan görmeden eleyebiliyor

İngiltere Parlamentosundaki insan hakları uyarıları, işe alım süreçlerinde yapay zeka ve otomatik sistemlerin kullanımıyla ilgili yeni araştırmalarla da destekleniyor.

İngiltere'de iş yerinde etnik eşitlik alanında çalışan sivil toplum kuruluşu "People Like Us" ile araştırma şirketi "Censuswide" tarafından 2 bin iş arayan kişiyle yapılan araştırma, otomatik işe alım yazılımlarının adaylarla iş arasında giderek daha belirleyici hale geldiğini ortaya koydu.

Araştırmaya göre, son iki yılda iş başvurusunda reddedilen adayların yüzde 74'ü, en az bir ret kararının otomatik sistem tarafından verildiğinden şüphelendiğini belirtti. Ancak adayların yalnızca yüzde 15'i, işverenin başvurularını değerlendirmek için otomatik sistem kullandığını kendilerine bildirdiğini aktardı.

Araştırmada, adayların çoğu zaman başvurularının bir insan tarafından görülmeden reddedildiği, bazı ret yanıtlarının ise başvuru süresi dolmadan ya da başvurudan dakikalar sonra gönderildiği belirtildi.

Etnik azınlıktan adaylar daha fazla etkileniyor

Otomatik eleme sistemlerinin etkisinin özellikle etnik azınlık mensubu adaylar üzerinde daha ağır hissedildiği vurgulanan araştırmada, bu adayların beyaz adaylara kıyasla yaklaşık üçte bir oranında daha fazla işe başvurduğu, buna rağmen bir saat içinde ret yanıtı alma oranlarının daha yüksek olduğu kaydedildi.

Buna göre, etnik azınlık mensubu adayların yüzde 41'i başvurularına bir saat içinde ret yanıtı aldığını belirtirken, bu oran beyaz adaylarda yüzde 32 oldu.

Araştırmada, iş arayanların yüzde 60'ının otomatik sistemler tarafından elenme korkusuyla öz geçmişlerinde bazı bilgileri gizlediği ya da değiştirdiği ifade edildi. Bu oran etnik azınlık adaylarda yüzde 70'e çıktı.

Etnik azınlık adayların, öz geçmişlerinden doğum ülkesi, dini ya da kültürel kimliğe işaret eden bilgileri kaldırma ihtimalinin de daha yüksek olması dikkati çekti. Her 20 adaydan biri ismini değiştirdi.