Yapay zeka insan yaratımı bir kavram olduğu için içerisindeki bilgilerin tarafsızlığı ve özellikle ön yargılı olup olmadığı uzun zamandır konuşuyor. Etik alanda çalışma yapan yapay zeka mühendisleri din, dil, ırk ve cinsiyet gibi birçok yanlış insan algısının yapay zekaya yüklendiğini ve bunun yakın gelecekte çok büyük bir sorun teşkil edebileceğini dile getiriyor. Avrupa Komisyonu ise bu kaygılara kayıtsız kalmayarak yapay zekanın dünya üzerinde ayrımcı bir rol oynamasının önüne geçmesi için yeni bir teklif hazırlıyor.
Tarafsız yargı
Avrupa Komisyonu üyelerine göre uzaktan çalışma ve eğitim dönemiyle birlikte yapay zekaya daha çok bağlı hale geldik. Performans ölçümleri ya da notlandırmalar genellikle yapay zekanın işlediği veriler doğrultusunda gerçekleşiyor. Dolayısıyla küresel bir krize dönüşmeden önce yapay zekanın hatalarından arındırılması büyük önem kazanıyor. Nötr ve tamamen ön yargısız olması gereken yapay zeka, doğru işlemezse toplumlar ve ırklar arasında sistematik bir ayrımcılık gerçekleştirebilir.
Fişlemelerin önüne geçilecek
Buna göre Avrupa Komisyonu mevcut uygulamaları güncelleyerek çalışmalarına hız katacak. İlk hedeflerden biri bazı ülkelerde bazı durumlarda vize başvurusunda kullanılan yalan detektörü. Özellikle göçmenlerin tepkilerini yanlış ölçerek “yalan beyan” olarak kabul eden bu uygulama ya kaldırılacak ya da işlevi değiştirilecek. Hükümetlerin bu tip tam olgunlaşmamış teknolojilerden veri elde edip gerçek yargılara varmasının önüne geçilecek.
Gündemin bir başka maddesi ise biyometrik veri elde ederek insanların şehir veya ülke değiştirmesine engel olan uygulamaları kaldırmak. Parmak izi, yüz tanıma gibi sistemlerle belli bir coğrafyadan geldiği tespit edilen insanların mağdur olduğu bu tarz uygulamalar uzmanlara göre ilk kez Nazi döneminde deneylerde ve ayrımcılık yapmak için kullanılmıştı.
