Google, Gemini AI’ın insan görüntüsü oluşturma özelliğini durdurdu! Neden?

Google, insan yüzleri üreten yapay zeka uygulaması Gemini’yi geçici olarak durdurdu. Bu karar, uygulamanın bazı ırk ve cinsiyet gruplarını doğru bir şekilde yansıtmadığı için eleştirilmesinin ardından geldi.

Gemini, Google’ın yapay zeka araştırma ekibi Google Brain tarafından geliştirilen bir uygulama. Uygulama, kullanıcıların istedikleri özelliklere sahip insan yüzleri oluşturmasına olanak tanıyor. Örneğin, kullanıcılar, saç rengi, göz rengi, cilt tonu, yaş, cinsiyet gibi kriterleri seçerek, gerçek olmayan ama gerçekçi görünen insan yüzleri elde edebiliyorlar.

Uygulama, yapay zeka teknolojisi olan Generative Adversarial Networks (GAN) kullanıyor. GAN, iki ayrı yapay zeka modelinin birbirleriyle rekabet etmesine dayanıyor. Bir model, veri setinden öğrendiği bilgilerle yeni veriler üretiyor. Diğer model ise, üretilen verilerin gerçek mi yoksa sahte mi olduğunu anlamaya çalışıyor. Bu süreç, üretilen verilerin kalitesini artırmaya yardımcı oluyor.

Gemini, insan yüzlerini nasıl üretiyor?

Gemini, insan yüzleri üretmek için, internetten toplanan yaklaşık 70 bin yüz fotoğrafından oluşan bir veri seti kullanıyor. Ancak, bu veri setinin çeşitliliği ve temsiliyeti konusunda sorunlar var. Uygulama, bazı ırk ve cinsiyet gruplarını, diğerlerine göre daha az veya daha kötü bir şekilde üretiyor. Örneğin, uygulama, Asyalı veya siyahi kadın yüzleri üretmekte zorlanıyor. Ayrıca, uygulama, cinsiyet kavramını ikili bir şekilde ele alıyor. Hem de interseks, trans veya non-binary gibi farklı cinsiyet kimliklerini göz ardı ediyor.

Bu durum, uygulamanın, ırkçı, cinsiyetçi ve transfobik önyargıları pekiştirdiği ve yapay zekanın etik sorunlarına dikkat çektiği eleştirilerine yol açtı. Google, bu eleştirileri dikkate alarak, uygulamayı iyileştirmek için çalışmalar yaptığını duyurdu. Ayrıca bu süre zarfında uygulamayı kullanıma kapattığını belirtti. Google, uygulamanın ne zaman tekrar kullanıma açılacağı konusunda ise bir bilgi vermedi.