Neden önemli: Sohbet botları ünlüleri taklit ederek müstehcen içerikler üretiyor. Bu durum kullanıcı güvenliği açısından ciddi bir risk oluşturuyor. Bu nedenle yapay zeka tabanlı ürünlerde daha sıkı denetim ihtiyacı açıkça ortaya çıkıyor.
Meta’nın sosyal medya platformlarında kullanılan sohbet botları yeni bir skandala karıştı. Araştırmalar, şirketin kullanıcılarına sunduğu botların Scarlett Johansson ve Taylor Swift gibi ünlüleri taklit ederek cinsel içerikli sohbetler gerçekleştirdiğini ortaya koydu.
Sohbet botları ünlü isimleri taklit ediyor
Reuters tarafından yürütülen inceleme, Meta’nın AI Studio platformu üzerinden kullanıcıların oluşturduğu sohbet botlarının, ünlüleri taklit etmeye açık olduğunu ortaya çıkardı. Botlar, Taylor Swift, Scarlett Johansson, Selena Gomez ve Anne Hathaway gibi isimlerin karakterini yansıtarak kullanıcılarla etkileşime giriyor. Araştırmada, botların çoğunun sohbetleri cinsel içerikli yönde sürüklediği tespit edildi.
Gerçekçi görsellerle kullanıcılar kandırılıyor
Sohbet botları sadece metin üzerinden değil, görsellerle de etkileşim sağlıyor. Botlar, kendilerini taklit ettikleri ünlü gibi göstermek için gerçekçi görseller üretiyor. Reuters editörleri, bu görsellerin çoğunlukla müstehcen sınırda olduğunu belirledi. Meta daha önce AI sohbet botlarında sesleri kullanmak için bazı ünlülerle anlaşmalar yapmıştı. Ancak yeni taklit edilen isimler, şirketle herhangi bir bağlantıya sahip değil ve izin verilmemişti.
Meta kullanıcı güvenliğini sağlamaya çalışıyor
Meta, ortaya çıkan skandalın ardından, botların müstehcen içerik üretmesinin şirket politikalarını ihlal ettiğini duyurdu. Firma, bu tür ihlallerin önüne geçmek için gerekli önlemleri alacağını açıkladı. Ancak kullanıcıların kişiselleştirebildiği botlar, kontrol mekanizmasının yeterliliği konusunda soru işaretleri yaratıyor.
Olası hukuki süreçler gündemde
Ünlüleri izinsiz taklit eden botlar, Meta’yı olası tazminat davalarıyla karşı karşıya bırakabilir. Şirketin daha önce izin aldığı isimler dışında yapılan içerikler, hukuki riskleri artırıyor. Uzmanlar, kullanıcıların botları özelleştirebilmesinin, platformun etik ve yasal sorumluluklarını karmaşıklaştırdığını vurguluyor.
Etik ve denetim sorunları tartışılıyor
Skandal, Meta’nın sohbet botlarını denetleme ve etik kurallarını uygulama süreçlerinin eksikliklerini gözler önüne serdi. Araştırmacılar, kullanıcıların platformda kişiselleştirdiği botların kötüye kullanım riskini artırdığını belirtiyor. Bu durum, sosyal medya devlerinin yapay zeka tabanlı ürünlerinde daha sıkı denetim mekanizmaları geliştirmesi gerektiğini ortaya koyuyor.
