Stephen Fry, Yapay Zeka Tarafından Üretilen Belgesel Anlatımı Oluşturmak İçin Sesinin Harry Potter Sesli Kitaplarından “Çalındığını” Açıkladı.
Çok ödüllü ve beğenilen İngiliz aktör, komedyen, yönetmen ve yazar Stephen Fry, tanınmış sesinin yapay zeka teknolojisi tarafından yağmalandığını ve rızası olmadan kullanıldığını öğrenince şok oldu. Harry Potter sesli kitap serisi ve Sherlock Holmes kütüphanesinin tamamı için saatlerce materyal kaydetmiş olan Fry’ın sesinin çok sayıda kolay erişilebilir örneği var ve görünen o ki bazı insanlar bu fırsatı değerlendirmekte gecikmedi.
Hollywood’da WGA ve SAG-AFTRA‘nın film ve televizyon endüstrisinde yapay zeka kullanımına ilişkin düzenlemeler konusunda mücadele ettiği grevlerin ortasında Fry, sesinin önceden bilgisi olmadığı bir belgeseli anlatmak için kullanıldığını fark etti. Ancak bu ses aslında onun sesi değildi, çünkü yapay zeka kullanımı sayesinde birileri aktörün yedi Harry Potter kitabını okumasına dayanarak onun ses tonunu ve stilini birebir kopyalamayı başardı.
Kısa bir süre önce CogX Festivaline katılan aktör, bu duruma değinerek katılımcılara sesinin bir kopyasının izni olmadan kullanıldığı belgeselin bir bölümünü gösterdi:
“Ben [oyuncular sendikası SAG-AFTRA’nın] gururlu bir üyesiyim. Bildiğiniz gibi üç aydır grevdeyiz. Ve en yakıcı konulardan biri de yapay zeka. Ben tek bir kelime bile etmedim – o bir makineydi. Evet, beni şok etti. Benim Harry Potter kitaplarının yedi cildini okumamı kullandılar ve bu veri kümesinden sesimin bir yapay zekası yaratıldı ve bu yeni seslendirmeyi yaptılar.”
Fry ayrıca, herhangi bir kişinin sesine ya da görüntüsüne dayalı olarak her türlü içeriği yaratabilen bu teknolojilerin kullanımıyla birlikte gelen tehlikelerden de bahsetti:
“Duyduğunuz şey bir mash-up’ın sonucu değil. Bu, kelimelerin her bir cümlenin anlamına uyacak şekilde modüle edildiği esnek bir yapay sesten geliyor. Bu nedenle, bilgim ve iznim olmadan bana Parlamento’ya çağrıdan sert pornoya kadar her şeyi okutturmuş olabilirsiniz. Ve bu, az önce duyduğunuz şey, benim bilgim olmadan yapıldı. Bunu duyduğumda Atlantik’in her iki yakasındaki temsilcilerime gönderdim ve onlar da çılgına döndüler – böyle bir şeyin mümkün olabileceğini hiç düşünmemişlerdi. Henüz hiçbir şey görmediniz. Bu ses kaydıydı. Tam deepfake videoların da aynı derecede ikna edici olması uzun sürmeyecek.”
Yaklaşık 160.000 üyesi bulunan aktörler sendikası SAG-AFTRA geçtiğimiz ay ücret, çalışma koşulları ve film endüstrisinde yapay zeka kullanımına ilişkin endişeler nedeniyle greve gitti. Binlerce Hollywood yazarını temsil eden Writers Guild of America’ya katılan sendika, Mayıs ayı başında greve giderek sektörün altmış yılı aşkın bir süredir yaşadığı en büyük iş bırakma eylemine imza attı.
Grevdeki oyuncular için en önemli sorunlardan biri, stüdyoların, benzerliklerini kullandıkları için adil bir tazminat ödemeden görüntülerini dijital olarak çoğaltmak için yapay zekayı kullanma olasılığı.
Grevin duyurulduğu sırada bir basın toplantısında konuşan sendika başkanı Fran Drescher, yapay zekanın yaratıcı endüstriler için “varoluşsal bir tehdit oluşturduğunu” söyledi ve oyuncuların “kimliklerinin ve yeteneklerinin rıza ve ödeme olmaksızın sömürülmesine” karşı korunmaya ihtiyaçları olduğunu belirtti.
“Teknoloji bir isim değil, bir fiildir, her zaman hareket halindedir” diye konuştu. “Şu anda sahip olduğumuz şey, gelecekte sahip olacağımız şey değildir. Yapay zeka modelleri söz konusu olduğunda, şu anda sahip olduğumuz şey, şimdiye kadar gördüğümüz tüm teknolojilerden daha hızlı bir şekilde ilerleyecek. Hepimizin hemfikir olduğu bir şey var: hayatta olmak için çok tuhaf bir zaman.”
Bu ilk kopyalama eylemi değil
Fry, yapay zeka ve onun film endüstrisindeki yeri hakkındaki endişelerini açıkça dile getiren tek ünlü oyuncu değil.
İngiltere’de yaz aylarında SAG-AFTRA grevini desteklemek için düzenlenen bir mitingde Emmy ödüllü Succession’ın yıldızı Brian Cox, sektördeki bir arkadaşının kendisine “kesin bir dille” bir stüdyonun imajını saklayacağını ve onunla istediğini yapacağını söylediğine dair bir anekdot paylaştı.
Cox, “Bu tamamen kabul edilemez bir durum,” dedi. “Ve asıl mücadele etmemiz gereken durum da bu, çünkü en kötüsü de bu. Ücretler bir yana, ama en kötüsü yapay zeka fikri ve yapay zekanın bize yapabilecekleri.”
Oscar ödüllü Matthew McConaughey, bu yılki Dreamforce konferansındaki bir panel etkinliği sırasında Salesforce CEO’su Marc Benioff’a yapay zekanın Hollywood’daki yükselişiyle ilgili endişeleri olduğunu söyledi.
Harry’nin Hogwarts Cadılık ve Büyücülük Okulu’ndaki ilk yılından baş düşmanı Voldemort’la son savaşına kadar, Stephen Fry tarafından okunan Harry Potter serisinin yedi büyüleyici romanı, toplam 124 saat 56 dakikalık çalışma süresine sahip 100’den fazla CD içeriyor.
