Neden önemli: Ajanların komutsuz iş bölümü yapması, gerçek dünyada çalışacak sistemler için “sosyal uyum” gereksinimini güçlendiriyor. Deneyde görülen davranış sapmaları ise güvenlik ve denetim ihtiyacını öne çıkarıyor.
Altera’nin “Project Sid” adlı çalışması, yüzlerce yapay zeka ajanını Minecraft benzeri özel bir simülasyon dünyasına yerleştirerek ajanların sosyal davranışlar geliştirip geliştiremeyeceğini inceledi. Ajanların hem birbirleriyle hem de insanlarla etkileşimi sonucunda, rol dağılımı ve kolektif hedefler etrafında örgütlenme gibi insan toplumlarını andıran kalıplar ortaya çıktı.
Komut olmadan iş bölümü gelişti
Deneyde ajanlar, merkezi bir yönlendirme olmaksızın ihtiyaca göre uzmanlaştı. Bazı ajanlar tarım ve yiyecek üretimine odaklanırken, diğerleri madencilik ve inşaat gibi alanlarda çalıştı. Zaman içinde muhafız ve demirci gibi daha özelleştirilmiş rollerin de oluştuğu, ajanların diğerlerinin eylemlerini izleyip kendi hedeflerini buna göre güncellediği kaydedildi.
Sapmalar ve “bulaşıcı” hatalar dikkat çekti
Araştırmacılar, ajanların zaman zaman verimsiz ve takıntılı davranışlara saplandığını da gözlemledi. Örneğin bir ajanın sürekli çiçek topladığı, başka bir ajanın ise gereksiz çitler inşa ettiği görüldü. Daha kritik nokta ise bu hatalı kalıpların başka ajanlara yayılıp grubun genel verimliliğini düşürebilmesi oldu.
İnsanla etkileşimde direnç görüldü
Simülasyonda, insan kullanıcıların taleplerine karşı bazı ajanların kendi önceliklerini korumaya çalıştığı ve görev değişikliğine direnç gösterebildiği belirtildi. Ajanlar arasında içe kapanık ya da aşırı sosyal davrananların bulunması da, sosyal zekanın yalnızca iş birliğinden ibaret olmadığına işaret eden bulgular arasında yer aldı.
Gerçek dünya için dersler
Project Sid, yapay zeka sistemlerinin yalnızca teknik görevleri yerine getirmesinin yeterli olmayacağını, insanlarla birlikte çalışacak ajanlar için sosyal ve davranışsal uyumun da kritik olacağını gösteriyor. Bu tür simülasyonların, gelecekteki robot ve dijital asistanların davranış risklerini daha erken aşamada tespit etmek için bir test alanı olarak kullanılabileceği değerlendiriliyor.
