“Yapay zeka artık yalnızca savunmanın değil, saldırının da en zeki silahı.”
Hong Kong deepfake vakası: 25 milyon dolarlık güven kırılması
2024 yılının başında Hong Kong’da yaşanan deepfake dolandırıcılığı, kurumların güven algısını kökten sarstı. Bu dolandırıcılık olayında, bir çalışana, şirketin CFO’su ve diğer yöneticilerle gerçekleştirildiği sanılan bir video-konferans sırasında fon transferi talimatı verilmiştir. Gerçekleşen vaka incelendiğinde olay esnasında ses, mimik ve jestlerin bire bir gerçeği yansıttığı ama görüntüdeki kişilerin yapay zeka ürünü olduğu tespit edilmiştir. İlgili dolandırıcılık vakası sonucunda kısa süre içinde yaklaşık 25 milyon ABD doları farklı hesaplara aktarılmıştır. Soruşturma sonucunda ise mağdurun İngiltere merkezli mühendislik firması “Arup” olduğu doğrulanmıştır. Bu olay, yapay zekanın yalnızca siber saldırılarda değil, karar alma zincirlerinde de güveni manipüle edebildiğini göstermektedir.
Peki saldırganlar bunu nasıl yapıyorlar?
Tehdit aktörleri; AutoGPT, LangChain veya Foundation-Sec-8B gibi framework’lerle tamamen otonom saldırı döngüleri kuruyorlar. Bu frameworkler keşif, persona üretimi, exploit varyasyonu, yanal hareket, veri sızdırma ve iz silme adımlarını kendi kendine planlayıp yürütüyorlar. Her döngüde savunmadan öğreniyorlar ve saldırı stratejisini geliştiriyorlar. Bunun en güzel örneklerinden biri 2023 BlackHat’ta tanıtılan “Morris II” adlı yapay zeka worm’udur. Söz konusu worm yalnızca 16 saniyede kendi kendini kopyalayarak e-posta altyapısını ele geçirebiliyordu. Bu olay ise tarihteki ilk AI tarafından yönetilen AI saldırısı olarak kayda geçmiştir.
Red Team perspektifi: Hedef artık insan — algoritma etkileşimleri
Red Team perspektifinden bakıldığında, AI destekli saldırılarda amaç yalnızca teknik zafiyet aramak değildir. Hedef; insan-algoritma etkileşimlerini, onay süreçlerini ve otomatik yanıt mekanizmalarını test etmektir. Bu adımları gerçekleştirmek için sorulabilecek en doğru soru “AI nasıl bir atak zinciri oluştururdu?” sorusudur.
Bu adımları kısaca özetlemek gerekirse; AI önce açık kaynaklardan hedefin dijital ayak izini çıkarır, ardından yönetici persona ve ses klonları üretir. Tüm bunlara paralel olarak exploit varyantlarını deneyerek en etkili atak zincirini seçer. Bulut ve on-prem sistemler arasında pivot yapar, kritik verileri düşük profilli kanallarla dışarı aktarır ve her başarısız hamlede modelini güncelleyerek saldırısını daha sofistike hale getirir. Saldırı boyunca savunmanın tespit sınırlarını ölçer ve en zayıf karar noktalarını istismar eder.
İnsan hızından makine hızına
Geleneksel saldırı zincirleri insan hızındadır. AI atak zinciri oluşturma adımlarına baktığımızda ise şimdi karşımızda makine hızında, sürekli evrilen tehditler olduğunu gözlemliyoruz. Bu nedenle Red Team için temel soru artık “saldırabilir miyiz?” değil, “Bir yapay zeka saldırırsa Kurum nasıl tepki verir?” şeklinde olmalıdır. Çünkü LLM tabanlı modeller çalışan davranışlarını taklit edip güvenlik ekiplerinin analiz biçimini kopyalayabiliyor; bu da psikolojik ve süreç zafiyetlerini hedefleyen saldırıları mümkün kılıyor. Tüm bu detaylar bu tür saldırıların kurum içi karar zincirlerini manipüle ederek operasyonel gecikme, finansal kayıp ve itibar zedelenmesine neden olabileceğini göstermektedir.
C-level yöneticiler için tüm bu detaylar AI destekli saldırıların, teknik bir riskten çıkıp kurumsal dayanıklılık meselesine dönüştüğünü göstermektedir. Kurumlar AI destekli saldırıları önleyebilmek için yönetim kurulları AI Threat Modeling’i risk yönetimine entegre etmeli, AI-Driven Red Teaming tatbikatlarını düzenli hale getirmeli, AI modellerinin beslendiği veri kaynaklarının bütünlüğünü sağlamalı ve savunmada otonom Detection & Response sistemlerini devreye almalıdır. Ayrıca tedarik zinciri ve üçüncü taraf yazılım bileşenlerinin AI kaynaklı riskleri daha sıkı denetlenmeli; SBOM ve tedarikçi güvenlik değerlendirmeleri AI özelinde gözden geçirilmelidir.
Güvenlik artık zekayla ölçülüyor
Güvenlik artık yalnızca duvarlarla değil, zekayla ölçülüyor. Gerçek rekabet ise “kimin daha fazla veri topladığıyla” değil, “kimin daha hızlı ve daha güvenilir öğrendiğiyle” belirlenecek. Bundan dolayı Red Team’in yeni misyonu, bu öğrenme hızını gerçek dünya saldırı zekalarına göre kalibre etmektir. Çünkü geleceğin güvenliği, insanla birlikte düşünen makinelerin hızında şekillenmektedir.
