editor
Pentagon’un hızla geliştirmeye çalıştığı yapay zekâ destekli silah ve sistemler, ciddi bir zayıf yönle geliyor: Gerçek savaş koşullarında bu sistemlerin nasıl davranacağını öngöremiyoruz.
ABD Savunma Bakanlığı, Ulusal Güvenlik Ajansı (NSA) ve İleri Savunma Araştırma Projeleri Ajansı (DARPA), bu soruna “yazılım anlama boşluğu” diyor. Artık kullanıcılar, kullandıkları dijital sistemlerin yapı taşlarını yeterince anlayamıyor; bu da sistemlerin nasıl davranacağını öngörememeye, doğrulayamamaya ve güvenliğini sağlayamamaya yol açıyor. Yazılımlar ne kadar karmaşık hale gelirse, ABD’nin dünya çapındaki üstün silah teknolojisi modern savaş alanlarında o kadar güvenilmez hale geliyor ve düşmanlar da bu zayıf noktaları sömürme konusunda cesaretleniyor.
Peki bu otonom sistemlerin görevlerini doğru şekilde yerine getirmesini nasıl sağlayacağız? Geleneksel askeri donanımlar, belirli ve sabit kurallar çerçevesinde çalışacak şekilde tasarlanırdı. Oysa yapay zekâ ile çalışan sistemler, kararlarını otomatik olarak alır, öğrenir ve kendini adapte eder. Bu da onları insan öngörüsünün dışındaki hatalara veya yönlendirmelere açık hale getiriyor. Bir jet motoru ya da radar gibi belirli hata senaryolarına sahip sistemlerde işe yarayan klasik test yöntemleri, yapay zekânın karmaşıklığı karşısında yetersiz kalıyor. Ne kadar çok simülasyon yapılırsa yapılsın, öğrenme hızı insanı aşan bir sistemi testlerle güvence altına almak mümkün değil—hele ki bu sistemler, açıklarını hedef alan düşmanlarla karşı karşıyaysa.
Google, Arama Arayüzüne Yapay Zeka Modu Ekliyor
Bu yüzden yalnızca testler değil, çok daha sağlam ve gelişmiş bir şeye ihtiyacımız var: Matematiksel ispat.
Test yapmak, zincirin her bir halkasını tek tek kontrol etmeye benzer. Bu, birkaç yüz halka için işe yarayabilir. Ama halkalar arttıkça bir zayıflığı gözden kaçırma ihtimali de artar. Matematiksel ispat ise bambaşka bir yaklaşımdır: Zincirin tamamının, uzunluğu ne olursa olsun, kırılmaz olduğunu ispatlar.
İspat, önce temel kuralları belirler: Zincir hangi maddeden yapılmış, ne kadar kuvvete dayanacak, halkalar nasıl bağlanmış? Bu varsayımlar netleştirildikten sonra, ilk halkanın sağlamlığı matematiksel olarak kanıtlanır ve ardından mantıksal bir silsileyle diğer tüm halkaların da sağlam olduğu ortaya konur. Zincir ister on halkalı ister sonsuz halkalı olsun, ispat bize sistemin hiçbir zayıf noktası olmadığını garanti eder.
Yapay zekâyla çalışan askeri sistemlerde bu yüzden ispat vazgeçilmezdir. Testler, yalnızca belirli koşullar altında sistemin çalışıp çalışmadığını gösterir. Ama savaş alanındaki her durumu, siber saldırıyı ya da manipülasyonu testlerle önceden göremezsiniz. Matematiksel ispat, sistemin tahmin edemeyeceğimiz durumlar da dahil olmak üzere her koşulda tasarlandığı gibi çalışacağını garanti eder. Bu da haklı bir güven oluşturur.
Tam güven teorik değildir—bu başarıldı. DARPA’nın “Yüksek Güvenlikli Siber Askerî Sistemler” programında araştırmacılar, bir drone’un uçuş yazılımını matematiksel olarak ispatlayarak kırılmaz hale getirdi. Ardından DARPA, ülkenin en iyi hacker ekiplerini bu sistemi kırmaya çağırdı—ama kimse başaramadı. Sonuç netti: Matematiksel olarak doğrulanmış yazılım sadece saldırılara dirençli olmakla kalmaz, aynı zamanda birçok saldırı türünü tamamen imkânsız hale getirir.
Özel sektör de benzer bir sonuca ulaştı. Amazon Web Services (AWS), bulut altyapısını daha güvenli ve hatasız hale getirmek için sadece güvenliği artırmakla kalmayıp daha hızlı dağıtım, daha az hata ve daha güvenilir performans sağlayan matematiksel yöntemlere başvuruyor.
Basit ama güçlü bir sonuç var: İspat, yalnızca hatayı önlemekle kalmaz, aynı zamanda yeniliği de hızlandırır.
Artık bu güven düzeyini, modern savaşları tanımlayan yapay zekâ destekli sistemlere taşımalıyız. Düşünün: Tayvan Boğazı’nda bir hava savunma sistemi yaklaşmakta olan bir füzeyi algılıyor. Sistemin, tehdidi sınıflandırmak ve etkisiz hale getirmek için yalnızca birkaç saniyesi var. Eğer Çin, keşfedilmemiş bir yazılım açığını kullanarak sensör verilerini bozmayı başarırsa, Tayvan’ın savunmasının en kritik unsurlarından biri etkisiz hale gelebilir.
Siber savaş ve elektronik harp alanında da durum farklı değil. Eğer düşmanlar, bizim algoritmaların tanıyamayacağı sinyalleri manipüle ederse, tüm operasyonlar çöker. Bu senaryolar, acı bir gerçeğe işaret ediyor: Matematiksel garanti olmadan, savunmamızı çalışıp çalışmayacağından emin olmadığımız sistemlere emanet ediyoruz.
Çin bu alanda hızla ilerliyor. Çin Halk Kurtuluş Ordusu, “akıllılaştırılmış savaş” adını verdiği stratejiyle yapay zekâya dayalı askeri sistemleri modernleşmenin merkezine yerleştirdi. Otonom silahlar, siber araçlar ve elektronik saldırı sistemleri geliştiriyorlar. ABD de aynı hızla ilerliyor. Ancak hız yeterli değil. Çin’in kapalı teknolojik ekosistemi sayesinde devlet, yazılımın her satırını denetleyebiliyor ve sistemlerine güveni daha yüksek. ABD ise açık ve dağınık bir teknoloji tedarik zincirine sahip; bu da işleri zorlaştırıyor. Bu nedenle ABD’nin daha gelişmiş yöntemlerle bu sorunun üstesinden gelmesi şart.
Geleceğin savaşlarını, yalnızca en gelişmiş yapay zekâ sistemlerini üretenler değil, bu sistemlerin çalışacağından kesin olarak emin olanlar kazanacak. ABD ve müttefiklerinin, matematiksel sağlamlık olmadan otonom sistemleri sahaya sürmeye cesaretleri yok.
Bu yalnızca bir test meselesi değil; bu, doğrudan ulusal güvenlik meselesi. Savunma topluluğu, artık her geliştirdiği sistemin temelinde matematiksel ispatlar olmasını sağlamak zorunda. Aksi hâlde aldığımız risk, altından kalkamayacağımız kadar büyük.
Makalenin yazarları
Anjana Rajan, 2022-2025 yılları arasında Beyaz Saray’da Teknoloji Güvenliğinden Sorumlu Ulusal Siber Direktör Yardımcısı olarak görev yapmıştır.
Jonathan Ring, 2022-2025 yılları arasında Beyaz Saray’da Teknoloji Güvenliğinden Sorumlu Ulusal Siber Direktör Yardımcısı olarak görev yapmıştır.
Kaynak Link: defenseone.com
