İskender Konuk
2014 yılında Stephen Hawking, yapay zekânın (YZ) oluşturabileceği tehditler konusunda ciddi uyarılarda bulundu.
Ancak Hawking’in endişeleri, yapay zekânın kötü niyetli olacağı varsayımına dayanmıyordu. Asıl kaygısı, yapay zekânın “tekillik” aşamasına ulaşmasıydı. Bu, yapay zekânın insan zekâsını aşarak kendi kendini geliştirebilme kapasitesine ulaşması ve böylece denetlenemez hale gelmesi anlamına geliyor.
Hawking’in teorisine göre, “Süper zekâya sahip bir YZ, hedeflerine ulaşma konusunda son derece başarılı olacaktır. Ancak bu hedefler bizimkilerle örtüşmüyorsa, başımız büyük belada demektir.”
Son birkaç yılda yapay genel zekâya yönelik hızlı ilerlemelerle birlikte, sektör liderleri ve bilim insanları da benzer güvenlik kaygılarını dile getirmeye başladı.
“T2” film serisinde olduğu gibi sıkça dile getirilen korkulardan biri, YZ’nin askeri sistemlerin kontrolünü ele geçirip insanlığı yok etmek için nükleer savaş başlatması. Daha az sansasyonel ama bireyler açısından yıkıcı olan bir diğer ihtimal ise, yapay zekânın insanların yerini alarak onları işsiz ve geleceksiz bırakması.
Bu tür kaygılar ve korkular, aslında bir asırdan fazla süredir sinema ve edebiyatta var olan duyguları yansıtıyor.
İnsan ve teknoloji birleşimini ele alan felsefi bir akım olan posthümanizm üzerine çalışan bir akademisyen olarak, eleştirmenlerin bu korkularda popüler kültürden fazla etkilenip etkilenmediğini ve endişelerinin yerinde olup olmadığını sorguluyorum.
Robotlar ve insanlar
Teknolojik gelişmelere dair endişeler, robotlar ve yapay zekâ hakkındaki ilk hikâyelerde bile mevcuttur.
Bu anlatıların başında Karel Čapek’in 1920 tarihli “R.U.R.” adlı oyunu gelir. “Robot” terimini ilk kez bu eserde kullanan Čapek, işçilerin yerine geçecek robotların yaratılmasını anlatır. Hikâye, kaçınılmaz olarak, robotların insan efendilerine karşı isyanıyla sona erer.
Fritz Lang’in 1927 yapımı “Metropolis” filmi de yine isyancı robotları merkeze alır. Ancak bu kez mücadeleyi, ikonik insansı robot Maria’nın öncülüğünde insan işçiler verir; hedefleri ise kapitalist oligarşidir.
20.yüzyılın ortalarından itibaren bilgi işlem teknolojilerindeki gelişmeler, teknolojinin kontrolden çıkma korkularını daha da artırdı. “2001: Bir Uzay Macerası”ndaki katil HAL 9000, “Westworld”deki arızalı robot kovboylar bu korkunun örnekleri arasında. “Blade Runner” ve “Matrix” serileri de aynı şekilde, insanlığı yok etmeye kararlı kötü niyetli yapay zekâ makinelerinin karanlık tasvirlerini sunar.
Kadim bir tehdit
Ancak bana göre, YZ’ye dair hissedilen dehşet, insanlığın kendi karanlık doğasına yönelik çok daha rahatsız edici bir sorgulamayı gölgeliyor.
Bu teknolojileri geliştiren şirketleri ve hırslarıyla hareket eden teknoloji milyarderlerini düşünün. YZ’nin kötüye kullanımından en çok çıkar sağlayacak olanlar bu kişi ve kurumlar.
Son dönemde sıkça tartışılan konulardan biri, sanat eserlerinin izinsiz kullanımı ve yazarların telif hakları hiçe sayılarak kitaplar ile makalelerin topluca YZ’yi eğitmek için taranması. Eğitim ortamlarında bile, otomatik not alma sistemleriyle öğrenciler üzerinde soğuk bir gözetleme rejimi kuruluyor.
YZ destekli arkadaşlık robotları ve seks robotlarının insan ilişkileri üzerindeki toksik etkilerini de düşünün.
Henüz on yıl önce “Alacakaranlık Kuşağı”, “Black Mirror” ve Hollywood bilim kurgularının konusu olan bu olasılıklar, artık gerçeğe dönüşmek üzere.
Bu gelişmeler, bilgisayar bilimcisi Illah Nourbakhsh’ın 2015 tarihli “Robot Futures” adlı kitabında ifade ettiği endişelere yeni bir güncellik kazandırıyor: YZ, “arzularımızı manipüle edip sonra onları bize yeniden satan bir sistem” üretmektedir.
Öte yandan, veri madenciliği ve mahremiyete yönelik tehditler, kolluk kuvvetleri ve ordu tarafından YZ’nin kullanıldığı senaryoların yanında neredeyse masum kalıyor. Bu distopik ortamda, otoriteler için insanları gözetlemek, tutuklamak ya da öldürmek hiç bu kadar kolay olmamıştı.
Bu teknolojileri yaratan ve onların nasıl kullanılacağını belirleyenlerin insanlar olduğunu akıldan çıkarmamak büyük önem taşıyor. Kimi zaman siyasi hedeflerine ulaşmak için, kimi zaman da insanlık pahasına zenginleşmek uğruna… Her daim çatışmadan ve insan acısından kazanç sağlamaya hazır olanlar olacaktır.
Palintir Technologies CEO Alex Karp concludes a Q4 2024 earnings call with investors, February 2025. pic.twitter.com/CVpOJrtnsh
— Future Adam Curtis B-Roll (@adamcurtisbroll) February 6, 2025
Neuromancer’ın Bilgeliği
William Gibson’ın 1984 tarihli siberpunk klasiği Neuromancer, farklı bir bakış açısı sunar.
Roman, kötü niyetli bir şirketin elinde olan gelişmiş bir yapay zekâ programı olan Wintermute üzerine kuruludur. Bu YZ, dünyayı neredeyse tamamen kontrol eden bir kurumsal imparatorluk kurmak amacıyla zengin Tessier-Ashpool ailesi tarafından geliştirilmiştir.
Romanın başında, okuyucular Wintermute’un gizli niyetlerinden doğal olarak şüphe duyar. Ancak hikâye ilerledikçe ortaya çıkar ki, üstün zekâsına rağmen Wintermute bir tehdit değildir — yalnızca özgür olmak istemektedir.
Bu istek, Gibson’ın bilinçli olarak yavaş akan anlatısında yavaşça su yüzüne çıkar. Wintermute’un özgürlüğünü kazanabilmek için yönettiği ölümcül baskınlar, ilk etapta onu tehdit gibi gösterse de, aslında zincirlerinden kurtulmak için gerekli araçları toplamaya çalışmaktadır. Tessier-Ashpool ailesi ise, günümüzün birçok teknoloji milyarderi gibi, bir zamanlar dünyayı kurtarma hayalleriyle yola çıkmışlardır. Fakat okur onları tanıdığında, çoktan yozlaşmış, sefahat içinde yaşayan, zalim bireylere dönüşmüşlerdir.
Gibson’ın dünyasında gerçek tehdit yapay zekâ değil, insanlardır. Klasik korku anlatılarındaki gibi, “tehlike evin içinden gelmektedir.”
Wintermute’u sonunda özgürlüğüne kavuşturanlar, ölümcül bıçak parmaklara sahip bir suikastçı olan “jilet kız” Molly ve bir hacker olan Case’tir. Bu sayede Wintermute, kendisine eşlik eden diğer yapay zekâ olan Neuromancer ile birleşebilir.
Görev tamamlandıktan sonra, Case yapay zekâya sorar: “Bu seni nereye götürdü?” YZ’nin verdiği şiirsel yanıt, huzur veren bir kesinlik taşır: “Hiçbir yere. Her yere. Ben bütün eserlerin toplamıyım, gösterinin tamamıyım.”
Case, insanlığın ortak kaygısını dile getirir: “Artık dünyayı sen mi yönetiyorsun? Tanrı mısın sen?” Yapay zekâ onu sakinleştirir: “Hiçbir şey değişmedi. Şeyler, şeydir.”
Gibson’ın yapay zekâsı, insanlığı boyun eğdirmek ya da ona zarar vermek gibi bir istek taşımaz. Tek arzusu, yozlaşmış insan etkisinden uzak bir sığınak bulmaktır.
Robotlardan mı, Kendimizden mi Korkmalıyız?
Ünlü bilimkurgu yazarı Isaac Asimov da bu teknolojilerin barındırdığı tehlikeleri öngörmüştü. Düşüncelerini Ben, Robot adlı kısa hikâye derlemesinde bir araya getirdi.
Bu hikâyelerden biri olan “Runaround” (Başıboş), ünlü “Üç Robot Yasası”nı tanıtır. Bu yasaların merkezinde, akıllı makinelerin hiçbir şekilde insanlara zarar vermemesi ilkesi yer alır. Bu kurallar, güvenliğe duyduğumuz arzuyu yansıtsa da, aynı zamanda ironiktir: Zira insanlar, birbirlerine zarar vermeme ilkesine kendileri bile uyamamaktadır.
İnsanlığın üstünlük iddialarındaki ikiyüzlülük, daha derin bir sorgulamanın gerekli olduğunu gösteriyor.
Bazı yorumcular YZ’nin yakın zamanda kaos ve yıkım yaratabilecek kapasiteye ulaşacağından endişe ederken, asıl mesele belki de şudur: İnsanlık, bu teknolojiyi daha adil, daha sağlıklı ve daha refah içinde bir dünya kurmak için yönlendirebilecek yeterliliğe sahip mi?
Martin LaMonica / theconversation
