Yarbay Stanislav Petrov 26 Eylül 1983’te çalışmakta olduğu nükleer erken uyarı merkezinde ABD tarafından Sovyetler Birliği’ne yönelik bir nükleer füzenin fırlatıldığına dair sinyaller aldı. Bilgisayarın verdiği sonuç bir nükleer savaşın başladığının göstergesiydi. Yarbay Petrov’un görevi, bu savaşın başladığına yönelik üstlerine bilgi vermek ve Sovyetler Birliği’nin karşı atağının işaret fişeğini yakmaktı. Ancak Yarbay bunu reddetti, bilgisayarların da hata yapabileceğini düşündü ve aldığı net sinyalleri dünyayı yıkımdan kurtarmak adına görmezden geldi.
Yarbay Petrov’un bu muhakemeyi yapabilmesinin sebebi, onun insan varoluşuna sahip olmasıydı. Dünyadaki tüm canlılarının ortaklaştığı canlı olma hâline, kendi ölüm korkusuna, aldığı eğitime, komünizmin kapitalizmin aksine sınırsız büyüyen üretimden ziyade yaşanabilir bir dünya amacına, aile ve gönül ilişkilerine, dünya siyasetine dair okumasına, olası bir savaşta ölecek insanlarla kurduğu empatiye ve geçmiş savaşlarda yaşamını yitirenler için tuttuğu yasa kadar onu var eden her şey bu kararı almasında rol oynadı. Bugün yoksulluğun ve güncel savaşların gölgesinde de olsa hayatta oluşumuzu biraz da Yarbay Stanislav Petrov’a borçluyuz.
Görüldüğü gibi, insanlar tetiği çekmede tereddüt edebilir ve emirleri reddedebilirler, ancak makineler için durum biraz daha farklıdır. Çin, 12 Mart 2026’da, yani Petrov’dan yaklaşık 43 sene sonra ABD’yi, yapay zekâ araçlarını savaş kararlarına dahi etki edecek şekilde geniş kapsamlı kullanmamasına yönelik uyardı. Uyarıya göre savaş gibi geri döndürülemez bir öldürme faaliyetinin karar vericisinin makine olması etik ve insani birçok problem doğurur. İran’da 175 kız çocuğunun ölüm emrini veren ABD’li egemenlerin eğiteceği yapay zekâlı savaş araçlarının, en az sahipleri kadar, hatta onlardan daha da acımasız olacağını öngörmek zor değil.
ABD’nin yapay zekâ araçlarını kullanma ısrarındaki muradı, insani tereddütlerin ortadan kaldırılmasıdır. Böylece kesin hesaplamalar ile hızlı kararlar verebilen otonom bir mekanizma, savaşın yürütücüsü olabilir. Londra’da bulunan King’s College London’da, yapay zekâ modellerinin savaş simülasyonlarında yetkilendirilmesi üzerine bir araştırma yapıldı. Yapay zekâ modelleri, simülasyonların yüzde 95’inde nükleer silahları kullanma tehdidine yöneldi. Haberde geçen ifade şu şekildeydi: “Araştırma, yapay zekâ modellerinin nadiren taviz verdiğini veya çatışmaları yatıştırmaya çalıştığını ortaya koydu. Karşı taraf nükleer silah kullanma tehdidinde bulunsa bile modeller gerilimi azaltma girişiminde bulunmadı.” Dünyanın en büyük ordusunda kullanılan yapay zekâ modelleriyle bu araştırmanın kullandığı modeller aslında aynılar, savaşları yapay zekâya emanet etmek katillerin elini temizlemez ancak insani hiçbir kırmızı çizginin kalmadığı bir savaşı kolaylıkla mümkün kılabilir.
Şimdi, o gün nükleer izleme merkezinde Yarbay Stanislav Petrov’un yerine bir yapay zekâ modelinin olduğunu düşünelim. Modelin işleyeceği veriler gayet netti: ABD’den bir nükleer füze fırlatılmıştı, algoritmasında böyle bir saldırıya karşı nasıl yanıt verileceği kodlanmıştı. Bugün hem tarihsel hem güncel verilerle İkinci Dünya Savaşı’nın acımasızlığına ve zalimliğine yönelik o kadar film çekilmiş, birçok da kitap yazılmışken ve bu yapay zekâ modelleri bu verilerle de eğitilmişken yine de savaşın yıkımını artırmaya meyilliler.
Savaş ve iktisat gibi insanın toplumsal yaşamını belirleyen alanlarda yapay zekânın egemenlerin düşüncelerinin tereddütsüz sahiplenicisi olması, her devreye alındıkları alanda insani duyguların yerine safi egemen bakışın geçmesi anlamına gelir. Öyle ki, daha önce yayınladığımız “Yapay zekâ: Politikanın Makineleşmesi” yazımızda bu yer değiştirmeyi uzun uzadıya tartışmıştık.
Yapay zekâ ve bilginin “çitlenmesi”
ABD’nin savaşlarında ürünlerini sıklıkla kullandığı yapay zekâ şirketi Anthropic ve ABD hükümeti, şirketin Savaş Bakanlığı’na sunduğu hizmetleri sınırlandırma talebi üzerine davalık oldu. Anthropic, hükümete sağladığı yapay zekâ araçlarının ABD vatandaşlarının gözetlenmesi ve denetlenmesi için kullanılmamasını, ayrıca savaş aracı olarak kullanıldıklarında da insani gözetim altında tutulmalarını istedi. ABD Savaş Bakanlığı ve Pentagon ise bu araçlar üzerinde sınırsız yetki talep ediyor. Trump, Anthropic şirketinin ürünlerinin kamu sektöründe kullanımını yasaklama yoluna giderken, Anthropic de ABD Savaş Bakanı Hegseth de dahil olmak üzere hükümete dava açtı.
Bu gelişme, etik yapay zekâ araçları olup olmayacağı yönündeki tartışmayı da gündeme getirdi. Öncelikle şunun altını çizelim: Anthropic’in ABD’ye sağladığı araçlar nasıl Venezuela eski Başkanı Maduro’nun kaçırılmasında kullanıldıysa, günümüzde de İran’a yönelik saldırıda ABD ordusu tarafından aktif olarak kullanılıyor.
Yapay zekâ teknolojilerinin kamu finansmanına olan bağımlılığının yanında ihtiyaç duydukları elektrik, su gibi kaynakların gerektirdiği devasa altyapı yatırımları da bu şirketlerin hareket alanlarını ve stratejilerini belirleyen dinamiklerdendir. Kapitalistler, her ne kadar devletle olan ilişkilerinde serbest piyasa ideolojisine yaslanıp utangaç bir anti-devlet -özellikle özelleştirme için avuçlarını ovuştururken- söylemini ara ara dillendirseler de 19. yüzyılda tren yolları ve telgraf hatları gibi kapitalist döngüyü hızlandıran lojistik ve haberleşme ağlarının yaratılmasını esasen devlete havale etmişlerdi. Bu altyapı yatırımları kapitalizm için elzemdi ancak doğrudan kârlılıkları düşüktü ve kazanç getirmeleri uzun yıllar alıyordu.
Nitekim günümüzde de kamu yatırımları, özellikle askeri alandaki faaliyetler, gündelik yaşamda çokça kullandığımız ve yapay zekânın talep ettiği verinin toplanmasını mümkün kılan internet teknolojisinin de temelini attı. İnsanların seferber olduğu birçok Ar-Ge projesi, akademik çalışma ve teknolojik üretim özel zihinlerin değil, ancak toplumsal bir uğraşın sonucu olabilir ve genellikle doğrudan kâr amacı gütmeyen faaliyetlerle mümkün olur. Bu, başta kamusal olan alanlar “çitlenerek” piyasada kârlı bir sektör hâline gelir. Nitekim her yapay zekâ modeli gibi Claude da insanlığın kümülatif bilgi üretiminin çitlenip ticarileştirilmesinin bir türüdür. Etik olmayan nokta, özel mülkiyet formundaki yapay zekânın ta kendisidir.
Anthropic: Etik yapay zekâ mümkün mü?
Öte yandan, savaş, çoğu insan için en pis işlerden biri olsa da şirketler için oldukça kârlı bir alandır. Savaştan kâr payı almadan yapay zekâ yarışında diğer şirketlerle rekabet edebilmek pek mümkün değildir. Anthropic’in CEO’sunun zaman zaman yaptığı halka yakarışlar, kapitalist üretim tarzının tarihsel hareketinin çizdiği sınırların üzerini kapatma çabası olarak okunabilir. Kapitalist üretim tarzı içinde Anthropic gibi devasa bir şirketin var olabilmesi onun da oyunu kuralına göre oynamasıyla mümkündür ve Anthropic’in günümüz dünyasının en rekabetçi alanlarında varlık gösterebilmesi, ancak ve ancak kamunun fon havuzundan pay alabilmesiyle olur.
Aslında sorun, “kapitalizmin etik bir varyantı olabilir” savıyla yürütülen ideolojik saptırmayla aynı kaynaktan doğar. Yeşil enerji, doğal yaşamın korunması gibi kapitalistlerin ve onların devletlerinin ağızlarına pelesenk ettikleri konular, Birleşmiş Milletler’de ve ülke meclislerinde bolca tartışıldı. Kapitalizm, dünyanın sonunu getirecek felaketin başlıca sorumlusu olduğu gerçeğinin üzerini kapatmak ve insanların onu yıkamazlarsa huzura eremeyeceği hakikatini gizlemek için kendini etik yeşiline boyamaya çalıştı. Ama günümüzün yakıcı gerçekliğinin belirleyeni, nükleer savaş ihtimaline ne kadar yakın olduğumuzdur!
Kapitalist üretimin yayılmacı ve vampir gibi aç karakteri ona etik, ahlaki ya da hukuki herhangi bir sınır dayatılmayacağını gösterir. Marx’ın şu ifadelerinin haklılığını nefes alan herkes bilir: “Sermaye güvenli bir yüzde 10 kâr ile her yerde çalışmaya razıdır, kesin yüzde 20 iştahını kabartır, yüzde 50 küstahlaştırır, yüzde 100 bütün insani yasaları ayaklar altına aldırır; yüzde 300 kâr ile sahibini astırma olasılığı bile olsa, işlemeyeceği cinayet yoktur.”
Anthropic gibi bir şirket bu üretim tarzında var olabiliyorsa, cinayet için kullanılıyor demektir. Eğer ABD hükümetiyle bağlarını koparacak kadar ileri giderse yok olacaktır. İki ihtimalde de kapitalizm gibi bir karanlığın kendi rengini her şeye vereceği sonucu açıkça görülür. Piyasaları düzenleyen gizli el toplumsal emeğin önemli bir kısmını savaşa yönlendiriyor. Üretim tarzının karakteri insanların kıt yaşam kaynaklarını devasa çatışmalarda heba ediyor. Kapitalizmde tüketim de sömürüyle sakatlanmış üretim gibi etik olamıyor.
