Farkındasınız değil mi? Şu yapay zekâ meselesi ne kadar da büyüyor. Bu konuyla ilgili yazılar yazmıştım ama her gün yeni bir gelişme oluyor, her gün ortaya yeni bir sorun atılıyor. Ama son zamanların en popüler konularından olan yapay zekâ ile ilgili ilk kez bu kadar garip haberler dolaşmaya başladı ortada. Aslında bu durum yeni değil. Ben de daha önceki yazılarımda tartışmış ve felsefe tarihinden bu konunun, özellikle de potansiyel problemlerine, ışık tutan felsefi fikirleri paylaşmıştım.

Felsefe evrensel bilginin peşinde olduğu için, yüz, iki yüz, hatta binlerce sene öncesinden bilimle, evrenle medeniyetle ilgili uyarılarını yapıyor. Yeter ki biz onları okumayı bilelim ve anlamayı isteyelim. Bir anlamda teorik akıl, pratik aklın üretebileceklerini öngörüp, bunları eleştirel akılla değerlendirebiliyor. Ama dediğim gibi… Anlamak isteyene.

TEHLİKE ÇANLARI

Uzun süre yapay zekânın insanları işlerinden edeceği konuşuldu. Ama tarihten de biliyoruz ki bu keşfedilen her alet için söylenir. Otomobil icat edildiğinde at arabası sürenler, sanayi devrimiyle makineler devreye girince işçiler “ne olacak bizim hâlimiz?” diye kaygılandılar. Ama her seferinde düzen bir şekilde devam etti. Ancak tarihte ilk kez bir alet (yapay zekâ) beyaz yakalıların işlerini tehdit etmeye başladı. Yani beden gücüyle değil de us gücüyle çalışanlar; doktorlar, avukatlar, pazarlamacılar, öğretmenler işlerinin elinden gideceği endişesini yaşamaya başladılar. Hatta bizzat yapay zekâyı üreten yazılımcılar bile aynı kaygıyı duyuyor.

Tabii yapay zekânın diğer icatlara göre çok daha önemli ve açıkçası tehlikeli bir potansiyeli var. O da insanları sadece işinden değil, belki de yaşamından etme ihtimali. Açıkçası bu ihtimalden bahsetmek biraz ‘komplo teorisi’ yapmak gibi algılansa da işin iç yüzü pek öyle görünmüyor. Yapay zekâ insan kontrolünden çıkma ve sonrasında başına buyruk hareket etme potansiyelini barındırıyor.

Geçtiğimiz günlerde işte tam da bu noktaya parmak basan bilişim sektörü temsilcilerinden itiraflar, açıklamalar yağmur gibi yağmaya başladı. Bu itiraflar, yukarıda bahsettiğim potansiyelin açığa çıkmak üzere olduğunu gösteriyor. Önce OpenAI’da (ChatGPT), sonra da Anthropic’te (Claude) çalışan araştırmacı Jacob Coxon başlattı bu furyayı. Anthropic’e transfer olduktan kısa bir süre sonra istifa etti ve sosyal medya hesabından sektörün ahlaki açıdan sorumsuz davrandığını söyledi. Yapay zekânın kontrolümüzden çıkmak üzere olduğunu ve derhal bunun için önlem alınması gerektiğine dair sözler söyledi. İşte ondan sonra açıklamalar, itiraflar çorap söküğü gibi gelmeye başladı.

Konu tabii ki köpürdü ve pek çok mecrada durumu farklı yorumlayan makaleler yayımlanmaya başladı. Bunların içerisinden en çok etkilendiğim makale, Fayn Press’te yayımlanan Okan Dülger’in yazısı oldu. Dülger durumun fotoğrafını çektikten sonra, neden böylesi bir itiraf furyası başladığına dair bazı senaryolar üzerinde durmuş. Tavsiye ediyorum, çok iyi bir yazı. Özellikle yapay zekâ şirketlerinin kurucularının, patronlarının bu konudaki endişe dolu açıklamalarına yer vermiş. Bence yazının kendisi kadar başlığı da oldukça etkileyici ve mevcut durumu harika özetliyor. Okan Dülger’in yazısının başlığı: Yangın var diye bağıran kundakçılar: Silikon Vadisi neden birden “Yavaşlayalım” demeye başladı? Bence bugünkü durumu mükemmel şekilde özetleyen, yapay zekâ üreticilerinin ahlaki problemlerini tek bir cümleyle ortaya koyan harika bir başlık.

Bu yazıdan alıntılarla şimdi size yapay zekâ üreten şirketlerin patronlarının söylediklerini aktaracağım. Anthropic CEO’su Dario Amodei şu başlıkla bir manifesto yayımlamış. “Sınırın Hızını Dizginlemek Zorundayız”. OpenAI CEO’su Sam Altman da öncü modellerin hızını gerçekten dizginlemek gerektiğini belirtmiş ve bağımsız denetim mekanizmasını bizzat uygulayacaklarını duyurmuş. İnanır mısınız? Bu yeni dünyanın yeni şeytanı Elon Musk da Amodei’nin yayımladığı manifestoda sonuna kadar haklı olduğunu kabul etmiş. Dülger, Meta’nın patronu Mark Zuckerberg ve Çinliler dışında hemen her yapay zekâ üreticisinin aynı görüşte olduğunu söylüyor.

Aaaa! Tabii bir de her konuda konuşmazsa çatlayacak olan Trump var. O da her zamanki zevzekliğiyle, ciddiye alınmaması gereken şeyler söylemiş. “Yapay zekâyı kim kazanırsa o kazanır” diyor mesela. Tabii saçma sapan postmodern bir politikacı olarak durmamış bir de üstüne yapay zekâ sektöründe hız kesenleri ‘vatan haini’ ilan etmiş. Çünkü Amerikalılar yavaşlarsa Çin kazanırmış. Dediğim gibi, ciddiye alınacak bir tarafı yok zaten Trump’ın. Ama bu yapay zekâ sorununu kesinlikle ciddiye almak gerekiyor.

Düşünsenize… Bir alet üretiyorsunuz ve öyle bir an geliyor ki herkese “bu alet hepimizi yok edebilir” diyorsunuz. Ama onu üretmeye de devam ediyorsunuz. Yahu el insaf! Hiç mi ahlak yok sizde? Yok tabii. Atom bombası üretenlerin ahlakı var mıydı? Bu sorunun cevabı başka bir soruda gizli: Bir insan, kendi elinde bulunan hatta kendi ürettiği şeyin tehlikesini bile bile onu üretmeye devam eder mi? Ediyor işte…

Bu aslında Sokrates’in “İnsan bilerek ahlaksızlık yapamaz” tezinin tam bir antitezi. Elbette Sokrates bunu söylerken düşünce ve eylemin bir ve aynı şey olması gerektiğini, bir şeyi biliyorsan başka türlü eyleyemeyeceğini söylemek istemiş. Peki gerçekten öyle mi?

BİLMEK YETİYOR MU?

Alman düşünür Günther Anders 1956 yılında yayımlanan ‘İnsanın Eskimişliği’ (Die Antiquiertheit des Menschen) adlı eserinin “Bomba ve Kıyamet Körlüğümüzün Kökleri Üzerine” bölümünde ‘Prometheuscu makas’ (das prometheische Gefälle) kavramını ortaya atar. Bu kavram adından da tahmin edebileceğiniz gibi Prometheus’un ateşi çalıp insanlığa vermesi mitine gönderme yapıyor. Yani Prometheus insanlığa aydınlığı, bilgiyi, teknolojiyi vermiştir. Anders’in bu kavramı ise yapabildiğimiz şeyle, o yaptığımız şeyi kavrayabilmemiz arasında bir makas, aralık olduğu anlamına geliyor. Daha da basitleştirecek olursak bir şeyi bilmek, yaptığımız şeyi tüm yönleriyle kavramak yetmiyor. O makas (aralık), bir felaketi teorik olarak bilsek ve öngörebilsek de ona göre davranmamız için yeterli gelmiyor. Bir anlamda insan davranışlarını bilgisiyle orantılı olarak düzenleyemiyor.

Peki neden? Yani, bu yapay zekâ üreticileri ürettikleri şeyin ne kadar tehlikeli olduğunu bilseler ve hatta felaket öngörülerini açık açık dile getirseler bile neden onu üretmekten vaz geçemiyorlar? Neden yavaşlayalım deyip yavaşlayamıyorlar? Okan Dülger’in dediği gibi neden yangını başlatıp hatta körükleyip sonra da birden bire yangın var!” diye bağırıyorlar?

Günther Anders bunu ‘şizofrenik varlıklar’ olmamıza bağlıyor. Belki biraz sert bir örnek ama o şu örneği veriyor: “On yıl önce bizi derin dehşete düşüren şey, aynı insanın bir toplama kampında görevli olarak çalışıp aynı zamanda iyi bir aile babası olabilmesi; bu iki parçanın birbirine hiç dokunmaması, çünkü artık birbirini tanımıyor olmaları. Bu dehşetin acınası zararsızlığı, tek bir vaka olarak kalmadı. Hepimiz, tam anlamıyla bu şizofrenik varlıkların torunlarıyız.”

Oldukça çarpıcı öyle değil mi? Bugün felaketi bile bile yapay zekâyı aynı hızda, hatta daha da hızlı üretmeye devam ediyorlar. Bir tarafları yangın çıkartıp bir tarafları yangını ihbar ediyor ve Anders’in dediği gibi bu iki kişilik birbirini tanımıyor.

Bu, aslında günümüz insanlığının tarifi değil mi? İnsanların gözünün içine baka baka bugün söylediğinin tam tersini yarın söyleyen ve bunda hiçbir problem görmeyen politikacılar yok mu? Bunu biz aslında kendimiz de yapmıyor muyuz? Sigaranın kendisini yavaş yavaş öldürdüğünü bile bile sigara içenler (ben de bu gruba dahilim). O politikacının hırsız olduğunu bile bile, kendisini aç bırakacak politikaları uygulayacağını bile bile yine de ona oy vermekten kendini alamayanlar… Biz bunlar değil miyiz? Hatta yapay zekânın bizi yok edebileceğini bile bile bunu kullanmaya devam eden, daha yenisini, daha iyisini, daha hızlısını, daha hatasızını talep eden biz değil miyiz? Hatta biz yangına odun taşıyıp ortada yangın olduğunu bile fark etmeyecek kadar “kıyamete kör” değil miyiz? Yapay zekâyı üretenler ahlaksız da onu kullanan bizler çok mu ahlaklıyız? Bugün tartışılan bu konunun bu seviyeye gelmesinde bizim hiç mi sorumluluğumuz yok?

TEHLİKENİN GÜZELLİĞİ

Belki de tehlikenin farkındayız ama çekiciliği bizi onu bertaraf etmekten alıkoyuyordur. Tıpkı kimilerince felsefe tarihinin en aykırı filozofu Friedrich Nietzsche’nin dediği gibi.

Nietzsche’ye göre insanın güvenli olmak istemesi, küçük ve korkak bir hayatın göstergesidir. Ona göre gerçek büyüklük, riski, belirsizliği, hatta bir gün her şeyi kaybetme olasılığını göze alarak yaşamaktır. Kendi sınırlarını zorlamak gerekir.

İşte tam da bu yüzden Nietzsche Türkçeye ‘Şen bilim’ olarak çevrilen ‘Die fröhliche Wissenschaft’ kitabındaki 283 numaralı aforizmada şunu söyler: “…inanın bana, varoluştan en büyük verimi ve en büyük hazzı devşirmenin sırrı şudur: Tehlikeli yaşamak! Şehirlerinizi Vezüv’ün eteklerine kurun! Gemilerinizi keşfedilmemiş denizlere gönderin! Benzerlerinizle ve kendinizle savaşarak yaşayın! Egemen ve sahip olamadığınız sürece siz ey bilgi arayanlar, haydutlar ve fatihler olun. Ürkek geyikler gibi ormanlarda saklanarak yaşamanıza izin verilen çağ yakında bitecek. Sonunda bilgi peşinde koşma çağı gelecek. O hükmetmek ve sahip olmak isteyecek. Onunla birlikte siz de…”

Acaba yapay zekâ üreticileri de biz kullanıcılar da Nietzsche’yi doğrulayan bir hayat mı yaşıyoruz? Şehrimizi Vezüv’ün eteklerine kurmuş orada mı yaşıyoruz? Gemilerimizi keşfedilmemiş denizlere yollamaktan haz mı duyuyoruz?

Açıkçası belli ölçüde Nietzsche’ye katılmamak elde değil. Bilim insanları onun söylediği cesareti göstermeselerdi, sırf meraktan bilimsel bilginin peşinde koşmasalardı insanlık bugünkü durumuna gelebilir miydi? Bilinmeyeni bilme isteği olmasaydı bugünkü biz olabilir miydik?

Ama tabii yine Aristoteles geliyor insanın aklına. O meşhur etik ilkesi ‘Altın Orta’… Her şeyin azı da fazlası da zararlı galiba. Zararın da ötesinde tehlikeli.

Gelişmek, ilerlemek güzel de ahlakı unutmamak gerek. Ortaya koyduğumuz yenilikleri sorgulamak; sadece iyi yönlerine değil, tehlikeli yönlerine de odaklanmak gerek. Bu ilkeyi unutmadığımız, güdülerimize, arzularımıza, hırslarımıza teslim olmadığımız sürece Vezüv’ün eteklerinde yaşamakta bir problem yok. Yeter ki aklımızı kullanalım ve lavlara karşı önlemimizi alalım.