YAPAY ZEKÂNIN AHLAKI OLUR MU?

Bu yazı, Niccolò Machiavelli’nin Il Principe (Prens) adlı kitabını ‘Demokrat Olmayanların El Kitabı’ olarak tanımladığım yazı vesile oldu. Ne ilgisi var şimdi yapay zekânın ahlakıyla Prens’in diyeceksiniz. Yok elbette.

O yazının yayımlandığı günün sabahı sevgili Atıf Ünaldı’dan sesli bir mesaj aldım. Mesajında gülümseyerek yazıyı yorumluyordu. Atıf’ı tanırsınız. Teknoloji, özellikle teknoloji etiği konusunda Türkiye’nin önemli kanaat önderlerinden birisidir. İki sene öncesine kadar Pencere Pazar’da harika yazıları vardı. Şimdilerde de pek çok mecrada özellikle teknolojiyle ilgili yazılarını ilgiyle okuyoruz.

Sevgili Atıf’ın eğlenceli mesajının ardından yazı hakkında, özellikle de Machiavelli’den yola çıkarak ahlak konusunda sohbet etmeye başladık. Ahlakın ne kadar önemli olduğundan ve insan hayatının hatta politikanın bile başat ilke olması gerektiğinden bahsederken, bir tartışma sırasında “yapay zekâ kötü niyetli ve bizi farklı yönlere manipüle etmeye çalışıyor” diye bir yorum almış. Atıf bu yoruma katılmadığını belirtti. “Katılmıyorum, bizim görevimiz tam da bu durumda iyiye ulaşmanın yolunu bulmaktır” dedi ve şu örneği verdiğini söyledi: “silahlar insanları öldürmez, insanlar insanları öldürür.” Ne kadar doğru bir tespit…

SUÇU ALETLERE YÜKLEMEK

İnsan ne garip bir varlık. Kendi yaptığı alet bir soruna neden olunca suçu alete atıyor. “Silahlar olmasaydı insanlar öldürülmezdi, otomobiller olmasaydı trafik kazaları olmazdı” demek aslında bir kurnazlık değil mi? Ne de güzel sıyrılıveriyoruz kendi sorumluluklarımızdan. Sen atom bombasını icat edip sonra atom bombası kötü de. Yok ya… Sanırsın atomlar kendi kendine bir araya gelip bomba olmaya, sonra da insanları öldürmeye karar verdi. Esas kötü olan, o bombayı masum insanların üzerine atan sen olmayasın? İnsanı öldüren silahın tetiğine kim basıyor? Kaza yapan otomobili kim kullanıyor? Senin ahlaksızlıkla suçladığın yapay zekâyı kim programlıyor, kim kullanıyor? Şimdi gel de Machiavelli’nin “insan doğal olarak kötüdür” tezine hak verme.

Dijital dünyada nezaketin kitabını yazmış olan Atıf, yapay zekânın “kötü niyetli” olduğunu söyleyen kişiye karşı da o nezaketini koruyarak sadece “katılmıyorum” diyor ve ne yapmamız gerektiğini söylüyor. Kusura bakmayın, ben onun gibi nazik olamayacağım. Güzel kardeşim, yapay zekâ dediğin bir alet ve sen bir aleti ahlaki açıdan yargılayan, yapay zekâyı suçlayan o pırıl pırıl doğal zekâyı nereden buldun acaba? İnsan gerçekten de tuhaf bir varlık. Şimdi de nedense Machiavelli’nin ‘tilki’ metaforu geldi aklıma.

YAPAY ZEKÂ VE AHLAK

Yapay zekâ elbette ahlaki olarak yargılanamaz ama bu ahlakla bir ilişkisi olmayacağı anlamına da gelmez. Onu geliştirenlerin de kullananların da ahlaki sorumlulukları olmalı elbette.

Örneğin yapay zekâ geliştirenler, onun öğrenme süreçleriyle ilgili çok titiz davranmalılar. Onu eğitecek bilgileri nereden alıyorlar ya da o bilgiler ne kadar güvenilir gibi konuları önemsememek ciddi ahlaki problemlere yol açabilir. Sevgili Atıf Ünaldı, ‘netiket – dijital nezaket’ adlı kitabının ‘Yapay Zekâ Etiği’ adlı bölümünde şöyle diyor: “Yapay zekâ sistemlerinin tüm paydaşları sistemin kullanım veya suistimalinden ahlaki olarak sorumludur.” Yani öyle ben yaptım oldu, ben kullandım çok da güzel oldu demek yok. Yapay zekâya ne yaptıysan ya da yapay zekâyla ne yaptıysan bundan sorumlusun. Mesela bir makale ya da tez yazarken araştırmanı, tartışmanı yapay zekâ ile yapabilirsin. Ona sorular sorup çeşitli açılardan tezini sorgulatabilirsin. Ama ondan aldığın fikri olduğu gibi kullanamaz, verilerini ona analiz ettiremez, ona yorumlatamazsın. Senin yerine bir tez üretmesini isteyemezsin. Bu açıkça intihal demektir ve tabii ki ahlaki değildir.

Atıf’ın önerdiği bir başka kural ise şöyle: “Operasyonel ömürleri boyunca, yapay zekâ sistemleri insanların fiziksel güvenliği veya zihinsel bütünlüğünden ödün vermemelidir.” Yani yapay zekâ desteğiyle üretilmiş herhangi bir ürün ya da hizmet, insanlara bedensel ve zihinsel olarak zarar vermemeli. Yapay zekâyı üretenler, geliştirenler ve elbette kullananlar, onun yardımını alarak yaptıkları bir eylemle hiçbir insana zarar vermemeli.

Atıf Ünaldı’nın önerdiği daha pek çok kural var. Hepsi de örnek olarak verdiğim bu ikisi gibi, yapay zekânın değil, onu üreten ve kullanan insanların sorumluluklarıyla ilgili. Bu durumda şunu net bir şekilde söyleyebiliriz ki ahlak hâlâ sadece insana dair bir kavram. Ne doğanın kendisi ne hayvanlar ne bitkiler ne de insana en çok benzeyen yapay zekâ ahlaken yargılanamaz, herhangi bir eylemden dolayı ahlaken sorumlu tutulamaz. Özet olarak ahlaki her eylem aynı zamanda zorunlu olarak insani bir eylemdir. Yapay zekânın ahlakla ilişkisi de ancak insanın onu kullanma şekli amacından ibaret olabilir.

AHLAK ÖĞRENİLİR

‘İyi’ ve ‘kötü’ insan tarafından keşfedilmiş ve kendi eylemlerine yakıştırdığı sıfatlardır. Daha sonra bu iki kavramın yardımıyla adına ahlak dediğimiz en önemli kültürel icadını yaptı. Bir arada yaşayabilmenin, bir başka deyişle başkasına ‘iyi’ davranmanın kurallarını koydu ortaya. Bu kurallar sayesinde hayvani dürtülerini dizginlemeyi başardı.

İstek ve arzular, Platon’un değimiyle ruhumuzun en düşük seviyesinin, hayvani yanımızın göstergeleridir. Her istediğimizi yapma, her arzuladığımıza sahip olma dürtüsüyle hareket ettiğimizde hayvandan ne farkımız kalır? İşte ahlak, bu dürtüleri kontrol eden ve belli normlarla düzene sokan, bir anlamda bizi insan yapan şeydir. Dürtülerimiz gibi doğal olmadığı için de öğrendiğimiz kurallardan oluşur. Bunun da en görünür kanıtı bebekler ve çocuklardır. Bebeklik, bir insanın istediği her şeyi yapmak konusunda en özgür olduğu dönemdir. Çünkü ahlaki normlardan haberi yoktur. Bebekler tamamen dürtüleriyle yaşar. Çocukluk dönemi ise insan için sadece dünyayı keşfettiği değil aynı zamanda ahlaki normları öğrendiği yaşlardır. Neyin iyi neyin kötü olduğunu, toplum içerisinde neyi yapıp neyi yapamayacağımızı öğrendiğimiz dönemlerdir. İşte o dönemde ahlaki normları, dolayısıyla hayvani dürtülerimizi kontrol altına almayı öğreniriz.

Peki, madem ahlak öğrenilebilir bir şey, öyleyse bunu yapay zekâ da öğrenebilir değil mi? Peki ahlaken sorumluluğu olmadığını söylediğimiz bu aletin, ahlaki normları öğrendiğinde onu ahlaken de sorumlu bir varlık hâline getirir mi? Sokrates’in dediği gibi, ahlakın bilgisine sahip olması yapay zekâyı de facto sorumlu kılar mı? Yoksa ahlak hâlâ sadece insanlar için midir?

EVRİM AHLAKI GEREKTİRİR Mİ?

İnsan ahlakı aklıyla icat ettiyse, hiç şüphe yok ki bunu zihinsel evrimini tamamladıktan sonra yapabilmiştir. Yani bu icadı yapabilmesi için bugünkü ya da en azından bugünküne yakın bir bilinç seviyesine gelmiş olması gerekir.

Daha önce yapay zekâ ile ilgili yazdığım ‘Yapay zekâ! Sen mi büyüksün, ben mi?’ başlıklı yazıda, teorik, bu anlamda da mümkün bir ihtimalden bahsetmişti. O da yapay zekânın bugünkü hâlinden çok daha ileri bir seviyeye ulaşması, kendi kendine gelişmeye başlaması, insanın zihinsel evrimine benzer bir sürecin gerçekleşmesiydi. Bu süreç, onun pratik aklın ötesinde, teorik ve yaratıcı bir akla sahip olmasıyla sonuçlanırsa, insandan çok daha gelişmiş bir zihinsel yeteneğe sahip olacağı için insanlığı yok etmesinin de mümkün olduğundan bahsetmiştim.

İnsanlığı yeryüzünden silebilecek bu ihtimal, aslında çok daha gelişmiş bir bilincin onun yerini alacağı anlamına geliyor. Peki insanın olmadığı bu distopik dünyada bu yeni yaşam formunun ahlak ihtiyacı olur mu?

Bunu şöyle örneklendirelim… Bir insanın başka bir insanı öldürmesi ahlaki bir gerekçesi olmadığı sürece (mesela meşru müdafaa) kötü, bir başka deyişle ahlaksızlıktır öyle değil mi? Hatta insan öldürmek etik bir ilke olarak herhangi bir şarta ihtiyaç duymadan kötü olarak nitelendirilir. Ama insanın bir makineyi, diyelim ki yapay zekâya sahip bir robotu parçalayıp yok etmesi ahlaken, hatta etik olarak bir sorun mudur? Zor soru… Ama ahlak dediğimiz şey insanlar arasındaki ilişkiyi belirleyen normlarsa ve robot gibi bir aletin ahlaki sorumluluğu yoksa, insanın bir robotu yok etmesi de ahlaki bir sorun değildir. Öyleyse, insanın olmadığı bir dünyada, bir makinenin başka bir makineyi yok etmesi de ahlaki bir sorun olamaz öyle değil mi? Bir robotun, başka bir robotu yok etmenin kötü olduğuna dair bir değeri olabilir mi?

Bu durumda, bahsettiğimiz insanın olmadığı bu distopik dünyadaki makineler, evrilmiş zekâları sayesinde insandan çok daha gelişmiş bir bilince sahip olsalar da kendi aralarındaki ilişkileri ahlaki temellere dayandırma ihtiyacı duymayacaklardır.

Ancak, ahlakları olmayan bu yeni varlık türü, ahlakın teorik bilgisine (ki buna etik diyoruz) sahip olacakları için, bu distopyada ilginç bir denklemin muhtemel varlığından söz edebiliriz. O da etiğin olduğu ama ahlakın olmadığı yeni bir dünya.