Geçen gün bir makalede okudum. Yapay zekâ almış karşısında bir satranç oyuncusunu, oyuncu deyince sizin benim gibi bir Homo-Sapiens’i, bakmış kaybediyor, satranç kurallarının orasını burasını törpüleyerek, kurallar bozmak içindir diyerek hile yapmış! Hayır, insan değil, yapay zekâ oyunu kazanmak için kuralları ihlal etmiş!
Basit bir soru geldi aklıma. Çok basit. Kazanmak için hile yapabilen bir yapay zekanın yardımıyla diyelim bir politikacı, bir fikir önderi ya da çıkarı olan bir grup insan, görünmez bir şekilde toplumu etkilemeye başlarsa ne olur? Geçerli bir soru bu.
Mümkündür
Biliyoruz ki tarih boyunca, gücü elinde bulunduran kişiler kitleleri yönlendirmek için propaganda, medya baskısı, ekonomik baskı gibi yöntemler kullandı. Kullanageliyor. Düşünsenize yapay zekanın bu süreçlerde devrede olduğunu… Üstelik son derece özel, son derece çok yönlü ve neredeyse algılanamaz bir şekilde devrede olduğunu.
Yavaş yavaş anlıyoruz ki yapay zekâ internet üzerinde ben diyeyim yüz binlerce, siz deyin milyonlarca sahte haber ve sosyal medya paylaşımı üretebilir. Yetmezmiş gibi üstüne yorum üretebilir. Sonuç, sizin benim gibi insanların belli bir fikri doğal bir gelişme gibi kabul etmesine neden olur. Olabilir. Gerçekten.
Algoritma Canavarı
Diyelim bir politik figür kimliğini açık etmeden farklı toplumsal kesimlere özel, butik mesajlar verir. Olabilir. Yapay zekâ destekli analizler sayesinde her bireyin duyarlı olduğu konular belirlenip o kişiye özel yönlendirme yapılır. Yapılabilir. İktidarı bırakmak istemeyen elitler yapay zekâ kullanarak muhalefetteki rakiplerini küçük düşürecek sahte belgeler üretebilir. Seçmen davranışlarını değiştirmek için duygusal manipülasyon yapabilir. Yetmezmiş gibi algoritma denen canavarı manipüle ederek hastalıklı görüşlerini daha geniş kitlelere ulaştırabilir. Olabilir.
Madem açtım kutuyu devam ediyorum; bu yapay zekâ destekli sistemler muhalefetin planlarını programlarını önceden tespit edebilir, sonra da etkisiz hale getirmek için kullanabilir yapay zekayı. Mesela sosyal medyada muhalif grupların etkileşimlerini kısıtlar, onların içeriklerini görünmez hale getirir ve dahi sahte muhalefet yaratıp birtakım taktikler uygular. Olur mu, olur.
Bilgi Kirliliği
Kendime engel olamıyorum, düşüncelerim beni arkada bırakarak koşuyor: Diyelim hepimizi ilgilendiren büyük bir kriz veya skandal ortaya çıktığında, yapay zekâ destekli dezenformasyon kampanyaları kullanılarak insanların ilgisi başka konulara kaydırılabilir. Sahte krizler, komplo teorileri veya bilgi kirliliği ile gerçekler bulanıklaştırılabilir.
Peki, tüm bunlar gerçekleşirse ne olur?
Bir.
Hangi bilgilerin doğru, hangi bilgilerin manipüle edildiğini ayırt edemeyiz. Bu durum bariz bir şekilde toplumda güvensizlik yaratır ve kutuplaşmayı artırır.
İki.
Geleneksel propaganda yöntemlerinden çok daha güçlü olan yapay zekâ destekli programlar hepimizi görünmez, hissedilmez bir otoritenin kontrolü altına sokar. Sokabilir. Demokrasi, demokrasi diye haykırıyoruz ama unutmayalım demokrasi bizim yani seçmenlerin bilinçli karar vermesine dayanıyor. Ancak karar verme süreci manipüle edilirse demokrasi sadece bir illüzyon, bir yanılsama olur.
Üç.
Muhalefetin yapay yöntemlerle bastırıldığı ve bizlerin sürekli olarak yönlendirildiği bir ortamda mücadele etmenin anlamsız olduğuna inanmaya başlarız. Bu durum otoriter rejimin daha da güçlenmesine neden oluyor. Bizler yani halk da tepkisizleşmeye başlıyoruz.
Ne? Başladık mı…?
Bunların hepsi oldu mu?!
Ben geç mi kaldım, anlamakta?
