Giriş

Bir çocuk düşünün, elinize tutuşturmuşlar. “Al, büyüt, eğit ama hiç durmasın, sürekli öğrensin,” demişler. İlk zamanlar ne güzel, uslu uslu oturuyor. Derken bir bakmışsınız ki sizden daha çabuk kavrıyor, daha hızlı koşuyor, daha yükseğe zıplıyor. Artık “Yeter!” diye seslenseniz de sizi duymaz olmuş. İşte yapay zekâ da böyle bir çocuk şimdi. Daha çok öğren, daha hızlı hesapla diye diye bir noktaya geldik ki, “Acaba bir gün kendi kendine durmayı unutacak mı?” diye sorar olduk kendi kendimize.

İşin aslı, bilgisayarın fişini çekmekle olmuyor bu iş. Norbert Wiener daha 1960’larda, otomatik sistemlerin kontrolden çıkma tehlikesinden bahsetmişti. Bugün Oxford’daki İnsanlığın Geleceği Enstitüsü gibi kuruluşlar, insan seviyesindeki yapay zekâların kontrolsüzce büyümesinin büyük riskler taşıdığını söylüyor. Üstelik yapay zekâ güvenliği için ayrılan fonların 2023’te 250 milyon doları aştığı belirtiliyor. Peki, tüm bu çabalar bir gün o “dur” dediğimizde duyulmasını sağlayacak mı?

İnsanoğlunun huyudur, hep daha ilerisini ister. Ateşi bulduk, söndürmeyi sonra öğrendik. Atomu parçaladık, sonrasını düşünemedik. Şimdi elimizdeki algoritmalar da veriyle beslenip sınırsızca büyüyor. Artık o çocuk sokakta misket oynayan masumiyetini çoktan yitirdi. Belki de bir “uyku vakti” koymanın tam sırasıdır. Ama cevap o kadar basit değil. Bu yazıda, bu karmaşık dansın adımlarını teknik sınırlardan etik ikilemlere, küresel kurallardan askeri tuzaklara dek adım adım izleyeceğiz. Hazırsanız, müzik başlasın.

Teknik Sınırlar: Makineler de Yorulur Mu?

“Durdururuz işte, bir düğmeye basarız,” diye düşünürüz. Ama öyle değil. Alan Turing’in meşhur “Durma Problemi” tam da burada devreye giriyor. Bir programın sonsuza dek çalışıp çalışmayacağını önceden kestiremeyeceğimizi söylüyor. Yani “Dur!” dediğimizde, algoritmanın bizi dinleyip dinlemeyeceğini bilemeyiz.

Peki ne yapacağız? Mühendislik imdada yetişiyor, güvenli duruş mekanizmalarıyla. Meselâ NASA’nın Mars’a yolladığı Perseverance aracı otonom hareket edebiliyor ama sınırsız değil. JPL verilerine göre, risk yükseldiğinde kontrol Dünya’daki mühendislere geçiyor. Yani en akıllı sistem bile bir “dur” emrine muhtaç.

Bir de dil modelleri var. OpenAI’nin GPT-4 gibi modelleri eğitirken, zararlı çıktıları engelleyen durdurma tetikleyicileri yerleştirildiği söyleniyor. Demek ki baştan sınırlar konuyor. Ama tıpkı “Şu duvara tırmanma!” dediğiniz çocuğun bir yolunu bulup tırmanması gibi, algoritmalar da sınırları aşabilir. Teknik kısıtlamalar, durdurma mekanizmalarını en baştan düşünmemiz gerektiğini hatırlatıyor. Sonradan takılan fren, yokuş aşağı hızlanan kamyonu durduramaz.

Etik Çerçeve: Karar Veren Makine, Vicdanlı Olabilir Mi?

Diyelim ki durdurma düğmesini bulduk. Peki ne zaman basacağız? Kim basacak? İşin en çetrefilli yanı burası. Isaac Asimov, robot yasalarıyla makinelerin insana zarar vermemesini şart koşmuştu. IEEE gibi kuruluşlar da “Ethically Aligned Design” belgeleriyle bu hayali gerçekleştirmeye çalışıyor. Ama sorun, tıpkı Asimov’un hikâyelerinde olduğu gibi, kuralların yorumlanmasında başlıyor.

Örneğin otonom bir araba düşünün. Bir yayaya çarpmamak için sürücüyü tehlikeye atmalı mı? Algoritma bu kararı hangi ahlak kurallarına göre verecek? Bu sadece teknik bir mesele değil, derin bir vicdan sorunu. MIT’deki bir çalışmaya göre, otonom kazalarda insan müdahalesi gerekliliği yüksek oranda belirtilmiş. Demek ki insan aklı hâlâ en güvenilir durdurma mekanizması.

Peki ya makine bilinç kazanırsa? Bu tam bir muamma. Acı çekebilir mi? Bu soruların yanıtı yok. Tıpkı büyüyen bir çocuğun hayatına nerede müdahale edeceğimizi bilememek gibi, makinelere sınır koymak da zor. Etik bize sadece “dur” demeyi değil, “neyi, ne zaman durduracağımızı” düşünmeyi öğretiyor. Demek ki algoritmalarımıza yalnızca matematik değil, biraz da…