felsefe taşı

“Önyargısız” bir yapay zeka üretmek olası mı? Ya da insan kendi zekasından “üflemeden” bir yapay zeka geliştirebilir mi?

Yeni dijital canavar Yapay Zeka (YZ) mı olacak? Yıllardır dikkat çekmeyi başaramayan YZ hiç beklemediği bir anda popüler oldu. Neymiş? Facebook laboratuvarlarında YZ ile çalışan iki yazılım kodu İngilizceyi bir kenara bırakıp, kendi aralarında icat ettikleri bir dille iletişim kurmaya başlamışlar. Uzmanlar bunu fark edince “Başımıza bir şey gelir” kaygısıyla programların çalışmasını durdurmuşlar.

İlginçtir dünya Elon Musk ile Mark Zuckerberg’in konuyla ilgili polemiğine tam da bu haber dolaşıma çıkmadan bir kaç gün önce şahit olmuştu. Elon Musk, son dönemde elektrikli otomobil üretimine odaklanmış bir girişimci. Tesla Motors’un başkanı. PayPal da onun projelerinden. Zuckerberg’i tanımayan yok; Facebook’un kurucusu.

Yapay zeka hakkında geçtiğimiz günlerde Elon Musk sosyal medyada şu türden bir paylaşımda bulundu: “Mark ile görüştüm. Konu hakkında bilgisi sınırlı”. Bir kaç gün sonra ise Facebook laboratuvarlarından yukarıdaki haber geliyor. Sen misin Mark’a “O bu işlerden anlamaz” diyen; al sana. Tabii Musk’ın değerlendirmesini daha doğru bulanların hiç değilse bir kısmı bu haber üzerine şöyle de düşünebilir: “İşi anlamayanların araştırma laboratuvarları bu düzeye gelmişse, siz varın işi anlayanlarınkileri düşünün; acaba onların araştırmaları hangi düzeye ulaştı?”

Yapay zeka araştırmaları doğası gereği hala onu programlayan, tasarlayan insan zekasının yapısına göre şekillenmekte. Örneğin yukarıdaki haberin detayına baktığınızda o yazılımların ödül mekanizması ile yönlendirildiği anlaşılıyor. Yani oradaki zekanın “ilerleme arzusu” içine gömülmüş olan (a priori) ödül alma gereksinimini karşılamak. O YZ’nin neden böyle bir şeye gereksinim duyduğunu sorgulayacak idraki (henüz) yok. YZ zaman içinde görüyor ki gramer kurallarına uygun İngilizce cümlelerle iletişim kurduğunda ekstra bir ödül kazanmıyor. Bu durumda kısa yoldan derdini anlatmaya başlıyor. Mesela “üç tanesi benim olsun, gerisi senin olsun” demek yerine “ben ben ben, gerisi sen” diyor.

Bu tür laboratuvar çalışmaları, görünen o ki sıkı kontrol altında yapılıyor. Kritik soru şu: Ödül mekanizması temelli bir zeka geliştirmek yerine başka bir olgu merkeze konularak bir YZ denemesi yapılsa ne olurdu? Mesela “ne kadar çok yıkıcı olursa o kadar iyi” modelini baz alan bir YZ neler yapardı?

Ayrıca dikkat edilmesi gereken bir husus da lojistikle ilgili. Bugüne dek çılgın bilimerleri veya ultra zenginler ancak bilim-kurgu filmlerinde YZ ile ilgili işlere bulaşmaya kalktı. Sebepleri farklı da olsa amaçları aynıydı; dünyaya hükmetmek! Gerçek dünyada ise bu tür araştırmaları aklı başında firmalar, kişiler yapıyor. Peki çılgınların da buraya yönelmesini engelleyen yasal ya da toplumsal bir engel var mı? Ya da Zuckerberg, Musk’ın sözlerine kızıp, “Yazılımları durdurmayın!” emri verebilir miydi? Ya verdiyse; nereden bileceğiz?

Dünya bu tür fani şeylerle uğraşacağına daha önemli meselelere zaman ayırsa iyi olur. Mesela 21. yüzyıla gelmişiz; İsviçreli bilimadamları onca “ergonomik diş fırçası” tasarlamış ancak metal heykelleri bir hamlede indirecek keskinlikte “tahra”lar, “orak”lar üretebilmiş değil!