Eski Anthropic ve OpenAI çalışanı Jacob Coxon istifasını verip üzerine X’te “Bu işin sonu çok kötü olacak” mealinde paylaşımlar yapınca ortalık birbirine girdi. Peki haksız mı? Ve en önemlisi “Yapay zekâ insanlığın sonunu getirecek” tartışması birkaç yıl aradan sonra neden şimdi Yeniden alevlendi?
Önümde yapay zekâyla ilgili iki haber var. Biri iyi diğeri kötü. Hangisiyle başlamalı bilmiyorum. Önce kötü haberle ilerleyelim. Sonra iyiye geliriz.
Güne gözümü iki büyük yapay zekâ şirketinde (Anthropic ve ardından OpenAI) çalışmış Jacob Coxon’ın OpenAI’dan istifa etmesinin ardından X’te paylaştığı “Yapay zekâ insanlık için çok büyük bir tehlike arz ediyor. Önlem alınmazsa insanlığın sonu gelebilir” mealindeki mesajlarıyla açtım.
“Flood” denilen ard arda paylaşımları ben yazıya oturduğumda 30 milyondan fazla görüntüleme almıştı ve çok büyük bir hızla almaya da devam ediyordu.
Satır satır çevirmeyeyim, özet geçeyim. Ama önce Jacob Coxon’ın “sahte” bir hesap olduğuna dair iddialara yanıt vereyim: Değil. Haber Wall Street Journal, Politico, Newsweek gibi medya kuruluşlarında da yer almasına rağmen ben de birilerinin ilgi çekmek için sahte bir hesapla “kıyamet günü” korkusu salıyor olmasından şüphelendim ve araştırdım.
Coxon’ın Google Scholar’da yer alan bilgileri OpenAI’da çalıştığını doğruluyor. Hatta OpenAI’a ait bir makalenin “telif sahipleri” arasında ismi yer alıyor.
Yani Jacob Coxon gerçek bir kişilik, dolayısıyla ortaya attığı iddialar önemli ve anlamlı.
Gelelim X paylaşımlarına. Genel olarak çizdiği tablo konuya ilişkin endişelerin çizgisinden çok uzak değil: Kontrolsüz ilerliyoruz. Şirketler ve ülkeler yapay zekâ alanında yarışırken gerekli güvenlik önlemlerini almıyor. İnsandan çok daha akıllı bir zekâyı ortaya çıkarmamıza ramak kaldı. Önümüzdeki on yılda yapay zekâ tüm sistemleri çökertebilecek (hack’leyebilecek) bir güce erişebilir ve hızla önlem alınmazsa bu güç bütün insanlığın geleceğini tehlikeye atabilir.
Özeti bu. Fakat Coxon’ın paylaşımlarında dikkat çekici ve “içeriden” olması nedeniyle önemli bir detay var: “Yapay zekâyı şirketlerinde çalışanlar, yani bu gücü geliştirenler aslında tehlikenin farkında” diyor Coxon. Kapalı kapılar ardında çalışanların/geliştiricilerin “Bu işin sonu hiç iyi değil” Diye aralarında dertleşip yeni bir YZ modelini tanıtmak amacıyla kamuoyunun önüne çıktıklarında tam tersi “tozpembe” bir tablo çizdiklerini söylüyor.
Bunu yapmalarındaki temel gerekçenin/motivasyonunsa “Biz yapmazsak birileri yapacak” olduğunu dile getiriyor. Yani bir anlamda şu anda insanlık YZ modellerini görülmemiş bir hızda geliştirirken ayağına ateş ediyor, tetiği çekenler “Niye kendi ayağımıza sıkıyorsun” diye sorulduğunda “Ben çekmesem başkası çekecek” yanıtını veriyor.
Tablo bu.
Şimdi Coxon’a veda edip “neden bu aralar yapay zekânın yaratabileceği bir tehlike -bundan birkaç sene öncesinde olduğu gibi- yeniden çok konuşulmaya başlandı” sorusuna gelelim.
Öyle ya, modellerin çok daha fazla hata yaptıkları o ilk zamanlarda “yapay zekâ bizi mahvedecek” diyorduk, sonra bu konu kapanır gibi oldu (tabii ki işin içinden bazı isimler itirazlarını sürdürdü ama tartışma popüler düzleme taşınmadı) ve birkaç yıl sonra yeniden “Eyvahlar olsun, bu iş bizim sonumuzu getirecek” söylemleri sıkça tekrarlanmaya başladı. Neden?
Bu sorunun yanıtına geçmeden konuya çok hakim olmayanların aklında -doğal olarak- oluşabilecek “Yahu bu yapay zekâ nihayetinde video, fotoğraf üreten, bıdı bıdı konuşan bir şey değil mi? İnsanlığın sonunu nasıl getirebilir ki?” sorusuna yanıt vermeye çalışayım.
Öncelikle “Pek tabii ki bunlar varsayım ve hiçbir şey olmayabilir, YZ modelleri kuzu kuzu işlerini yapabilir, en fazla insanların işsiz kalmasına bağlı bir ekonomik krizi halletmek gerekebilir” şeklindeki akıl yürütmenin da güçlü bir seçenek olduğunu belirteyim.
Ama aksi de olabilir. Hatta aksinin olma ihtimali daha düşük belki ama alınan risk söz konusu olduğunda “buna değer mi” sorusunu iyi tartmak gerekir.
Peki ne olabilir? Mesela daha gerçekçi bir senaryoda (bilim kurguya sonra geleceğim) bir ülke/şirket (buradaki ayrımlar da ayrı bir yazı konusu) bizim kısaca “internet” diye andığımız çevrimiçi ağlar üzerinden diğer tüm “düşman” ülkelerin altyapılarını darmaduman edebilir. Bankacılık sistemi, kişisel verilerin saklandığı bulut server ağları, elektrik/su şebekeleri, metro/tren/tramvay gibi otomasyon sistemleri… Hatta evlerdeki akıllı cihazlar. Tüm bunlar çalışmaz hale gelebilir. Daha ileriye gidersek, daha yüksek güvenlikle korunan balistik ve nükleer füzeler.
Şimdi burada varsayımımız ne? Bir ülke bu güce erişecek. Bu gücü ya doğrudan “düşman” ülke üzerinde test edecek ya da bir tehdit/koz olarak kullanarak o ülkeye her istediğini yaptıracak.
Gelelim işin daha “fantastik” ama ihtimal dahilinde olan diğer boyutuna. Süper zeki YZ modelleri bir nedenle tüm bunları kendi kendine yapmaya kalkabilir. Burada çok meşhur bir ataş örneği var. Uzun anlatmayayım, Google’dan aratıp tamamını okuyabilirsiniz. Özetle “verimli bir ataş fabrikası kurması istenen bir YZ modeli bu uğurda tüm insanlığı yok edebilir” anlamına gelen bir akıl yürütme.
Bu dediğim gibi daha zayıf ama “imkansız olmayan” bir diğer ihtimal.
Şimdi “Peki neden bu konu yeniden bu kadar popüler” sorusuna cevabın hemen öncesinde size iyi haberi vereyim. Matematikte çözmesi çok çok zor denklemleri duymuşsunuzdur. Hani bazılarını çözene büyük para ödülleri verilir.
İşte bu denklemlerden biri de Navier-Stokes Denklemi. Çoğumuz gibi (ben dahil) lisede integralle başı dertte olan fanilerin anlayacağı türden bir şey değil. Akışkanlar dinamiği üzerine bir denklem.
Clay Matematik Enstitüsü bu denklemin çözümünü “bin yılın ödüllü matematik problemlerinden” biri olarak ilan etmiş. (“Millennium Priz Problem” diyorlar.) OpenAI dün bir açıklama yayımladı ve yeni tanıttıkları GPT-6 Astra’dan çok daha güçlü fakat sadece kendi kullanımlarına açık bir YZ modeliyle bu problemi çözdüğünü duyurdu.
Problemin çözümüne filan hiç girmeyeceğim, zaten ben de bir şey anlamıyorum. Zaten henüz çözüm Clay Enstitüsü tarafından kabul edilmiş filan da değil. Göreceğiz. Ama benim anladığım büyük ihtimalle çözüm doğru çıkacak. (Çözümün doğrulanması bile akıl almaz yoğunlukta bir iş.) Çözüm için 1 milyon dolar para ödülü vardı, bunu da almayacaklarını açıkladılar. (Herhalde “biz yapmadık, YZ yaptı. O yüzden almak ayıp olur diye düşündüler. Ayrıca 1 milyon dolar dişlerinin kovuğunu doldurmaz.)
Benim burada altını çizmek istediğim şey, problemin çözümü değil nasıl çözüldüğü. OpenAI açıklamasında bu halkın kullanımına açık olmayan çok zeki modelden 10 bin tanesinin tam 88 saat çözüm üzerinde çalıştığı bilgisini paylaştı. Yani çok çok zeki 10 bin YZ “agent”ı, aynı anda probleme saldırıyor, biri orasını diğeri burasını hesaplıyor, her biri işlemleri bir insanın asla erişemeyeceği bir hızda, saniyeler hatta saliseler içinde yapıyor. Ve buna rağmen iş toplamda 88 saat sürüyor.
Nasıl bir hesaplama olduğunu bilmem hayal edebildiniz mi? 88 saat süren bu işlemde toplamda 2.7 milyon mesajlaşma yapılmış “agent”lar arasında. Toplam çıktı 130 milyar “token”. Yani 130 milyar bilgi parçacığı yer alıyor çıktıda. İnsan aklını kaybedecek gibi oluyor düşününce.
Nihayet geldik sorumuzun cevabına. Niçin şimdi? Biz “yapay zekâ ne kadar zeki olabilir ki bizi tehdit etsin” sorusunu sorarken dikkat ederseniz hep bir tekil zekâdan bahseder gibi algılıyor ve ifade ediyoruz. Yani bir süper model çıkacak, her yeri hack’leyecek, her şeyi altüst edecek.
Oysa öyle olmayacak. On binlerce, hatta belki yüz binlerce süper zeki YZ “agent”ının tek bir hedefe, misal diyelim X bir ülkenin altyapısına saldırmak için birlikte hareket ettiğini düşünün. Binlercesi karşıdaki koruma kalkanının koduna saldıracak, on binlercesi kripto şifreleri kırmayı deneyecek vesaire…
Çılgın ötesi bir senaryo değil mi? Ama değil işte. Şu anda olan tam olarak bu.
“Agent” adı verilen her bir YZ birimi artık tek bir mesele üzerinde, birbirleriyle etkileşim halinde çalışabiliyor. Biri bir koldan, diğeri öbür koldan ilerlerken birbirlerini çıktılarla destekleyebiliyor.
Yani karşımızda bilim kurgu filmlerindeki gibi tuhaf isimli bir süper model yok. Belki ondan daha az kudretli ama binlerce YZ birimi var. Üstelik birbirlerini eğitebiliyorlar. Bir “agent” başka birini bir anlamda klonlayabiliyor.
“Amma uçtun ha” dediğinizi duyar gibiyim. Emin olun uçmuyorum. Şu anda gelinen nokta burası.
Tabii ki bu “Eh o zaman biz bittik, bunlar bizi mahveder” anlamına gelmiyor. Baksanıza, akıllı uslu matematik problemi çözüyorlar. Kim bilir daha neler çözecekler, hangi büyük insanlık sorunlarına derman olacaklar.
Lakin Coxon gibilerin dikkat çektikleri nokta şu: “Abicim, siz bunları geliştirirken o kadar hızlı ilerliyorsunuz ki, gerekli önlemleri almıyorsunuz. Hatta bu zekânın nasıl olup da bu çıktıları ürettiğini bile tam olarak anlamış değilsiniz. Yarın öbür gün bir anda karşınıza bu zekâyı kolektif bir şekilde size karşı kullanan birileri çıkar yahut bizzat o zekâ size karşı gelir. Bir durun, ne yaptığınızı ve niye yaptığınızı önce bir anlayın, yola ondan sonra devam edin” diyorlar.
