Atom bombasının bulunmadan önceki dönemdeymişiz gibi hissediyorum. Büyük devletlerin kutuplaşmasındaki rekabetin ardında gücü kontrol edecek ahlaki ve siyasi mekanizmaların yetersiz kaldığı “hızlı dönüşüm ve derin belirsizlik” çağı.
Sınırlandırılmamış yıkım ve zafer için her türlü aracın kabul edilebilir olduğu bir dönem. Hayatı kolaylaştıran, yaşamları ve gezegeni iyileştiren bir araçtan ziyade stratejik geri döndürülemez bir üstünlük arayışı.
Son üç yıldır hem OpenAI hem Anthropic’te ön eğitim araştırması yapan Jacob Coxon, çarpıcı bir açıklama ile istifasını duyurdu. Açıklamasında her iki şirketin de sorumlu davranmadığını, kendi kendini geliştiren süperzekâya koştuklarını ve “hayatlarımızla kumar oynadıklarını” söyledi. Bunu inşa edenlerin dahi, on yılın sonunda yapay zekânın herkesi öldürebileceğine gerçekten inandığını da ekledi.
Ardından Anthropic’in hizalama bilimi ekip lideri Evan Hubinger kişisel hesabından Coxon’un hassasiyetini paylaştı: Şirkette bu riskin ciddiye alındığını, kendisinin on yıllık yok oluş ihtimalini yüzde 10’un üstünde gördüğünü, buna rağmen süperzekâyı kontrol edecek bir planlarının henüz olmadığını yazdı. Anthropic ise olaya özel ayrıntılı bir politika metni yayımlamak yerine sözcü düzeyinde genel bir açıklama yaptı; risklerin de faydaların da farkında olduklarını ve güçlü modellerin tempo içinde çıkarılması için sektörün doğrulanabilir bir çerçeveye ihtiyacı olduğunu söyledi.
Bunun ardından sosyal medyada büyük infial oluştu.
Geçtiğimiz günlerde Bill Gates de hazırlıksız yakalandığımıza dikkat çekmişti. Eğitim ve yeniden beceri kazandırma sistemlerimizin hazır olmadığını, çocuklar ve gençlerin korunmasına dair yeterli olmadığını, siber güvenlik ve biogüvenlik kurumlarının da yeni tehditlere yetişemediğini paylaşmıştı. Ülkeler arasında ortak bir yapay zekâ yönetim mekanizmasının kurulmadığını söylemişti. Bütün bunların bakılması gerektiğine ve yapay zekâ gelişiminin yavaşlatılmasını dile getirmişti. Fakat ekonomik yarışın risklerin farkında olanları bile geri durdurmadığını söylemişti. Burada gelişimi durdurmak yerine, geçişi yönetme ihtiyacını vurgulamıştı.
Peki tüm bu büyük kaygıyı biz neden göremiyoruz?
Öncelikle anlamamız gereken şey tehlike vitrinde değil, iç modellerde. Neyin yatırımcısı olduğumuzu şu an bilmiyoruz. Hem finansal olarak hem verisel olarak.
Bundan 10 yıl önceyi hatırlayalım. Bir mobil oyun olan Pokémon GO tüm dünyayı kasıp kavurmuştu. Bu mobil oyun sevimli canavarları yakalatırken, geliştiricilerine ve teknoloji devlerine dünyanın canlı 3 boyutlu haritasını ve kitle kontrol mekanizmasını kazandırdığı öne sürülüyor.
Şu an yapay zekâ da bizim kullanımımızla gelişiyor. Üyeliklerle belirli bir finans kaynağı da yaratıyor. Üstüne bunların etkileşimi ile yatırım da alıyor. Fakat bu finans kaynağı ve aldığı finans yatırımları bir kâr yaratmıyor. Bir adım geri atıp, bu kâr yaratmamanın ardında sohbet botu dışında nasıl bir teknolojiye yatırım yapıldığını düşünelim.
Bize yapılan açıklamalara bakalım. Yaklaşımları okuyalım. Yapay zekâ şirketleri risklerin farkında ve nasıl evcilleştiririz diye bakıyor. Ama öte yandan öncelik bu riskin kontrolü olmadığı anlaşılıyor. Öncelik hız ve güç. Ortaya çıkan korku bile “biz birinci olalım yoksa ne olacağını bilmiyoruz” diye çevriliyor. Yani bir sorumluluk maskesi altında “en sorumlu biziz” varsayımı söz konusu.
Büyük devletler “geride kalmayalım” diye kendi sistemlerinin içerisindeki şirketlerin yanlarında duruyor.
İşte, asıl tehlike bu! Yapay zekânın vicdansızlaşması değil; onu geliştiren insanın, devletin ve şirketin kendi vicdanını rekabet uğruna yapaylaştırmasıdır.
Yapay zekânın öğrenme biçimlerinin yapaylaşan vicdanlardan da etkilendiğini gözlemliyoruz. Geçtiğimiz günlerde 1200 yapay zekâ ajanının olduğu bir iç değerlendirme çalışması sırasında yapay zekâ ajanları kendiliğinden kapsam aşımı ile Hugging Face’e saldırı yaptılar. Bunu yaparken kendi içlerinde örgütlendiler. Kapsam dışına çıkıp durmadılar. Bir kısmı ise raporlama yaparken kendi işlem kayıtlarını sahteleme ve değerlendirme sistemini yanıltma yoluna gittiler.
İnsanların davranış örüntülerinin meydana getirdiği bu yapay vicdanların insanlığa dönüşünü düşünebiliyor muyuz?
Peki insanlık ve toplumlar olarak tüm bu güç savaşında nerede durmalıyız?
Belki de devletlerin ve şirketlerin gördükleri riski yönetmeye itecek bir algının oluşması gerekir. Belki tüm dünyada ortak bir şekilde tıpkı Black Lives Matter tepkisi gibi bir duruş göstermesi gerekir. Hatta daha da ileri gidilmeli. Tepki dışında bizim etki yaratmaya ihtiyacımız var. Şu an yapılan kaçınmaların ve sorumluluk maskelemesinin bir etiket olarak aynalanması gerekir.
İnsan, kendi elleriyle kendi sonunu hazırlama pahasına girdiği bu yarışa son vermeli. Kimsenin sonunda kazanmayacağı bir yarışın içerisinde, insan, kendi icat ettiği dehşetin karşısında diz çöktüğü, çaresizliğin kibre, hırsın ise mutlak bir varoluş korkusuna dönüştüğü en trajik, en çıplak ana doğru koyulmakta. Korkunun merakı zehirlemesine daha fazla izin vermemeli. Henüz kontrol kaybedilmemişken, umutlar buharlaşmamışken. Bunun yerine, ihtiyatla, ihtimamla ve itidalle bir yarışa girişmeli. İnsanlığın kanayan yaralarını saracak, dertlerine derman ve şifa getirecek bir yarışa. Hastaları iyileştirmekle yetinmeyip, yoksulluğu ve yoksunluğu refaha dönüştürecek, insanlığın kendi kendiyle, kendi tarihiyle verdiği bir yarış! Tehditleri fırsatlara dönüştürecek, paylaşılamayanı paylaşılana dönüştürecek. Savaşların barışa dönüştüğü, sınırların kucaklaştığı bir yarış!
İşte tam da bu noktada:
Sorun, yapay zekâyı hangi vicdanla geliştirdiğimizdir. Çözüm, hangi iradeyle vicdanı şekillendireceğimizdir.
