Yakın gelecekle ilgili hayaller kurmak hoş bir uğraş. Yapay zeka ve onun getireceklerinin hayatımıza neler katabileceğini düşlemenin bizlere keyif verdiği kesin. Bizim adımıza çay suyu koyan, yatağı toplayan, evi havalandıran, alışveriş yapan, uçak bileti alan, çocuğu okula bırakıp okuldan alan robotların etrafta dolaştığı bir gelecek kulağa eğlenceli geliyor. Peki durum gerçekten de bu kadar toz pembe mi? Yapay zekâ bundan mı ibaret?

Peki, bilinç kazanmış robotların bir gün “Benim de haklarım olmalı, ben de özgür bir yaşamı seçebilmeliyim.” diyerek seslerini yükseltmesi durumunda ne yapacağız? Açma/kapama düğmelerine basıp kapatacak mıyız? Çocuğumuzu okuldan almayı reddedenin fişini mi çekeceğiz? Robotu satın aldığımız dükkâna gidip “Bu fazla akıllı, biraz daha aptalı var mı?” diye mi soracağız? “Kendi suyunu kendin ısıt,” diye tavır koyanını pencereden aşağı mı atacağız? Peki diyelim ki attık aşağı, bu durumda katil mi olmuş olacağız? Yoksa insanları robotlardan üstün kılan hafifletici sepetler (!) var mı?

Image for post
Image for post
Yapay zeka deyince aklınıza bu resimdeki arkadaş geliyorsa, bir çıkıp hava alın derim. Hazır hâlâ alabiliyorken… Du dut dut du dut! (Görsel: maxim)

Kafa kurcalayan sorular… Bu gibi sorulara bugünün toplumsal düzeni ve hukuk sistemi ile cevap vermek imkânsız. Günümüz toplumları sokaktaki savunmasız hayvanların bile ne gibi hakları olduğunu çözebilmiş değil. Bir de üzerine, kendi ellerimizle yaratacağımız bilinçli varlıkların (yapay zekâ, robot, android, replicant, Robocop, Teletubbies, Pokemon vs.) haklarını düşünmek zorunda kalacağız gibi görünüyor. Buyurun buradan yakın. Bu açıdan bakınca gelecek o kadar da toz pembe görünmüyor fark ettiyseniz.

Olay bununla da sınırlı değil. İnsanoğlu yapay zekayı belirli hedefler ve amaçlar doğrultusunda oluşturmaya çalışıyor. Yapay zekâ üzerine çalışanların temel amacının insanlığın iyiliği (global barış, kıtlığın bitmesi, temiz suya ulaşımın sağlanması, soyu tükenme tehdidi aldındaki hayvanların koruma altına alınması, zararlı gazların atmosferden uzaklaştırılması vs.) olduğunu sanmıyorum. Facebook’un yapay zekadan hedeflediği başka bir şey, Google’ın amacı başka bir şey. SpaceX apayrı bir arayış içinde. Devletlere sorsak; savunma sanayi, toplum mühendisliği, istihbarat gibi sizinle benimle değil kendi çıkarları ile ilgili bir şeyler geveleyeceklerdir… Peki biz, sade vatandaşlar, yapay zekâ deyince ne anlıyoruz? Ne düşünmeliyiz? Bana ne faydası var bunun?

Image for post
Image for post
Yapay zeka, yapay zeka, dedikleri daha ne olabilir ki? Pardon o kara sevdaydı galiba. (Görsel: forbes)

Saksıları çalıştırıyoruz

Hadi biraz beyin jimnastiği yapalım ve AtaçX isimli hayali bir şirketin ataç üretimini en üst seviyeye çıkartmaktan sorumlu bir yapay zekâ yarattığını düşünelim. Evet, bildiğiniz, kağıda iliştirilen ataç. Yaratılan bu yapay zekaya “ne yap ne et ataç üretimini arttır!” talimatı veriliyor. Görevini yerine getirme aşkı ile dolmuş yapay zekâmız yaptığı analizler sonrası dünya üzerindeki canlıların varlığının ataç üretimi için en büyük engel olduğu sonucuna varıyor. Ardından, görevini yerine getirmek ve ataç üretimini arttırmak için internet üzerinden bağlı olduğu diğer yapay zekalarla temasa geçiyor ve tüm canlıları yok etmeye başlıyor! Suyu zehirliyor, havayı solunmaz hale getiriyor, bitkileri kurutuyor…

Gerilim filmi gibi, öyle değil mi? Alt tarafı iki ataç daha fazla üretmek istedik, geldiğimiz noktaya bakın. Kontrolsüz yapay zekanın insanlığın sonu olabileceğini savunanların yüzdüğü sulara hoş geldiniz. Buralarda epey komplo teorileri duyacaksınız. Aman dikkat edin, bu sularda fazla dolaşırsanız geleceğe dair hiçbir umudunuz kalmayabilir. (“En iyisi ege kıyılarında bir ev ve ufak bir bahçe”cilere gün doğdu.)

Image for post
Image for post
Yapay zekan kadar konuş. — Bir uydurma atasözü (Görsel: futureoflife.org)

İki ataç uğruna, yar ne dünyalar yok oluyor

Bu hayali senaryomuzdan, yapay zekanın tek bir hedef doğrultusunda ortaya çıkartılmasının tehlikeli sonuçlar doğurabileceği görebiliyoruz. Gelişmiş bir zekanın yanına mantık, bilinç, ahlaki değerlere uyum, mümkünse vicdan ve duygu eklememiz gerekiyor. Pire için yorgan yakmayacak bir varlık (neredeyse canlı diyecektim) ortaya çıkartmalıyız. Ataç üretimi için dünya üzerindeki canlı yaşamını bitirdiğinde, ataç satabileceği kimse kalmayacağını anlayabilecek ve bir ataç uğruna kimseyi öldürmemesi gerektiğini ahlaki olarak çözümleyebilecek bir yapay zekaya ihtiyacımız var. Bir de mümkünse bir fişi olsun da kontrolden çıkınca kapatabilelim (İnternetin de fişini çeksene delikanlı). Olayın gittikçe dallanıp budaklandığını görebiliyorsunuzdur. Yani öyle iki satır kod yazmaktan ya da cep telefonuna aplikasyon yapmaktan bahsetmiyoruz burada.

İnsanlığın Geleceği Enstitüsü (Karizmatik isimli kuruluş)

Bu kurmaca ataç senaryosu bana ait değil. Orijinal tanımıyla Paperclip Maximizer, 2003 yılında Nick Bostrom tarafından ortaya atılmış bir düşünce deneyi, bir felaket senaryosudur. Bostrom kim diye soracak olursanız, Oxford Üniversitesi’nin İnsanlığın Geleceği Enstitüsü‘nün Başkanı ve aynı üniversitenin Yapay Zekanın Kontrolü Programı’nın başkanı.

İnsanlığın Geleceği Ensititüsü… İsme bakar mısınız? El alem aya, biz yaya diye boşuna dememişler… Millet geleceği kurgularken, biz geçmişe takılmaya devam ediyoruz. Yazık…

Nick Bostrom, ortaya attığı gelecek öngörüleri öyle ses getirdi ki, Bill Gates, Elon Musk gibi günümüzün önde gelen teknoloji simaları bile ona hak verir noktaya geldiler. Nick Bostrom, nasıl kapatacağımızı bilmeden yapay zekanın ortaya çıkışının insanlık için bir felakete dönüşebileceğini vurguluyor. Üstteki senaryosu da bu öngörüsünü örneklendiriyor.

Günümüzde yapay zekâ üzerine çalışan sayısını bilemediğimiz kuruluş ve o firmalarda yapay zekayı ortaya çıkarmayı hedefleyen bir sürü insan var. Şu an ne yapıyorlar, ne aşamadalar bilmiyoruz. Bu konuda kafa patlatan ülkeler olduğu gibi, elbette özel girişimler de işin peşini bırakacağa benzemiyor. Aralarından birinin yapay zekada bir atılım gerçekleştirip Turing testini geçecek gerçek bir yapay zekâ ortaya çıkarmasının insanlığı nereye sürükleyeceğini bilmemiz bugün itibariyle imkânsız.

Korkutucu mu? Evet. Heyecan verici mi? Ona da evet.

O zaman dans!!! Renk!!!

***

Yazının orijinaline www.duslerdengercege.com sayfasından ulaşabilir, e-posta bültenine üye olabilir, Düşlerden Gerçeğe’yi sosyal ağlardan takibe alarak yeni yazılarımı okuyabilirsiniz.

Written by

İnşaat mühendisi, metin yazarı, blogger, öykü yazarı. Katar'da yaşam, sinema, edebiyat, oyun dünyası, Fenerbahçe, kurmaca öyküler ve insana dair her şey üzerine

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store