Herkese Bilim Teknoloji Dergisi, 86. Say��. Yay��n Tarihi: 17 Kas��m 2017

Terminat��r ve Matrix filmlerinde yapay zekan��n fevkalade ilerleyip insanl������ yenilgiye u��ratt������n�� i��leyen senaryolar�� izlemeyen yoktur herhalde.  O filmlerin yap��ld������ y��llarda biraz bilim-kurgu, biraz Hollywood fantezisi olan bu senaryolar yapay zekan��n son birka�� y��lda ola��an��st�� ilerlemesiyle olabilirlik potas��na girmeye ba��lad��lar.  Silikon vadisinin ��nde gelen teknoloji fikir liderleri yapay zekal�� robotlar��n insanl����a tehdit olu��turup olu��turmayaca���� konusunda tart����malara ba��lad��lar.  
Matrix Filmi

ABD'de ��al����an�� oldu��um IBM ��irketinin en ��nem verdi��i konu insanlar��n yapt������ i��leri yapay zekaya daha h��zl�� ve hatas��z yapt��rmak.  Vizyon olarak yapay zekan��n insan zekas��n�� takviye edece��ini ve dolay��s��yla insanlar�� daha verimli yapaca����n�� ��ng��r��yoruz.  ��u anki yapay zeka uygulamalar�� belirli alanlarda insanlardan daha verimli olabiliyor fakat genel zeka denilen insan zekas�� seviyesine ula��am��yor.  Ancak 'Technological Singularity' tabir edilen, yapay zekan��n kendini e��itebilecek kadar ilerlemesi ile 'kendini e��it - zekan�� artt��r - kendini e��it - zekan�� artt��r.....' ��eklinde bir d��ng�� olabilir.  Bu ger��ekle��irse tahmin edilen yapay zekan��n anormal k��sa bir s��rede hayal edilemez zeka seviyelerine ula��abilece��i ve bunun durdurulamayaca����.  
B��yle bir durum ger��ekle��irse yapay zeka kendi iradesini de kazan��r m��?  Bizim etik, ahlak, ve di��er insani de��erlerimizi sa��ma bulabilir mi?  Bunlar kolay cevapland��ralamayacak sorular.


Olas�� Felaket Senaryolar�� (En Olas��dan Ba��layarak)Yapay zeka ��ok ilerlese de bilin�� ve irade kazanamaz.  Ataca���� ad��mlar da insanlar��n s��k�� kontrol�� alt��nda ger��ekle��meye devam eder.  Bu durumdaki tehlike her teknolojik geli��mede oldu��u gibi yapay zekan��n k��t�� ellere d����mesi ve onlar��n iradesi do��rultusunda insanl����a zararl�� i��ler yapmas��.  Nobel ve dinamit hikayesini herkes biliyordur. Yapay zeka bilin�� kazanamaz ama ��ok karma����kla��t������ndan kontrol�� ��ok zorla����r.  (G��n��m��zde dahi neural network yap��lar��n��n neden baz�� ��ekillerde daha iyi ��al����t������ tam anla����lamayabiliyor).  B��yle bir durumda yapay zeka insanlar��n verdi��i g��revleri kendi tan��mlar��na g��re a����r�� iyi yapar veya isteneni yanl���� yorumlarsa zarar verici durumlar yaratabilir.  ��rnekler '��retimi ucuzlat' komutunun en son safhada insanlar�� k��lele��tir seviyesine ula��mas��, ya da ticareti artt��r komutunun baz�� ��irketleri saniyeler i��inde iflasa s��r��klemesi olabilir. Yapay zeka bilin�� kazanamaz ancak kodlar��ndaki ufak bir hata sarmal etkilerle beklenmeyen sonu��lara yol a��ar.  Karma����kl������n artmas��ndan dolay�� da bu hatalar�� gidermek imkans��zla����r. Yapay zeka bilin�� kazan��r ve kimi durumlarda kendi iradesiyle hareket etmeye ba��lar.  Bu senaryoda yapay zekan��n insani erdemleri nas��l de��erlendirece��i ��nemli.  Bizim etik de��erlerimiz hi��bir anlam ifade etmeyebilir.  ��nsani haklar�� sadece insanlar aras��nda ge��erlidir diye d������nebilir.  Bilin�� kazanm���� ve insan��n hayal dahi edemeyece��i kadar zeki makinalar�� durdurmak da m��mk��n olmayacakt��r.  ��nl�� bilim adam�� Von Neuman'��n hayal etti��i ��ekilde yapay zeka kendini hi��durmadan klonlayarak k��sa s��reden Matrix filmindeki senaryoyu ger��ek k��labilir. Olas�� Senaryolar

Neler Yap��labilirYapay zeka alan��nda ��nde giden ��irketler biraraya gelerek yapay zekan��n kontrolden ����kmas��n�� engelleme misyonu olan bir konsorsiyum kurdular.  Bu bir ad��m ancak yeterli olaca����ndan emin de��ilim. Yapay zekan��n a����r�� ilerledi��inde nas��l ��al����t������n�� anlay��p kontrol edebilece��imizi d������nmek biraz iyimserce yakla����m.  Yap��lan ak��ll�� makinalar��n birbirlerine k��smi kar����t hedefleri olmas�� herhangi birinin tamamen kontrolden ����kmas��n�� engelleyebilir.  Bir nevi yapay zekan��n kendi kendiyle m��cadele etmesini sa��lamak gibi. Yaz��lan kodlar��n kontrol��n��n denetlemeye tabi tutulmas�� ve hatta ba��ka yapay zekalarca da kontrolden ge��irilmesi ��nemli.  Yapay zekan��n kaynak kullan��m��n��n (��leti��im a��lar��, enerji vs.) s��n��rs��z olmamas�� ve denetim alt��nda tutulmas�� ��nemli.



Herkese Bilim Teknoloji 17 Kas��m 2017. 86. Say��