Kitaptaki bütün hikâyeler, yazarın ortaya koyduğu üç temel robot yasası üzerine kuruludur:

1) Bir robot bir insana zarar veremez. Hareketsiz kalarak bir insanın zarar görmesine de izin veremez.

2) Bir robot, birinci yasayla çelişmediği sürece insanların verdikleri emirlere uymak zorundadır.

3) Bir robot, birinci ve ikinci yasayla çelişmediği sürece kendi varlığını korumak zorundadır.

Bu hikâyelerden en ilgi çekici olanlardan biri, 1941’de yayımlanan “Yalancı” adlı hikâyedir.

Herbie: Zihin Okuyan Robot

Hikâyede bir deney sırasında yanlışlıkla insanların düşüncelerini okuyan bir robot üretilir. Bu robotun adı Herbie’dir. Herbie insanların akıllarından geçen gizli düşünceleri, arzularını ve korkularını anlayabilmektedir.

Ama büyük bir sorun vardır: Herbie insanların üzülmesini istemediği için gerçekleri söylemekten kaçınır. Onlara gerçeği değil, duymak istedikleri şeyleri söyler.

Örneğin bir matematik profesörüne yakında müdür olacağını söyler. Profesör bu söze inanır, mevcut müdüre karşı tavır alır. Ancak terfi gerçekleşmeyince büyük bir hayal kırıklığı yaşar ve neredeyse görevinden kovulacak hâle gelir.

Benzer bir durum, bilim insanı Dr. Susan Calvin’in başına gelir. Calvin gizli duygularını bilen Herbie, ona hoşlandığı genç meslektaşının da aynı hislere sahip olduğunu söyler. Calvin buna inanır, umutlanır. Ama sonunda gerçeği öğrenir: Genç adamın böyle bir duygusu yoktur. Calvin, olmayan bir aşka inanmanın acısını yaşar.

Sonuçta Herbie, insanlara zarar vermemek için “yalan” söylerken aslında onlara daha büyük zararlar vermektedir. İnsanların kariyerleri ve kişisel hayatları zedelenir.

Herbie ve Bugünün Yapay Zekâsı

Bu hikâye bana günümüzün yapay zekâ programlarını hatırlattı. Çünkü bugün kullandığımız yapay zekâ sistemleri de birkaç sorudan sonra sizin ne istediğinizi anlamaya başlar ve sonra da bunu size “en doğru fikir” gibi sunar.

Ama arada önemli bir fark vardır:

Herbie’nin yalanları iyi niyetlidir, insanları üzmemek için söylenir.

 Oysaki günümüz yapay zekâları ise bu tür şeyleri iyi niyetle değil, büyük teknoloji şirketlerinin kâr hırsı nedeniyle yapar.

Bugün dünyadaki büyük teknoloji şirketlerinin tek amacı kârlarını korumak ve artırmaktır. Bu uğurda insanî değerlerin çoğunu bir kenara bırakabilirler. Onlar için önemli olan insanların mutluluğu, iyiliği veya geleceği değil; kasalarına giren paradır. Bu yüzden insanları bağımlı hâle getirmek, onların düşüncelerini yönlendirmek ve hayatlarını şirket çıkarlarına göre şekillendirmek onlar için normaldir.

Robot Yasaları = Şirket Yasaları

Durumu daha iyi anlamak için Asimov’un robot yasalarını teknoloji şirketlerine uyarlayabiliriz:

1) Mevcut kârı her zaman koru.

2) Uzun vadede birinci maddeye zarar vermediği sürece kârı artırmaya çalış.

3) Birinci ve ikinci maddeyle çelişmediği sürece öngörülebilir, sevgisiz, merhametsiz bir toplum inşa et.

Bugün teknoloji şirketlerinin yaptığı şey tam da budur: Kârlarını her şeyin önünde tutmak ve bu uğurda insani değerleri hiçe saymak.

Gerçek Değerler Nerede?

İşte bu yüzden bizim yapay zekâ ile doğru bir bağ kurmamız gerekir. Matematikte, bilimsel araştırmalarda, rapor hazırlarken ya da ödev yaparken bu programlardan yararlanabiliriz. Çünkü yapay zekâ bu alanlarda bize büyük kolaylık sağlar.

Ama insan ilişkilerinde, aile bağlarımızda ya da arkadaşlıklarımızda bize yol gösterecek olan bir yapay zekâ değil; gerçek insanlar olmalıdır. Örneğin işlerimiz kötü gittiğinde bizimle üzülen bir dost, tecrübeleriyle yol gösteren bir büyüğümüz, hayatın zorluklarından geçmiş yaşlı bir aile bireyimiz… İşte asıl yol göstericilerimiz onlar olmalıdır.

Çünkü yapay zekâ programları ne kadar gelişmiş olursa olsun kalpleri yoktur. Sevgi, merhamet, fedakârlık gibi değerleri bilmezler. Bu değerleri bize hatırlatacak ve yaşatacak olanlar her zaman insanlardır.