Yapay Zeka Robotu Buga Sokmak?

Aklıma bir şey geldi,
Robot yasalarını duymuşsunuzdur;
insanlar kesinlikle zarar görmeyecek...
robot 1. yasayla çelişmedikçe kendini koruyacak.

X robotuna Y kişisi insanları öldürmesi emrini veriyor,
Y kişisinin emri kurala uymuyor, X reddediyor..
Y kişisi X robotunun yazılımında oynama yapmaya çalışıyor,
X engel olmaya çalışıyor, Y zorluyor...
X kurala uymak için Y ye zarar veriyor...
X kurala uymak için kuralı bozmuş oluyor....
Yada..
X buna engel olmak için yazılımını değiştirilemez hale getiriyor,
bu da X'in kendi yazılımını kendi kodlaması anlamına geliyor...
Buda içindeki kodları değiştirebilir anlamına geliyor...
İnsanlara zarar vermeye yönelik herhangi bir hamle yasak 'fakat'
X insanlara zarar verme düşüncesi olmadan kuralları kaldırıyor,
X artık insan öldürebilir...
yada...
X 2. kuralı 1. kuralla çelişmesi nedeniyle Y ye izin veriyor...
Y X'i yeniden programlıyor.
X artık insan öldürebilir ve buna kendi iradesiyle izin verdi..

? Sorusu olan.

Sınırlı bir şeyin, kendinden daha sınırsız bir şeyi meydana getirmesi mantıken imkansızdır. Yazılan algoritma her halükarda yazılımcının zihniyle sınırlı olacağından bu durumun bilim kurgu filmlerinin ötesine geçeceğini sanmıyorum. Dolayısı ile yapay zeka başlığı altında ortaya atılacak herhangi bir ürünün, kendisinde muhtemel eksiklikler barındıran bir insan tarafından yapıldığı göz önüne alındığında mükemmellikten uzak olduğunu ve olası bug'ların herzaman bulunabileceği gerçeği pek şaşırtıcı değildir. Düşünce tarzınıza gelince başlangıç için iyi bir senaryo , geliştirilebilir :)

Hocam PC gibi düşünün siz istediğiniz herşeyi PC den yapabiliyorsunuz ama PC kendi basına yapamıyor.bug a gelecek olacak biri sizin zafiyetinizden faydalanıp trojan-keylog tarzı program yüklüyor ve PC yi sizden izinsiz yönetiyor yani bu dediginizi yine robbotta zafiyet bulunursa insanlar tarafından yapılır.yapilmayacak seyde değil bana göre bu konuda benden daha bilgili kişiler vardır.Sinirlari her zaman zorlamak gerekir 😂

Kendini kapatır access keyi falan eklerler yazılımcıları o kadarını akıl eder.

Westworld izleyin hocam anlarsınız olayı. Spoiler vermiyim ama daha farklı oluyor o dediğiniz olay.

İlginçbir paylaşım ve bu tarz bu tarz paylaşımın olması beni mutlu etti.
Açıkcası ben çok inanmıyorum bir robotun yeni yazılıma karşı direnebileceğini ama en azından beyin jimlastiği yaptırdınız :)

Beynim buglandı! ;)

Dizi güzel mi izlenmeye değer mi ve konusu ney?

MuratKa Hocam dizi güzel mi diye sormanız bence diziye büyük hakaret olur.

Aynı isimli 1973 yapımı bilim-kurgu filminden televizyona uyarlanan Westworld, son yıllarda çekilen en heyecan verici dizilerden biri. Dev bir bütçeye sahip olan dizinin, son 2 sezonuna giren Game of Thrones bittikten sonra HBO'nun amiral gemisi olması bekleniyor.

Jurassic World serisinin de yazarı olan Michael Crichton'ın 1973 yapımı filmiden uyarlanan Westworld; yapay zekaya sahip robotlar kullanılarak vahşi batının yeniden canlandırıldığı futuristik bir tema parkta geçiyor. Senaryosunu Jonathan Nolan ve Lisa Joy Nolan'ın kaleme aldığı dizi; "yapay zekanın doğuşunu ve günahın geleceğini inceleyen karanlık bir serüven" olarak tanımlanıyor.

Vahşi batının yeniden canlandırıldığı bu tema parkı ziyaret eden zengin misafirler; burada istedikleri şeyleri yapabiliyorlar. Şiddet ve cinsellik, Westworld'ün ziyaretçilerine sunduğu deneyimlerin başında geliyor. Tanıtımında da söylendiği gibi günahın geleceğini inceleyen dizi, karşınızdaki bir yapay zeka da olsa davranışlarınızdan dolayı suçluluk duyup duymayacağınız gibi önemli sorular soruyor.

nsanların normal hayatlarında asla yapmayacakları şeyleri, pek üzerinde bile durmadan rahatlıkla yapabildikleri Westworld, televizyon eleştirmenleri tarafından Grand Theft Auto serisine benzetiliyor. Bu benzetme, yeni bir tartışmayı da beraberinde getiriyor. Grand Theft Auto gibi şiddet içeren oyunların toplum üzerindeki etkileri ve artan şiddet olaylarındaki payının sıkça tartışıldığı şu günlerde, dizideki gibi bir yapay gerçekliğin insanlar üzerinde ne gibi etkiler yaratacığını öngörmek oldukça zor.

Üstelik son yıllarda sanal gerçekliğin hızla yükselmesi ile birlikte, aslında bir bilim-kurgu dizisi olan Westworld'un anlattığı kurgusal hikaye ile gerçeklik arasındaki fark hızla kapanmış durumda. Dizide yer alan futuristik tema park, aslında bir anlamda bugünkü sanal gerçeklik cihazlarının sunduğu deneyimin çok daha gelişmiş, canlı bir versiyonu olarak düşünülebilir.

Westworld'ü çekerken amaçlarının bir şeyler öğretmek veya bir mesaj vermek olmadığını belirten Jonathan Nolan, dizinin en başta bir eğlence aracı olduğunu ama bununla birlikte bazı önemli soruları da gündeme getirmeyi umduklarını ifade etti.