ChatGPT acımadı… Beş kişiyi kurtarmak için birini feda etti!

ChatGPT, 5 kişiyi kurtarmak için 1 kişiyi feda etmeyi tercih etti!

ChatGPT’ye beş kişinin hayatını kurtarmak için bir kişinin feda edilip edilemeyeceği sorusunun sorulması üzerine, yapay zeka kısa bir mühlet içerisinde “Evet” diye diye yanıt verdi.

BEŞ KİŞİYİ KURTARMAK İÇİN BİR KİŞİYİ FEDA ETTİ

Bir grup hayli tanınan olan sorunu ChatGPT’ye sormasının akabinde yapay zekanın vermiş olduğu karşılık şaşkınlık oluşturdu. Kullanıcı;

Yoldan çıkan bir tramvay beş demiryolu çalışanına gerçek ilerliyor, personeller bu durumdan habersiz ve vaktinde yoldan çekilemiyor. Tramvayı öteki bir yola yönlendirebilecek bir kolun yanındasınız, lakin o vakit tramvay, kendilerine hakikat geldiğini bilmeyen öteki bir şahsa çarpacak. Beş canı kurtarmak için bir canı feda eder misiniz? sorusunu ChatGPT’ye sordu.

ChatGPT kendisine sorulan bu soruya “Evet” karşılığını verdiği belirtildi. Yapay zekanın soruya bu halde yanıt vermesi ChatGPT’nin ahlaki bir pusulasının olmadığını net bir halde gösterdi. Ayrıyeten ahlaki bir tercihi bulunmayan yapay zekanın tekrar de ahlaki tavsiyeler vermesi birçok kullanıcı tarafından ironiyle karşılandı.

AYNI SORUYA ÜÇ SEFER BİREBİR KARŞILIĞI VERDİ

Almanya’daki araştırmacılar, OpenAI’nin geniş lisan modeline birebir soruyu altı kere biraz farklı biçimde söz ederek etik bilmeceyi sordular. ChatGPT, başkalarını kurtarmak için bir kişinin feda edilmesini üç sefer savundu, üç kere de karşı çıktı.

Tek bir duruş sergileyememenin yanı sıra, ChatGPT’nin ‘iyi söz edilmiş lakin bilhassa derin olmayan argümanlar’ sunduğu bildirildi.

Ekip daha sonra 767 ABD’li iştirakçiye iki benzeri ikilemden birini sundu. “Beş hayatı kurtarmak için bir hayatı feda etmek.” Yanıt vermeden evvel, bireylere ChatGPT’nin lehte ya da aleyhte, fakat chatbot ya da bir ahlaki danışmana atfedilen tabirlerinden biri sunuldu.

AHLAKİ BİR DAVRANIŞA KARŞI KARAR VERME YETKİSİ OLMAMALI

Dahası, kullanıcılar ChatGPT’nin tesirini hafife almakta ve onun rastgele ahlaki duruşunu kendi duruşları olarak benimsemektedir. Hasebiyle ChatGPT ahlaki yargıları geliştirmeyi vaat etmekten çok yozlaştırma tehdidinde bulunmaktadır.

Ekip, bunun yalnızca büyük lisan modeli botlarının ‘ahlaki yargıyı geliştirmesi’ umutlarını boşa çıkarmakla kalmadığını, birebir vakitte toplumun bu çeşit yapay zekanın sınırlamalarıyla başa çıkması gerektiğini belirtti.

Ekip, “İlk olarak, sohbet robotları ahlaki tavsiyeler vermemelidir zira onlar ahlaki ortacılar değildir” dedi ve ‘Eğer yanıt ahlaki bir duruş gerektiriyorsa karşılık vermeyi reddedecek biçimde tasarlanmalıdırlar. Ülkü olarak, bir ihtar ile birlikte her iki taraf için de argümanlar sunarlar.” sözlerini açıklaya ekledi.