Ahlaki İkilem Treninin Frenleri Yok
Bir robot, birini öldürmek durumunda kalırsa kimi öldürmeli? Sürücüsüz araçlar, gelecek, insan taşıyan robotlar otomobil güvenliği için harika gelişmeler vadediyor olsalar da, bazen başarısız da olacaklar. Bu başarısızlıklar, neyse ki, insan hatasından dolayı kaynaklanan yaralanma veye ölümlere oranla daha az olacak olsa da, aracı kullanan bilgisayarlar ve algoritmalar yeri geldiğinde, söz gelimi; frenler tutmadığında araç beş yayaya çarpıp onları mı, yoksa güzergahını değiştirip beton barikatlara çarpıp sadece araç içindekileri mi öldürmeli gibi oldukça insani kararlar vermek zorunda kalacaklar.
Scalable Corporation’un MIT Medya Laboratuvar’ı için yaptığı “Ahlaki Araç”ın temel dayanağı bu. Katılımcılara her biri sadece iki şıklı 13 soru soruluyor. Her senaryoda, frenleri aniden arızalanan bir sürücüsüz araç bir karar vermek durumunda; şeridinde dümdüz devam ederek önünde ne varsa ona çarpacak, şeridinden çıkarak öbür şeritte ne varsa ona mı çarpacak? Bütün bunlar aslında ilk olarak 1960’larda formüle edilmiş ve daha sonradan isimlendirilmiş, felsefedeki “Tramvay Problemi”nin farklı varyasyonları. Soru; “Bir kolu çekmenin ötesinde, tramvayı başka bir hatta yönlendirerek sadece bir insanı öldürmek mi, yoksa kendi hattında tutarak beş insanı öldürmek mi?”, özü itibariyle ahlaki bir problem ve ufak değişiklikler insanların nasıl bir cevap vermeyi tercih edeceğini büyük ölçüde değiştiriyor.
“Ahlaki Araç” için, pek çok ikili seçenek bulunuyor: Şerit değiştirmek ya da değiştirmemek, karşıdan karşıya yeşil ışıkta geçenler ya da kırmızı ışıkta geçenler, insanlar ya da hayvanlar, yayalara çarpmak ya da araçtaki yolcuları öldürecek bir yere çarpmak, vb.
Ayrıca, ilginç bir biçimde, kontrolden çıkmış aracın çarpabileceği yayaların türünü belirlemeye imkan da sağlanıyor. Senaryoda yer alan insanlar kadın ya da erkek; çocuk, yetişkin ya da ihtiyar; atletik ya da iri; yöneticiler, evsizler, suçlular ya da tanımsız şeklinde çeşitlenebiliyorlar. Bana sorulan bir soruda arabadaki hamile bir kadını mı yoksa bir erkek çocuk, bir kadın doktor, iki kadın sporcu ve bir kadın yöneticiyi mi kurtarmam gerektiği ile karşılaşınca direksiyonu barikatlara çevirip hamile kadını ölüme mahkum ederken başka beş hayatı kurtardım.
Kategoriler zaman zaman kafa karıştırıcıydı: Bu insan grubunu sadece yeşil ışıkta karşıdan karşıya geçtikleri için mi kurtarıyordum, yoksa öbür grubu sadece kırmızı ışıkta karşıdan karşıya geçen ihtiyarlar oldukları için mi ölüme mahkum ediyordum? Peki aracı yeşil ışıkta yaya geçidinden geçen bir grup kedi ve köpeğin üzerine göndermem başka bir anlama mı gelir? Ya alternatif bir bebek, bir erkek yönetici ve bir suçlu olsaydı?
Peki ya bununla ilgili çok düşünüyorsam? Dışarıdan bir bakış açısı için, Washington Üniversitesi’nden hukukçu ve “Robot Yasası” kitabının eş editörü Yard. Doç. Dr. Ryan Calo’ya ulaştım.
“MIT’nin çabasını pratik olmaktan öte pedagojik buluyorum.” diyor Calo. “Üzerinde birileri çalıştığı sürece iyi bir şey sanırım, mesela, beyaz bir kamyonla açık renk gökyüzünü ayırt edecek sensörler gibi.” diye de ekliyor.
Beyaz bir kamyon ile açık renk gökyüzü belki de sürücüsüz araçta meydana gelen ilk ölüme, Tesla Model S’nin otopilotunun beyaz bir traktörü açık renk gökyüzünden ayırt edemediği zaman yaşanan kazaya referans olabilir. Konu ile ilgili yazısında Calo yapay zekanın alışılmamış ve öngörülemez şekilde hareket ettiği “beklenmeyen davranış” konusundaki endişelerini dile getiriyor.
Ahlaki Araç gibi tramvay problemleri fazlasıyla öngörülebilir. Ahlaki Araç problemlerinin sonunda katılımcılar, verdikleri yanıtların MIT Medya Laboratuvarı’nda süren “Otonom makine etiği ve toplum” araştırması üzeride çalışan bilim insanları için veri toplama çalışmasının bir parçası olduğuna dair bilgilendiriliyorlar. (İnsanların verdikleri cevapların ankette kullanılmamasına imkan veren bir seçenek de mevcut.)
Çeviren: Eren Okar
