Sık sık “yapay zekanın babası” şeklinde adlandırılan bir bilgisayar bilimcisi, Google’daki işini bırakıp insanları yapay zeka teknolojisinin tehlikelerine karşı uyarmaya karar verdi.
Yapay zeka sistemleri için bir teknoloji temeli oluşturan Geoffrey Hinton, alanda kaydedilen ilerlemelerin “toplum ve insanlık açısından ciddi tehlikeler sergilediğini” söylüyor: “Beş yıl önce nasıldı, şimdi nasıl? Aradaki farkı düşünüp gelecekteki halini hayal edin. Korkutucu bir hızla gelişiyor.”
Teknoloji devleri arasındaki rekabetin şirketleri korkutucu bir hızda yeni yapay zeka teknolojileri çıkarmaya ittiğini belirten Hinton, bu durumun insanların işlerini tehlikeye attığını ve yanlış bilgilerin yayılmasına neden olduğunu söylüyor.
“Kötü aktörlerin bu teknolojiyle kötü şeyler yapmasını nasıl engelleyeceğiz, bunu çözmek zor” diyor.
2022 yılında Google ve OpenAI (meşhur yapay zeka yazılımı ChatGPT’nin ardındaki firma), hiç olmadığı kadar fazla miktarlarda veri kullanarak yeni sistemler geliştirmeye başladı.
“Belki de bu sistemlerde beyinde gerçekleşen şeylerden çok daha iyi bir şey gerçekleşiyordur” diyen Hilton, söz konusu sistemlerin analiz ettiği veri miktarı sebebiyle bazı yönlerden insan zekasını geride bıraktığını düşünüyor. Yapay zeka çalışan insanları desteklemekte kullanılsa da, ChatGPT gibi sohbet yazılımlarının hızla yaygınlaşması meslekleri tehlikeye atabilir.
Hilton’a göre yapay zeka sıkıcı işleri ortadan kaldırsa da, bundan çok daha fazlasını ele geçirebilir.
Bilim insanı, yapay zekayla oluşturulan yanlış bilginin yayılma ihtimali konusunda da uyarıyor ve ortalama bir insanın “gerçeği artık ayırt edemeyebileceğini” söylüyor.
Hinton Google’dan geçen ay istifa etmiş. Google Yapay Zeka’da baş bilim insanı olarak çalışan Jeff Dean, “Yapay Zeka İlkeleri’ni yayımlayan ilk şirketlerden biri olarak, yapay zekaya karşı sorumlu yaklaşım sergileme tutumumuzu devam ettiriyoruz” diyor. “Güçlü yenilikler getirirken, ortaya çıkan tehlikeleri anlamayı da sürekli olarak öğreniyoruz.”
Teknoloji milyarderi Elon Musk ve diğer uzmanlar, iki ay önce yapay zeka sistemlerinin geliştirilmesine bir süre ara verilip bu süre zarfında söz konusu sistemlerin güvenli olup olduklarından emin olmak üzere çağrı yapmıştı.
ChatGPT’nin kullandığı teknolojinin çok daha güçlü bir hali olan GPT-4’ün çıkışı, Musk ve Apple’ın kurucu ortağı Steve Wozniak’ın da imzasının bulunduğu 1.000’den fazla kişinin açık bir mektup yayımlamasına yol açmıştı.
Hinton o zaman için mektuba imza atmasa da, bilim insanlarının “kontrol edip edemeyeceklerini anlayana dek çok ileri gitmemesi gerektiğini” söylemişti.
Kaynak: Fransa Haber Ajansı. Çeviren: Ozan Zaloğlu.
