Dünyanın en büyük şirketlerinde ve üniversitelerinde çalışan araştırmacılar makineler yardımıyla büyük kitap ciltlerini taramadan geçiriyor. Peki amaçları ne? Bu makinelere dil öğretmek. Bazıları ise bilgisayarların bu sayede insan beynini taklit edebileceğini iddia ediyor.
Ancak yeni bir makaleye göre bu etkileyici hesaplama kapasitesi, ırkçılığın devam etmesi ve çevrede büyük zararlar oluşması gibi gerçek bedelleri de yanında taşıyor. Makale, üç gün önce ACM Adalet, Sorumluluk ve Şeffaflık Konferansı‘nda sunuldu.
Tanınmış bir yapay zeka araştırmacısı olan Timnit Gebru ile beraber makalenin baş yazarı olan ve Washington Üniversitesi’nde çalışan dilbilim pofesörü Emily M. Bender’a göre bu araştırma, dil öğrenim teknolojilerinin hızla büyümesiyle gelen tehlikeleri kapsayan literatürün ilk defa etraflı şekilde incelenmesini temsil ediyor.
“Bizim burada sorduğumuz soru, bu yaklaşımın muhtemel tehlikelerinin ne olabileceği. Verdiğimiz yanıtlar ise, geniş bir alan yelpazesinde bilimsel yazın taraması ile bunları bir araya getirmeyi içeriyor” diyor Bender.
Araştırmacılar, sürekli büyüyen hesaplama gücünü doğal dil modellerine yerleştirmenin olumsuz tarafları olabileceğini ortaya çıkarıyor. Araştırmacılar dil modellemesine yönelik eğitim verilerinin sürekli artan boyutunun, sosyal ve çevresel sorunları nasıl daha kötü hale getirdiğini tartışıyor. Bu gibi modeller, baskın dili endişe verici biçimde devam ettirebilir ve insanları yanıltarak, bir makineden ziyade bir insanla “gerçek” bir sohbet yürüttüklerini düşünmelerini sağlayabilir. Bu modellerin artan hesaplama ihtiyaçları, çevresel bozunuma daha fazla katkıda bulunuyor.
Jackson Holtz/Washington Üniversitesi. Ç: O.
