‘Dünya kadar vaktim var.’
Dolandırıcılar dünya çapında büyük vurgunlar yapıyor. ABD Federal Ticaret Komisyonu, sadece geçen yıl Amerikalı tüketicilerin dolandırıcılık sebebiyle 10 milyar dolarlık rekor bir kayıp yaşadığını tahmin ediyor. Bu miktar, sadece önceki yıla göre %14’lük bir artış demek. Dahası dolandırıcılar, telefon üzerinden yaşlı ve kandırılmaya müsait kişileri hedef alıyor. İngiltere’de yaşayan 75 yaş üstü kişilerin üçte ikisinden fazlası, geçenlerde yapılan bir araştırmaya göre son altı ayda en az bir defa dolandırılmaya çalışıldıklarını söylemiş. Bu kişilerin %40’ı ise sık sık dolandırma girişimlerine maruz kaldıklarını belirtmiş.
Şimdiyse İngiltere’de yapay zekanın oluşturduğu ve “Daisy” adını taşıyan bir büyükanne, dolandırıcıların işini biraz bıktırıcı hale getirmeye çalışıyor. İngiliz mobil operatör Virgin Media O2, kötü niyetlilerle konuşması ve onların zamanını mümkün olduğu kadar çalması için Daisy’i ortaya çıkarmış. ChatGPT benzeri geniş dil modellerini kullanan Daisy, dolandırıcıları hatta tutmak amacıyla örgüye olan tutkusuyla alakalı konuşup duruyor ve aile üyeleriyle ilgili bitmek bilmeyen uydurma hikayeler anlatıyor. Teoride, Daisy ile uydurma ailesi veya günlük ev işleriyle alakalı yapılan bu sinir bozucu sohbetin her dakikası, bir dolandırıcının gerçek bir insanı hedef alabileceği bir dakikalık zamana mal oluyor.
Virgin Media O2 Dolandırıcılık Önleme Birimi Yönetmeni Murray Mackenzie, “Dolandırıcılık önleme takımımızın en yeni üyesi Daisy, durumu dolandırıcıların aleyhine çeviriyor; onları sadece hatta tutarak, zekası ile onları kendi zalim oyunlarında alt edip üstünlük sağlıyor” diyor bir blog gönderisinde.
Yapay zeka büyükanne, gerçek dolandırıcılık telefonlarıyla eğitilmiş
O2, dolandırıcılık ağlarını engelleyen profesyonellerle çalışarak, yapay zekaya bağlı telefon numaralarını dolandırıcıların hedef aldığı numara listelerine ekletmiş. Bir dolandırıcı bu numaralardan birini ararsa, hemen Daisy ile etkileşime girmeye başlıyor. O2’nin yayınladığı dolandırıcılar ile yapılan sohbet kayıtları, Daisy’nin kurgusal kedisi “pofuduk”tan bahsederek, tepesi atan dolandırıcıları trollediğini ve kendisine sorulan sorular karşısında genellikle lafı dolandırdığını gösteriyor. Daisy, dolandırıcılara sahte kişisel bilgiler ve düzmece banka detayları da vererek onlara aslında gerçek bir insanı dolandırdıklarını düşündürtüyor. Bu konuşmalar dolandırıcıların sinirlerini bozabiliyor. O2, telefonun diğer ucunda çileden çıkan dolandırıcıların yapay zekaya bağırarak küfür ettiklerinin duyulduğu ses kliplerini de gösteriyor.
Bir dolandırıcının “Bana ‘tatlım’ demeyi bırak seni aptal [küfür]” dediği duyuluyor. “Anlaşıldı tatlım” diyor Daisy de.
Daisy tüm bunları yapmak için ilk önce sesten metne dönüşüm yapan bir yapay zeka modeli kullanarak, dolandırıcının konuşmasını çözümlüyor. Sonrasında bu metin başka bir yapay zeka modelinden geçirilerek, konuyla alakalı içeriklerin kullanıldığı bir yanıt oluşturuluyor. Metni konuşmaya dönüştüren bir başka model ise daha sonra bu yanıtı yaşlı bir kadının sesiyle okuyor. Tüm bu işlemler saniyeler içerisinde gerçekleştiğinden, dolandırıcılar gerçek bir insanla konuştuklarını düşünüyor. Daisy, O2’nin topladığı “oltacı dolandırıcıların” gerçek kayıtları kullanılarak eğitilmiş.
O2 bilerek yaşlı bir kadın kullanmış çünkü bu kişiler genellikle orantısız şekilde dolandırıcılığa maruz kalıyor. Bu vakada ise Daisy, dolandırıcıları konuşturmak üzere tasarlanmış dolambaçlı, çenesi düşük konuşmalar yapması için programlanmış. Model söylenene göre göre çok sayıda dolandırıcıyı 40 dakikadan uzun süre hatta tutmuş.
Dolandırıcıların hedef aldığı İngiltere’deki vatandaşlar, saldırganların yaptığı çağrıyı 7726 numarasına yönlendirerek yapay zekaya aktarabiliyor. Bunun sonucunda çağrı Daisy hattına gidiyor. O2, Daisy’nin hileli telefon faaliyetlerindeki yükseliş karşısında anlamlı bir farklılık meydana getirebileceğini düşünüyor. O2’nin geçenlerde yaptığı araştırmada ankete katılan yaklaşık beş İngiliz’den biri, her hafta bir dolandırıcılığın hedefi olduklarını söylemiş.
Yapay zeka yeni sahtekarlıklara da katkıda bulunuyor
Daisy dolandırıcılığı önlemekle görevlendirilse de dolandırıcılar benzer yapay zeka araçlarını kullanarak bir dizi yeni saldırılar düzenliyor. Ses kaydı kesitlerini kullanarak bir insanın konuşmasını taklit eden bu yapay zeka “klon sesler”, son yıllarda banka dolandırıcılıkları ve elektronik dolandırıcılıklarda kullanılıyor. Hatta bazı uç noktalı örneklerde dolandırıcılar, insanları kandırarak sevdiklerinin kaçırıldığına veya rehin tutulduğuna inandırıyorlar. Oğullarının veya kızlarının tehlikede olduğuna inanan kurbanlar, dolandırıcılara gerçek dışı bir fidye ödüyor. Bu gibi sahtekarlıklar giderek yaygınlaşıyor. Siber güvenlik firması McAfee’nin geçenlerde yaptığı bir ankette dört katılımcıdan biri, kendilerinin veya tanıdıkları birinin bu yapay zekalı ses klonu dolandırıcılığının hedefi olduğunu iddia etmiş. Daisy gibi araçlar ise teoride diğer yapay zeka dolandırıcılık botlarını dolambaçlı çıkmazlara göndererek bu tür durumlarla başa çıkılmasına yardımcı olabilir.
“Kabul edelim tatlım” diyor Daisy ses kayıtlarından birinde. “Dünya kadar vaktim var.”
Yazar: Mack Degeurin/Popular Science. Çeviren: Ozan Zaloğlu.
