Cuma günü saat 16:40'ta gelen bir telefon... Karşıdaki ses, bir üst düzey yöneticiye ait gibi, en azından kulağa öyle geliyor. Acil bir uçuş öncesi şifre sıfırlaması istiyor. Kibar, telaşlı ve kart numarasının son dört hanesini biliyor. Bu senaryo, Harvard Kennedy School, Meta ve diğer araştırmacılar tarafından 4.100 ABD'li yetişkin üzerinde test edildi. Altı farklı ticari ses sistemi ve insan arayanlar kullanıldı. Sonuçlar, deepfake tespit sistemlerine yatırım yapanlar için şaşırtıcı.
Araştırmada katılımcılara sentetik bir ses verildiğinde, çoğu bunu fark etti (%70,3). Bu oran, savunmanın işe yaradığı izlenimi veriyor. Ancak aynı kişiler, gerçek insan arayanları da %66 oranında robot olarak işaretledi. Yani tespit becerisi aslında bir yanılsama: İnsanlar artık her arayanın robot olabileceğine o kadar şartlanmış ki, şüphe artsa da doğruluk artmadı. Yapay zeka araçlarına aşina olanlar ile hiç kullanmayanlar arasında da anlamlı bir fark yoktu.
Bu durumun operasyonel bir maliyeti var: Bankalar, yardım masaları ve güvenlik operasyon merkezleri artan şüphe nedeniyle meşru aramalarında bile zorlanıyor. Geri arama doğrulaması her iki yönde de güçleşiyor. Çalışma, her bir arayanı dört özellik üzerinden değerlendirdi: duygu durumu, ikna edicilik, güvenilirlik ve insan benzerliği. Hangi özelliğin talebe uyma olasılığını artırdığına bakıldığında, asıl belirleyicinin ikna edicilik olduğu görüldü: İkna edicilikteki her birim artış, uyma olasılığını 2,58 kat artırıyordu. Sesin ne kadar insana benzediği ise diğer faktörler hesaba katıldığında anlamsız hale geldi.
Daha da çarpıcı olanı: Tespit edilen yapay zeka sesleri bile insanları ikna etmeye devam etti. Bir arayan sentetik olarak algılansa bile, senaryo ikna edici olduğu için kredi kartı güvenlik kodunu alabiliyor. Nitel görüşmelerde katılımcılardan biri, 'programcının verdiği talimatları tekrarlayan bir yazılım gibi' dediği arayanla yine de etkileşime devam ettiğini söyledi. Diğerleri hızlı ve düzensiz konuşmayı, gergin bir çağrı merkezi çalışanı olarak yorumladı.
Beş farklı dolandırıcılık senaryosunda katılımcıların yaklaşık %16,5'i talebe uyacağını söyledi. 'Başı dertte olan akraba' senaryosunda bu oran %36,1'e çıktı. Ancak dikkat: Bu oranlar 'evet' diyenlerle 'belki' diyenleri birleştiriyor. Sadece 'evet' diyenlerin oranı %6,5. Yine de 'belki' diyenler, dolandırıcı için hattı açık tutan ve ikinci bir deneme şansı veren kişiler olduğundan, bu oran da önemli. Yine de nüfusun üçte birini parayı vermeye hazır olarak görmek, ölçülen veriyi yanlış yorumlamak olur.
Uzmanların Görüşleri
Araştırmanın iki önemli sınırlılığı var: Katılımcılar, telefon çalmayan ve adrenalin seviyesi düşük bir ortamda başkasının telefon görüşmesi kaydını değerlendirdi. Klonlanan ses, katılımcıların tanımadığı bir araştırmacıya aitti; yani en korkutucu senaryo olan 'kendi kızınızın sesi' test edilmedi. Ayrıca ekip, kayıtlardan model reddetmelerini, uyarıları ve dönüş sinyallerini çıkardı. Açık kaynak sistemler zaten böyle davranırken, ticari API'ler saldırganın önüne daha fazla engel koyuyor.
Çalışma, insan operatörlü vishing'in ABD saatlik ücreti 34,55 dolar üzerinden zarar ettiğini, AI modellerin ise saatte birkaç dolar kâr getirdiğini öne sürüyor. Ancak bu hesaplama, saldırganların Amerikan ücretleri ödediğini varsayıyor. Oysa Güneydoğu Asya'daki endüstriyel dolandırıcılık operasyonları yıllardır düşük işgücü maliyetiyle sesli dolandırıcılık yapıyor. AI'ın getirdiği asıl değişiklik, dil, personel ve coğrafya kısıtlamalarını ortadan kaldırması. Kâr marjları o kadar ince ki, küçük değişiklikler işareti tersine çevirebilir.
Gelecekte Ne Bekleniyor?
Peki ne yapmalı? Robotik ses özelliklerini dinlemeyi öğreten farkındalık eğitimleri, insanlara zaten sahip olmadıkları ve işe yaramayacak bir beceri kazandırıyor. Kanıtlar başka bir yöne işaret ediyor: Bant dışı doğrulama (out-of-band verification) işe yarıyor. Yani, kurumun elinde bulunan numaralara geri arama, akraba dolandırıcılığı için aile kod kelimeleri, yardım masası kimlik doğrulaması için ses tanıma dışı yöntemler ve sadece gelen aramayla tetiklenemeyen prosedürler (şifre sıfırlama, para transferi, kimlik değişikliği gibi). Unutmayın: Dolandırıcının sesi değil, senaryosu sizi kandırır.
Kaynak: helpnetsecurity.com
