Deepfake ses dolandırıcılığına karşı telefonda çalışan yapay zekâ

Yapay zekâ tarafından üretilen sahte sesler, dolandırıcılık yöntemlerini daha inandırıcı hâle getiriyor. DetectifAI adlı girişim ise bu tehdidi telefonun içinde çalışan küçük yapay zekâ modelleriyle tespit etmeyi amaçlıyor. Şirketin kurucusu Tarini Padmanabhuni’nin bu alana yönelmesinin arkasında, ailesinin yaşadığı doğrudan bir dolandırıcılık vakası bulunuyor.

Yaklaşık iki yıl önce Padmanabhuni’nin büyükbabası, kardeşiyle konuştuğunu sandığı bir telefon aldı. Arayan kişi, kardeşinin kaçırıldığını ve serbest bırakılması için fidye ödenmesi gerektiğini söyledi. Büyükbabası parayı gönderdi; ancak daha sonra kardeşinin aslında başka bir yerde olduğu ve yaşananlardan haberdar bile olmadığı ortaya çıktı. Telefonda duyulan ses, kardeşinin yapay zekâyla oluşturulmuş bir taklidiydi.

Padmanabhuni’ye göre olayın en çarpıcı tarafı kaybedilen para değil, büyükbabasının sesin gerçek olup olmadığını anlayabileceği bir araca sahip olmamasıydı. DetectifAI fikri de bu deneyimin ardından şekillendi.

Yapay zekâ dolandırıcılıklarında yaşlılar daha fazla risk altında

Yapay zekâ destekli dolandırıcılıkların maliyeti hızla büyüyor. FBI verilerine göre Amerikalılar, geçen yıl yapay zekâ kullanılan dolandırıcılıklar nedeniyle yaklaşık 900 milyon dolar kaybetti. Bu tutar, 2024’e kıyasla yüzde 24 daha yüksek. 60 yaş ve üzerindeki kişilerin kayıpları ise 50-59 yaş grubundakilerin iki katına ulaştı.

Deepfake sesleri tespit etmek için çalışan farklı şirketler bulunuyor. Ancak DetectifAI kurucusu, mevcut ürünlerin önemli bölümünün uzak sunucularda, yani bulut üzerinde çalıştığını belirtiyor. Bu yapı, telefon üreticilerinin tespit özelliğini doğrudan cihazlara yerleştirmesini zorlaştırıyor. Kullanıcı açısından da sesin analiz edilmesi için ses verisinin cihaz dışına gönderilmesi gerekebiliyor.

Ses analizi telefondan çıkmadan yapılacak

DetectifAI, büyük bulut modellerini küçültüp telefona sığdırmak yerine, en baştan kompakt modeller tasarladığını söylüyor. Bu modellerin akıllı telefon işletim sistemi içinde çalışması hedefleniyor. Böylece sistem; normal telefon görüşmelerinde, sesli mesajlarda ve diğer ses kayıtlarında içeriğin yapay zekâ tarafından üretilip üretilmediğine hızlı biçimde karar verebilecek.

Yaklaşımın temel farkı, sesin analiz için cihazdan ayrılmaması. Bu durum hem yanıt süresini kısaltabilir hem de kişisel ses kayıtlarının uzak sunuculara aktarılmasını gerektirmeyebilir. Ancak teknolojinin farklı telefon modellerinde ne kadar başarılı olacağı ve gerçek görüşmelerde yanlış alarm oranının nasıl şekilleneceği, ürünlerin yaygınlaşmasıyla daha net görülecek.

Girişimin ana ürünü, üreticilerin kendi yazılımlarına ekleyebileceği bir yazılım geliştirme kiti (SDK). DetectifAI, bu paketi telefon üreticilerine lisanslayarak deepfake ses tespitini işletim sistemine yerleşik bir özellik hâline getirmek istiyor. Şirket ayrıca teknolojisini işletmelere ve dolandırıcılık önleme alanında çalışan firmalara lisanslamayı planlıyor.

Hindistan’daki finans kuruluşlarıyla kullanıma başladı

DetectifAI henüz telefon üreticilerine yönelik hedefini gerçekleştirmeden önce finans sektöründe gelir elde etmeye başladığını belirtiyor. Padmanabhuni’nin açıklamasına göre şirket, Hindistan’daki finans kuruluşları için ayda 100 binden fazla çağrıyı işliyor.

Bu çağrılar, borç tahsilatı ve kredi belgeleriyle ilgili takip süreçlerini yürüten yapay zekâ sesli aracılar tarafından yapılıyor. DetectifAI, görüşmelerde deepfake tespitinin yanı sıra arayan kişinin iddia ettiği kişi olup olmadığını doğrulayan konuşmacı doğrulama teknolojisini de kullanıyor. Şirket, gizlilik anlaşmaları nedeniyle çalıştığı finans kuruluşlarının isimlerini paylaşmıyor.

Padmanabhuni, makine öğrenimiyle 12 yaşında ilgilenmeye başladığını ve Hindistan’daki Manipal Institute of Technology’de siber-fiziksel sistemler eğitimi aldığını aktarıyor. DetectifAI’nin hedefi, deepfake sesleri yalnızca kurumsal sistemlerde değil, doğrudan akıllı telefonların temel özellikleri arasında tespit edilebilir hâle getirmek. Bu yaklaşım başarılı olursa, kullanıcıların sahte bir yakının sesiyle yapılan aramalarda uyarı alması, telefon üreticilerinin rekabetinde kamera çözünürlüğü gibi ölçülebilir bir özellik hâline gelebilir.