Dolandırıcılar yapay zekâ klonlanan sesleri kullanmaya başladı: İşe yarıyor!

Yapay zekâ öteki birçok teknolojik ihtilallerde olduğu üzere yararlarıyla Bir arada ziyanlarını da hayatımıza sokacak. Görünüşe nazaran şimdilik buna hazırlıklı değil. nihayet gelen bilgiler yapay zekâ ile üretilen gerçekçi ses taklitlerinin dolandırıcılıkta kullanılmaya başlandığını bildiriyor.

Washington Post’un aktardığına nazaran birkaç çift, kendilerini Çeşitli nedenlerle yardım hasebiyle arayan çocuklarına Nakit gönderdi, her hassas ailenin yapacağı üzere. Lakin farkında olmadıkları bir Sıkıntı vardı; Konuştukları şahıs çocukları değil, bir Yapay zekaydı.

Yapay zeka tarafından oluşturulmuş ses ile dolandırıcılık

Elbette ses tabanlı dolandırıcılık yeni bir şey değil. ABD Federal Ticaret Kurulu dataları, geçen Yıl insanların Dost yahut aile üzere davranan hatalılar tarafından dolandırıldığına dair 36.000 raporun 5.100’den fazlasının telefonda gerçekleştiğini ortaya koyuyor. Bir kişinin sesini taklit etmek evvelden saatlerce süren ses keşifleri ile Mümkün oluyordu. Ortaya çıkan eserlerin kusurları ise dikkatli şahıslar tarafından ayrım edilebiliyordu. Lakin artık Yapay zeka ile oluşturulmuş ses taklitleri için sadece birkaç dakika kâfi. Aktarılanlara nazaran bir çift, çocuklarının sesini taklit eden dolandırıcılara 15.449 dolar gönderdi ve Biricik kurban kendileri değil.

Örneğin Microsoft’un Vall-E aracı yalnızca 3 saniyelik ses klipleri ile epeyce gerçekçi ve dengeli ses taklitlerini Muhtemel kılıyor. Üstelik bu Ufak ses klipinden farklı tonları (sinirli, heyecanlı vb.) bile üretebiliyor. Emsal bir araç olan ElevenLabs ise Fazla daha gerçekçi sesler üretebiliyor. Çabucak üstteki Twitter görüntüsünden aracın muvaffakiyetini görebilirsiniz.

Gelinen noktada bu tip dolandırıcılar yahut Kötü kullanım için kapsamlı tedbirlerin alınması Kaide üzere duruyor. Yalnızca dolandırıcılık olarak da görmemek gerek. Bu tip üretilmiş seslerle birleştirilmiş deepfake görüntüler Özellikle karmaşanın olduğu anlarda Önemli sonuçlara neden olabilir. Bankaların ses tabanlı Emniyet özellikleri aşılabilir. Hasebiyle toplumsal medya platformları kendilerine yüklenen görüntülerde yahut görsellerde Yapay zekayı tespit eden araçlara yer verebilir. Halihazırda ChatGPT üzere metin üreten Yapay zekâları tespit eden DetectGPT üzere modeller geliştiriliyor.