İnsanlar gelişen yapay zeka video oluşturma sistemleri ile yüz binlerce dolar dolandırılıyor

Yapay zeka teknolojileri kullanılarak oluşturulan videolarda, ünlü isimlerin, örneğin Elon Musk, Donald Trump ve Jeff Bezos gibi, yüz ifadeleri ve sesleri değiştirilebiliyor.

Newstimehub

Newstimehub

21 Ağu, 2024

Yapay zeka teknolojileri kullanılarak oluşturulan videolarda, ünlü isimlerin, örneğin Elon Musk, Donald Trump ve Jeff Bezos gibi, yüz ifadeleri ve sesleri değiştirilebiliyor.

Gün geçtikçe gelişen yapay zeka teknolojileri, video oluşturma sistemlerinde önemli bir rol oynuyor. Bu sistemler kullanılarak Amerikalı milyarder Elon Musk, eski ABD Başkanı Donald Trump ve Amazon’un CEO’su Jeff Bezos gibi tanınmış kişilerin görüntülerine sahte ses ve mimikler eklenebiliyor. Bu gelişmiş teknolojiler, yüz binlerce dolarlık dolandırıcılık vakalarına yol açabiliyor.

Son dönemde, yapay zeka tabanlı video oluşturma ve ses manipülasyon sistemlerinin dolandırıcılığın yeni bir aşamaya geçmesine neden olduğu gözlemleniyor. Bu sistemler, kişilerin banka bilgilerini ve yatırımlarını çalmak amacıyla kullanılıyor. Suçlular, “deepfake” olarak bilinen yöntemle, manipüle edilmiş ses ve görüntüleri kullanarak kurbanlarını tuzağa düşürüyor.

Dolandırıcılık vakalarının çoğu zaman hedefi, kripto parayla ilgilenen ve güvenli internet kullanımı konusunda sınırlı bilgiye sahip olan yaşlı bireyler oluyor. Bu kişiler, sahte görüntü ve sesler ile kandırılarak büyük finansal kayıplara uğrayabiliyor.

Ünlü isimlerin, “hızlı getiri vadeden radikal yatırım fırsatları” sunduğu ve ekonomiye dair bilgileri paylaştığı sahte videolar aracılığıyla, insanların var olmayan şirketlere yatırımlar yapmaları teşvik ediliyor. Bu videolarda, hedef alınan kişilere, sözde yatırımlardan faydalanmak için belirli hesaplara para göndermeleri isteniyor. Gönderilen paranın daha fazlasının kazanılacağı vadedilerek, dolandırıcılığın hedefi olan kişiler kandırılıyor.

Videolar, çok düşük bütçelerle dakikalar içinde oluşturulabiliyor ve Facebook ile YouTube gibi popüler platformlarda reklam olarak yayınlanabiliyor. Ünlü kişilerin aksanları taklit edilerek, sahte grafikler ve haber sitesi logoları kullanılarak izleyiciler yanıltılmakta.

Elon Musk, bu tür dolandırıcılık yöntemlerinde en çok tercih edilen isimlerden biri olarak dikkat çekiyor; tespit edilen 2 binden fazla “deepfake” videosuyla, sahte içeriklerde sıkça yer alıyor. Uzmanlar, “deepfake” videolarının tam anlamıyla mükemmel olmasa da, her geçen gün daha inandırıcı hale geldiğini belirtiyor. Bu gelişmeler, bu tür dolandırıcılık faaliyetlerinin giderek daha karmaşık ve etkili hale geldiğini gösteriyor.

New York Times’a konuşan CTM Insights’ın kurucusu Lou Steinberg, organize suç örgütlerinin bu teknolojiyi kendi amaçları için kötüye kullanabileceğini fark etmeleriyle, “deepfake” yöntemini kullanan kişilerin sayısının gün geçtikçe artacağını belirtiyor.

“Deepfake” dolandırıcılığından yaklaşık 700 bin dolar kaybetti

New York Times’ın haberine göre, 82 yaşındaki emekli Steve Beauchamp, “deepfake” dolandırıcılığının kurbanlarından biri oldu. Beauchamp, 2023 yılında “deepfake” Elon Musk reklamına kanarak büyük bir yatırım fırsatına yöneldi ve yaklaşık 690 bin dolar kaybetti. Videodaki kişinin gerçekten Musk olduğunu düşündüğünü belirten Beauchamp, polise zamanında başvurmadığı için pişman olduğunu ifade etti. Bu yöntemle dolandırılanlar arasında çok uluslu şirketlerde çalışan profesyonellerde yer alıyor.

“Deepfake” dolandırıcılığı insanların itibarını tehlikeye atıyor

Nature’ın haberinde, Güney Afrikalı ürolog Kgomotso Mathabe ve Hint doktor Viswanathan Mohan’ın “deepfake” dolandırıcılığının kurbanı olduklarına dair hikayelerine yer verildi.

Mathabe, kendi “deepfake” görüntülerinin bir internet reklamında kullanıldığını ve çok sayıda dolandırıcılık mağduru tarafından rahatsız edildikten sonra durumu fark etti. Reklamda, Mathabe’nin görüntüsüyle tanıtılan yeni bir ilaç vardı ve izleyiciler, hesap bilgilerinin çalındığı sahte bir siteye yönlendirildi.

Hint doktor Viswanathan Mohan ise, bilinmeyen bir dilde kendisinin uzman görüşü verdiği bir “deepfake” videoyla insanların dolandırıldığını keşfetti. Mohan, bu durumun sadece itibar suikastına yol açmakla kalmayıp, aynı zamanda hukuki sorunlar da oluşturduğunu belirtti.

Facebook ve Youtube harekete geçti

New York Times’ın haberine göre, Avustralyalı maden işletmecisi milyarder Andrew Forrest, Facebook, Instagram ve WhatsApp’ın sahibi Meta’yı, yüzünün “deepfake” reklamlarında kötüye kullanılması nedeniyle şikayet etti. Forrest, Facebook’taki sahte reklamların “masum kullanıcıları kötü yatırımlara” çektiğini belirterek, Meta’nın yanıtında dolandırıcılığı tespit etmek için otomatik sistemler kullandığını ifade etti.

“Deepfake” teknolojisinin yaygın olduğu bir diğer platform olan YouTube, kurallarını ihlal eden 15,7 milyondan fazla kanalı ve 8,2 milyondan fazla videoyu kaldırdığını açıkladı. Şirket ayrıca, içerik üreticilerinin yapay zeka kullanarak gerçekçi içerikler oluşturduğunda bunu açıklamalarını zorunlu kılacak yeni bir düzenlemeye gitti.