Siber Güvenlik Uzmanı Osman Demircan, sosyal medya platformlarındaki ırkçı ve ayrımcı içeriklerin popüler olmaları ve kar getirmeleri nedeniyle kasti şekilde ya geç engellendiği ya da engellenmediğini belirtti.
“Yapay Zeka: Kişisel Veriler, Algoritmalar ve Tehditler” başlıklı dosya haberin ikinci bölümünde AA muhabiri, sosyal medyada popüler olan ayrımcı içeriklerin engellenememesi ve hızla yayılmasının nedenlerini Demircan’a sordu.
Demircan, sosyal medya platformlarının yapay zekanın desteği ile gönderilere müdahale ettiğini belirterek, “Siz bir paylaşımda bulunduğunuzda o paylaşım kaç kişinin önüne düşecek bunu hesaplayan şey algoritma ve yapay zeka arka tarafta.” dedi.
Sosyal medya platformlarının kullandığı yapay zeka algoritmalarının sürekli değişkenlik gösterdiğine dikkati çeken Demircan, sosyal medya platformlarının ülkelere göre yapay zeka algoritmalarını geliştirdiğini dile getirdi.
Demircan, bir paylaşım yapıldığı anda yapay zekanın onu belirli kategorilerde değerlendirdiğini ifade ederek, “Sizin gönderiniz kaç kişi paylaştı, beğendi vb. kategorileri algoritma popülerlik olarak algılıyor ve daha fazla insanın önüne çıkmasını sağlıyor. Çünkü bu insanlar tarafından talep gördü şeklinde bakıyor algoritma bu yapıya.” ifadelerini kullandı.
Popüler olan içeriklerin diğer içeriklere göre gösterimlerinin bilerek artırıldığını aktaran Demircan, sosyal medya platformlarının yapay zekadan bu konuda ekstra yararlandığını bildirdi.
Demircan, paylaşımı yapan hesabın takipçi sayısının da yapay zekanın kriterlerinden birisi olduğuna dikkati çekerek, şunları söyledi:
“Mesela ırkçı içerikler yayınlayan 20 kullanıcılı bir hesap hemen kapatılıyor ama 10 bin takipçili bir hesap asla kapatılmıyor. Çünkü birisinin etki ettiği sayıyla diğeri aynı değil herhangi bir etkileşim yaratmayacak. Sosyal medya platformları ne kadar artık eşit olduklarını falan söyleseler de hayır eşit değiller.”
“Sosyal medya platformları içeriklere ticari bakıyor”
Demircan, sosyal medya platformlarının reklam politikaları doğrultusunda düzenlenen ve sürekli değişen bir algoritmik yapıya sahip olduğu vurgulayarak, “Gösterime giren içeriklerin ne kadar popüler olduğu, içeriklerinin ne olduğu aslında reklam politikasını da etkiliyor. Çünkü ne kadar çok izleyen olursa o kadar çok reklam geliri anlamına geliyor.” diye konuştu.
Sosyal medya platformlarına kayıt olurken imzalanan sözleşmelerde ırkçı ya da ayrımcı içerikler paylaşmayacağına dair imza attığını kaydeden Demircan, sosyal medya platformlarının bu konuya yeteri kadar dikkat etmediğini uyarısında bulundu.
Demircan, ırkçı ya da ayrımcı içeriklerin popüler olduktan sonra geç silinmesinin de reklam ve sitede kalma süresi ile alakalı olduğunu hatırlatarak, şöyle devam etti:
“Irkçı ya da ayrımcı paylaşımlara platformlar reklam geliri olduğu için ne kadar dönse kar gözüyle bakılıyor. Şöyle bir gerçek de var; bir video viral olarak yayılınca gerçekten reklam geliri olarak çok para kazanıyorlar. Yani onu 20 dakika geç kapatmasıyla 20 dakika erken kaldırılması arasında birkaç yüz bin dolar olabilir. Yani bu anlamda daha ticari baktığı için platformlar konuya içerik filtreleme ya da bu tarz ırkçılık ve benzeri konuların bunlar çok çok daha ikinci plandaymış gibi görünüyor.”
Yapay zekanın ırkçı ve ayrımcı paylaşımları tespit etme konusunda yetersiz kaldığına değinen Demircan, sosyal medyadaki kullanıcıların sayısının çok yüksel olmasının yapay zekanın devreye girmesini geciktirdiğinin altını çizdi.
Demircan, ırkçı içeriklerin ya da bir kesimi küçük düşüren içeriklerin popüler olmasının kabul edilemez olduğundan bahsederek, “Platform içeriğe para olarak bakıyor onun kaç milyon izlendiği ile ilgileniyor içeriğindeki ırkçılıkla değil. Çok büyük sorunlara neden olmadan bu denklemi bozacaklarını düşünmüyorum.” dedi.
Sosyal medya platformlarının her ülkede ayrı ayrı algoritma kullandığı bilgisini veren Demircan, içeriklerin toplumun birçok fikrini değiştirdiğini ya da dönüştürdüğünü söyledi.
Demircan, ABD’deki 2016 seçimleri sırasında Facebook’un kişisel verileri usulsüz toplayarak bir siyasi yöne doğru Amerikalıların oy tercihlerini etkilediğini anımsatarak şu bilgileri paylaştı:
“Savaş ya da siyasi bir konuyla ilgili paylaşımın yapay zeka tarafından ön planlara çıkartılıyor olması toplumda güvensizliğe neden oluyor. Sanki bir görüşün diğer görüşten çok daha üstünmüş gibi bir izlenim oluşturması ve insanların siyasi görüşlerini değiştirme eğilimine kadar gidebilecek faaliyetlerde bulunması nedeni olabiliyor. Bunları geçmiş yıllardaki Amerikan seçimlerinde net bir şekilde gördük.”
Topluma etki etmeye çalışırken yapay zekanın kullanılmasının programın suçu olmadığını, onu kullanan insanların suçlu olduğunu belirten Demircan, yapay zekanın yapısal olarak yazılanları çok iyi anladığını ancak görüntüleri analiz etmekte başarılı olamadığına dikkati çekti.
Demircan yapay zekanın insan gibi inisiyatif alamadığı için sızıntılar olabildiğini dile getirerek, bazı durumlarda içerisinde nefret objesi olan videoların parlatılmasının sızıntılardan kaynaklandığını ifade etti.
Yapay zekanın ırkçı söylemleri net algılayamamasının toplumsal kargaşa dahi doğurabileceğine dikkati çeken Demircan, şunları söyledi:
“ABD’de siyahi bir genci öldüren beyaz polis görebilirsin ama beyaz birisini öldüren siyahi polis göremezsin. Çünkü o rağbet görmüyor. Sonuç olarak bunu, siyah tene sahip olan ırktaki insanlar da izliyorlar. Burada yapay zeka bunu insanmış gibi algılamaya çalışsa da burada arka tarafta bir kötü niyet olduğu görülüyor. Bu kadar bunların ön plana çıkıyor olması”
“İçerik popülerse yapay zeka devre dışı kalıyor”
Sosyal medyada ırkçılığın popüler olmayı sağladığı için içeriklerini o şekilde düzenleyen sosyal medya kullanıcılarına hızlı müdahale edilmediğini aktaran Demircan, toplumdaki uç kutupların birbirlerine karşı nefretini körüklediğini bildirdi.
Demircan, yapay zekanın nefret söylemlerine karşı eğitildiğini ve yavaş yavaş entegre edildiğine işaret ederek, “Bir ülkedeki çocuk ölümler ya da saldırganlık etkileşim alıyorsa bunun nasıl parlatıldığı çok önemli. O ülkeyi bu görüntülerle karalayabilirsin ya da çaresiz gösterebilirsin. Sonuç olarak sizin önünüze bu bilgi nasıl servis ediliyor bu çok önemli.” diye konuştu.
Yapay zekanın içeriklere dışarıdan yapay bir müdahale olup olmadığını algılayamadığını vurgulayan Demircan, bunun sosyal medya platformlarının en büyük eksiklerinden birisi olduğunu söyledi.
Demircan, bir içeriği ön plana çıkarmak için sahte kullanıcı profilleri ile yapay bir yükseltme yapılmasının önüne geçilmediğinden bahsederek şöyle devam etti:
“Troll hesaplar çapraz link dediğimiz farklı sosyal medya platformları arasında linkleri paylaşıyor. Bu paylaşımları gören yapay zeka içeriğin popüler olduğunu düşünerek bir anda gönderiyi milyonlara ulaştırıyor. İnsanların sahte ve troll hesaplarla gerçek milyonlarca hesabı yönetebiliyor olması da bir çözüm getirmesi gerekiyor platformların. Yani algoritmayı tamamen işletmiyor olmaları, algoritmayı doğru düzgün çalıştırmıyor olmaları. Ve bir şey popülerse algoritmanın devre dışı kalması gibi bir durum var ve bunu yasal olarak da kabul etmiyorlar. “
Gerçek kullanıcıların sahte hesaplarla şişirilen içerikleri gerçek zannederek paylaşarak yanlış bilginin yayılmasına yardım ettiğini hatırlatan Demircan, gerçek hesaplar paylaşınca sahte hesapların o içerikten elde etmek istediği başarıyı onlara vermiş olduğunu anlattı.
Demircan, sosyal medya platformlarının her ülkenin kanunları ile uyumlu çalışması gerektiğine değinerek, “Türk kanunlarına uygun olmayan bir şey varsa ki işte sosyal medya platformları bizim yerel kanunlarımıza uygun olarak çalışmıyor. Yerel kanun koyucuların bunu takip ediyor olması gerekiyor.” görüşünü paylaştı.
