Wall Street Journal’da yayınlanan haberi hatırlayanlarınız vardır.* “Yapay zekâ kullanan dolandırıcılar şirketler için yeni bir zorluk” alt başlığı ile yayınlanan haberde dolandırıcıların, İngiltere merkezli bir şirket CEO’sunun sesini yapay zekâ ile taklit ederek yüz binlerce dolarlık para transferi gerçekleştirdikleri aktarılıyordu. Yaşanan benzer olaylar, sevdiklerimizin sesini, görüntüsünü veya kimliğini taklit ederek bizleri manipüle edebilecek dolandırıcılara ilham veriyor.
Bir başka haber, gerçekleşmemiş olayların yaşanmış gibi gösterilmesiyle ilgili.** Bir dizi uydurma olay, dünyada sahte bir tarih yazımına yol açıyor. Sahte olayların, üretken yapay zekâ (Generative Artificial Intelligence) ve büyük dil modelleri (Large Language Models) araçları ile yaratılan görsel ve işitsel içerikler aracılığıyla profesyonelce üretilmiş sahte bir anlatıyla desteklenmesi, doğru bilgiye ulaşma noktasında büyük bir tehdit oluşturuyor. Tehdit bununla da sınırlı değil. GenAI araçlarında gizlenen riskler, toplumların kolayca manipüle edilebilmesini, kitle psikolojisini tahrik ve propaganda süreçlerine müdahale gibi bir dizi riski beraberinde getiriyor.
New York Times’ta yayınlanan ve yapay zekâ üretimi olan profil fotoğraflarının, gerçek insanlara aidiyetini anlamanın kolay olmadığı örneklere de bakmanızı öneririm.*** Kimlik sahteciliği ve hırsızlığı gibi konuların, insanlığı gelecekte çok daha fazla sorunla boğuşmak zorunda bırakacağı bir çağa adım atıyor gibiyiz.
Gerçekliğin Bulanıklaşması ve Yeni Nesil Kimlik Hırsızlığı
Gerçeklik algısındaki bulanıklaşmanın -özellikle yapay zekâ uygulamalarının ses, görüntü, kompozisyon, senaryo yaratma ve kimlik taklitçiliği gibi özellikleri nedeniyle- arttığı bir çağdayız. Gerçekliğin bulanıklaşması hakkında uluslararası literatürde kullanılan güncel kavramlar, bu konunun çok uzak olmayan bir dönemde sosyal ve ekonomik yaşamı ne ölçüde tehdit ettiğinin en önemli göstergelerinden biridir. Peki konu üzerinde tartışılırken literatürde çoğunlukla hangi kavramlar üzerinde duruluyor?
Deepfake
Yapay zekâ kullanılarak sahte video ve ses üretimi anlamına gelen kavram birçok farklı teknolojinin kötü niyetli kişilerce kullanıldığı bir senaryoyu kapsıyor. Deepfake teknolojisi, kişilerin görüntü ve seslerini manipüle ederek gerçeğinden ayırt edilemez içerikler oluşturuyor. Bu içerikler, sahte kimliklerin oluşturulmasına ve yanıltıcı bilgilerin hızla yayılmasına olanak tanıyor.
Post-Truth
Özellikle sosyal bilimciler tarafından modernizm sonrası toplumsal yönelimleri tanımlamak için kullanılan kavram, gerçekliğin nesnelliğini yitirme sürecini tarif etmektedir. Bu kavram, duyguların ve kişisel inançların, nesnel gerçeklerden daha etkili olduğu bir durumu tanımlar. Özellikle günümüzde yaygın hale gelen “Neye göre? Kime göre?” sorularıyla, ölçümlenebilen gerçekliğin yerini aldatıcı bilgiler, ön kabuller ve sığ kanaatler almıştır. Öznel kanaatlerin ön plana çıktığı, gerçekliğin nesnel ölçütlerle sınanmadığı bir dizi yanılgı, gerçekliğin ötesinde bizleri esir almış durumdadır.
Hyperreality
Jean Baudrillard tarafından ortaya atılan kavram, gerçeklik ve çağımızda hızla mesafe kat eden simülasyonların birbirine karıştığı, simülasyonların gerçeğin yerini almaya başladığı belirsiz bir realiteyi tanımlar. Meta evrenler, artırılmış gerçeklik altyapıları ve yapay zekâ tarafından üretilen içeriklerin gerçeklik olarak algılanması bu kavramla ilişkilendirilir.
Disinformation
Yaygın olarak duyduğumuz bir sözcük olan dezenformasyon, bilinçli olarak yanlış bilgi yayma eylemidir. Yazımızın başında aktardığımız “uydurma tarih yazımı” ile ilgili haber, tam olarak bu kavramın kapsamındadır. Yapay zekâ tarafından oluşturulan sahte içeriklerle dezenformasyonun yaygınlık kazanması ve toplumda yanlış inanışların yaratılması gibi süreçler, toplumların tepkiselliği ve karar alma fonksiyonlarının kolayca yönlendirilmesi gibi olumsuzlukları tetikleyebilmektedir.
Algorithmic Manipulation
Algoritmik manipülasyon yapay zekâ algoritmalarının, insanların gerçeklik algısını manipüle etmek için kullanılmasıdır. Sosyal medya algoritmaları, kullanıcıların belirli içeriklere, reklam, ürün, inanç ve ideolojilere yönlendirilmesine olanak tanımaktadır. Uzmanlar, denetimin olmaması durumunda sosyal medya algoritmaları aracılığıyla bir ülkenin demokratik yaşamının aksayabileceği, hatta toplumların iç savaşa sürüklenebileceğini vurgulamakta, 2011 yılında Orta Doğu’da yaşanan olaylarda algoritmik manipülasyonun pay sahibi olduğunu belirtmektedir.
Synthetic Media
Yapay zekâ ve diğer dijital teknolojiler kullanılarak üretilen sahte veya manipüle edilmiş içerikleri tanımlamak için kullanılan kavram, deepfake ürünleri, sahte sesleri ve diğer yapay içerikleri kapsamaktadır.
Virtual Reality
İnsan beyninin sanal olanla gerçek olan durum ve olaylar arasındaki farkı ayırt edemeyişi üzerine kurulan sanal gerçeklik platformları, tamamen dijital olarak oluşturulmuş ortamlardır ve kullanıcıların gerçeklik algısını değiştirme potansiyeline sahiptir. Sanal gerçeklik aracılığıyla ortaya konulan içeriklerin, fiziksel gerçeklikten tamamen farklı deneyimler sunarak algının bulanıklaşmasına neden olduğu düşünülmektedir.
Augmented Reality
Gerçek dünyanın dijital bilgilerle yeniden inşa edilmesi anlamına gelen artırılmış gerçeklik, geliştirilen uygulamalar aracılığıyla kullanıcıların gerçek dünyayı algılama biçimlerini değiştirebilir ve gerçeklik ile sanal içerik arasındaki sınırları bulanıklaştırabilir niteliktedir.
Literatürdeki kavramlar, yapay zekâ ve dijital teknolojilerin gerçeklik algısını nasıl değiştirdiğini ve bunun toplumsal, kültürel ve bireysel düzeydeki etkilerini inceleyen bilimsel çalışmalarda sıkça kullanılmaktadır. Gerçeklik algısının bulanıklaşması, sadece bireysel yanılsamalar yaratmakla kalmaz, aynı zamanda toplumsal güveni, medyanın güvenilirliğini ve demokratik süreçleri de etkileyebilir. Tüm bu risklerin yanında kimlik hırsızlığına kapı aralaması, kişisel bilgilerin art niyetli kişilerce dolandırıcılık, terör eylemleri, cinsel istismar vb. olaylarda kullanılabilir hale gelmesi de olasılık dahilindedir. Kısacası gerçeklik algısının yıkımı neticesinde, insanların kimliklerinin taklit edilmesiyle oluşabilecek sorunların sınırı yoktur.
Biyometrik Teknolojiler Bulanıklaşan Gerçeklik Algısıyla Mücadelede Elimizi Güçlendirir mi?
Üretken yapay zekâ (GenAI) ve büyük dil modelleri (LLMs) aracılığıyla ortaya konulan kötü niyetli faaliyetler, çeşitli zararlara kapı aralamaktadır. Bunların ilki “kişisel zarar” olarak tanımlanmaktadır. Özel yaşamın gizliliğine yönelik ihlaller veya hakaret gibi bireyin kimliğine yönelik tehditleri kapsar. Mali suçlar ve ekonomik faaliyetlerde ortaya çıkan zarar kapsamına giren suçlar ise mali kayıp, dolandırıcılık, piyasa manipülasyonu ve diğer ekonomik saldırıları tanımlamaktadır. Yanlış bilginin, sahte belge ve haberlerin ve diğer aldatıcı içerik biçimlerinin yayılması da dahil olmak üzere bilgi ekosisteminin bozulması ise literatürde “bilgi manipülasyonu” olarak sınıflandırılır. Son olarak, demokratik süreçlere, sosyal bütünlüğe ve teknolojik sistemlere yönelik tehditler de dahil olmak üzere toplulukları, toplumsal yapıları ve kritik altyapıları etkileyebilecek daha geniş zararlar, “toplumsal, sosyo-teknik ve altyapısal hasarları” şeklinde başlıklandırılmaktadır.
Tüm bu başlıklar geniş çaplı bir bilişim altyapısı dönüşümünü gerekli kılmaktadır. Teknolojik gelişmeler bir dizi tehdidi, güvenlik açığını, kişisel ve toplumsal esenliği tehdit eden sorunları beraberinde getirse de tüm bu risklerin bertaraf edilmesi noktasında, kişilerin ve kurumların elini güçlendiren çözümlerin hayata geçirilmesi de teknolojik imkanların doğru kullanımıyla mümkündür. Kişilere özel biyometrik özelliklerin, hayatın her alanında güvenli kimlik doğrulama süreçlerinde doğru yöntemlerle kullanılması, bahsi geçen sorunların en aza indirilmesi noktasında büyük yarar sağlayacaktır.
Sesi taklit edilebilen bir kişinin milyonlarca lirası çalınabilir belki ancak canlılığa duyarlı, derinlik algılayıcılı üç boyutlu yüz tanıma teknolojileriyle aşamalandırılmış bir ödeme sisteminde böyle bir dolandırıcılığın yaşanma ihtimali nedir?
Benzer bir şekilde, toplumu manipüle edebilecek sahte içerikleri servis eden kişilere yönelik olarak önlemler geliştirmek de biyometrik kimlik dorğulama teknolojilerinin etkin bir şekilde kullanılmasıyla mümkündür. Dünyada basın kartı sahibi olan tüm meslek mensuplarının, yine biyometrik kimlik doğrulama süreçleriyle desteklenen platformlar aracılığıyla haber içeriklerini insanlara ulaştırması sağlanabilir. Diğer yandan arama motoru algoritmalarının bu platformlara kayıtlı haberciler tarafından üretilmiş içerikleri doğrulayıcı belirteçler kullanarak ön plana çıkarması, birçok yalan haberin önüne geçilmesini sağlayacaktır. Böyle bir senaryoda hem etik değerlere bağlı gerçek kişiler doğrulanmış hem de sahte haber üreten kötü niyetli kişiler bertaraf edilmiş olacaktır.
Biyometrik Kimlik Doğrulama Teknolojileri ile Gerçeklik Algısını Netleştirmek
Her şeyin belirsiz bir gerçeklikte dönüşüme uğradığı bir dünyadayız. Her geçen gün, bundan yüz yıl öncesine kadar yaşanan teknolojik ilerlemeden daha fazlasının gerçekleştiği baş döndürücü gelişmeler yaşıyoruz. Yaşadığımız teknolojik sıçramaların, gri alanlarla dolu tehlikeli bir toplum hayatını beraberinde getirmesine tanıklık ediyoruz.
Ones Technology olarak bu tabloyu, insanlığın yararına olacak şekilde tersine çevirmenin mümkün olduğuna inanıyoruz. Karşılaştığımız bu yeni dünyada, tehditleri ortadan kaldıran güvenli bir sosyal ve ekonomik yaşamın inşa edilmesi için ortaya koyduğumuz çözümlerin, yaygın olarak kullanılması ve yeni senaryolara uyarlanması pek çok problemi bertaraf edecektir.
Biyometrik teknolojiler aracılığıyla yapılan kimlik doğrulaması, gerçek ve dijital dünyada varlık göstermeye çalışan dürüst bireylerin, kötü niyetli sahte kişilerden ayırt edilmesine olanak tanır. Sağlık sisteminde, trafikte, sınav merkezlerinde, hava alanlarında yahut ekonomi kuruluşlarında ve iktisadi teşebbüslerde meydana gelebilecek saldırı, istihbarat, sabotaj ve kimlik dolandırıcılığı gibi tehditlerin önüne geçmede, bu teknolojilerin rolü hayati öneme sahiptir. Fiziki ve sanal ortamda entegre çalışan bu teknolojilerle sosyal hayatta hızla artan flu alanlar; şahıslar ve kurumlar nezdinde hızla netleşecek, temiz bir toplumun inşa edilmesinde büyük bir mesafe kat edilecektir.
İleri Okuma
(**) People Are Creating Records of Fake Historical Events Using AI
No Comments