Güney Kore polisi, yapay zeka teknolojisiyle üretilen sahte cinsel içeriklerin artan mağduriyetlere neden olması üzerine harekete geçerek deepfake tespit sistemini hayata geçirme kararı aldı. Yetkililer, söz konusu sistemin geliştirilmesi için yaklaşık 6 milyon dolar bütçe ayrıldığını ve projenin 2027 yılına kadar tamamlanmasının planlandığını duyurdu.
Geliştirilecek sistemin, deepfake videoların tespitini hızlandırarak bu tür içeriklerin yayılmasını önlemeyi hedeflediği belirtiliyor. Güney Kore polisi, özellikle sosyal medya platformlarında ve özel mesajlaşma uygulamalarında paylaşılan manipüle edilmiş cinsel içeriklerin, mağdur kişilerin itibarını zedelediğini ve ciddi psikolojik travmalara yol açtığını vurguluyor.
Deepfake Suçlarında Artış Endişe Verici
Son yıllarda deepfake teknolojisinin kötüye kullanımına ilişkin endişeler dünya genelinde artarken, Güney Kore'de bu durum özellikle kadınlar ve çocuklar üzerinde büyük bir tehdit oluşturuyor. Yonhap haber ajansına göre, 2024 yılında 1094 deepfake suçu rapor edilirken, 573 şüpheli gözaltına alındı. Yetkililer, bu suçların büyük bir bölümünün cinsel içerikli sahte videolarla ilgili olduğunu belirtiyor.
Güney Kore Ulusal Soruşturma Ofisi Başkanı Woo Jong-soo, deepfake içeriklerin yayılmasında kullanılan platformlardan biri olan Telegram hakkında da ön soruşturma başlatıldığını açıkladı. Yetkililer, bu tür platformların yasa dışı içeriklerin yayılmasına göz yummasının "suça yataklık etme" kapsamında değerlendirilebileceğini ifade etti.
Telegram ve Yetkililer Arasında Görüşmeler
Güney Kore İletişim Standartları Komisyonu (KCSC), deepfake içeriklerin yayılmasını önlemek için Telegram yetkilileriyle bir toplantı gerçekleştirdi. Telegram yetkilileri, bu tür yasa dışı materyallerle mücadelede "sıfır tolerans politikası" uygulayacaklarını ve gerekli teknik önlemleri alacaklarını belirtti. Ancak uzmanlar, Telegram gibi uçtan uca şifreleme kullanan platformlarda içerik denetiminin zor olduğunu ve yasa dışı materyallerin tespiti için daha gelişmiş analiz yöntemlerine ihtiyaç duyulduğunu vurguluyor.
Deepfake İçeriklere Karşı Hukuki ve Teknik Önlemler
Deepfake içeriklerin yayılmasını önlemek için yalnızca teknik çözümler değil, aynı zamanda hukuki düzenlemeler de gündemde. Güney Kore hükümeti, sahte cinsel içeriklerin üretimi ve dağıtımına ağır cezalar getiren yeni bir yasa tasarısı üzerinde çalışıyor.
Uzmanlar, Güney Kore'nin bu alanda geliştireceği deepfake tespit sisteminin, dünya genelinde diğer ülkeler için de bir model olabileceğini düşünüyor. Yapay zeka destekli sistemin, sahte içeriklerin yüksek doğruluk oranıyla tespit edilmesini sağlayacağı ve yasal mercilere bu içeriklerin hızla kaldırılması için bir araç sunacağı öngörülüyor.
Önümüzdeki yıllarda, deepfake teknolojisinin kötüye kullanımına karşı alınan önlemlerin ve hukuki düzenlemelerin nasıl şekilleneceği, bu tür suçlarla mücadelede kritik bir rol oynayacak gibi görünüyor.
