Hükümetin Kadına ve Kızlara Yönelik Şiddetle (VAWG) mücadele stratejisinin bir parçası olarak, bakanlar Birleşik Krallık'taki çocukların telefonlarını kullanarak çıplak fotoğraf çekmesini, paylaşmasını veya görüntülemesini imkansız hale getirme taahhüdünde bulundu. Hükümet, bunu gerçeğe dönüştürmek ve gençleri çevrimiçi tuzaklardan, şantajdan, zorbalıktan, tacizden ve cinsel istismardan daha iyi korumak için teknoloji şirketleriyle güçlerini birleştirecek.
Derin Sahte İçerik ve 'Nudification' Araçlarına Yasak
Yeni yasalarla, gerçek insanların fotoğraflarını izinleri olmadan sahte çıplak resim ve videolara dönüştürmek için üretken yapay zekayı kullanan 'nudification' (çıplaklaştırma) araçları yasaklanacak. Böylece daha fazla kadın ve kız, derin sahte istismardan korunacak. Araştırmalar, 2023'te tek bir özel sitede 276.149 cinsel derin sahte içerik bulunduğunu ve %96'sının kadınları tasvir ettiğini ortaya koydu. Dünya çapında, sadece Eylül 2023'te 24 milyon kişi 'nudification' hizmetlerini ziyaret etti ve İnternet İzleme Vakfı'na yapılan çevrimiçi çocuk cinsel istismarı raporlarının 10'da 9'u, maalesef genellikle avcılar tarafından zorlanan ve potansiyel olarak yıkıcı sonuçları olan, çocukların kendileri tarafından çekilen görüntüler içeriyor.
Mağdurların Hikayeleri ve Acil Koruma İhtiyacı
13 yaşındayken, Behind Our Screens kampanyasının kurucusu Roxy Longworth, samimi görüntüler göndermeye zorlandı ve bu görüntüler izni olmadan paylaşıldı. Yaygın aşağılanma, zorbalık ve ciddi bir akıl sağlığı kriziyle karşı karşıya kaldı. Hikayesi, görüntü temelli istismarın ne kadar hızlı tırmanabileceğini ve neden güçlü korumalara acilen ihtiyaç duyulduğunu gösteriyor. Zararın baştan önlenmesi kilit öneme sahip. Roxy gibi daha fazla genci korumak için hükümet, teknoloji şirketleriyle görüntü temelli istismara çözümler geliştirmek üzere çalışacak; İngiliz güvenlik teknolojisi şirketi Safe To Net tarafından halihazırda uygulanan teknolojiyi genişletecek ve akıllı telefonlarda zaten var olan çıplaklık tespit filtrelerini kullanacak.
Koruma ve Kadına ve Kızlara Yönelik Şiddetten Sorumlu Bakan Jess Phillips şunları söyledi: "Bu görüntülerin oluşturulmasını ve paylaşılmasını durdurmalı, aynı zamanda genç erkekler üzerindeki olumsuz etkilerin okullarında, evlerinde ve çevrimiçinde kök nedenlerini ele almalıyız. Bu yüzden çevrimiçi avcıları durdurmak ve bir sonraki neslin cinsel şantaj ve istismardan sömürülmesini önlemek için teknoloji şirketleriyle güçlerimizi birleştireceğiz. 'Nudification' uygulamaları zararsız şakalar için kullanılmıyor. Gençlerin hayatlarını mahvediyorlar ve bunları oluşturan veya tedarik edenlerin gerçek sonuçlarla karşılaşmasını sağlayacağız. Her çocuk güvende büyümeyi hak ediyor ve bunu gerçeğe dönüştürmek için ne gerekiyorsa yapacağız."
Yeni Yasama ve Teknoloji Şirketlerinin Sorumluluğu
Bugün açıklanan planlar kapsamında, gerçek insanların derin sahte çıplak görüntülerini üreten sözde 'nudification' uygulamalarının veya araçlarının oluşturulması ve tedariki de yasaklanacak; bu, bu derinden zarar verici görüntüleri paylaşmayı suç haline getiren suçların üzerine inşa ediliyor. Yeni mevzuat, polisin bu araçları tasarlayan ve tedarik eden firmaları ve bireyleri hedef almasına izin verecek. Endişe verici bir şekilde, bu uygulamalar kullanıcıların, tasvir edilenlerin izni olmadan kıyafetleri çıkarmasına ve samimi videolar üretmesine olanak tanıyor; bu, mağdurlar için yıkıcı ve kalıcı sonuçlar doğuruyor. Oldukça gerçekçi olan bu teknoloji, finansal motivasyonlu cinsel şantaj belasını ve hatta bazı durumlarda intiharları beraberinde getirdi. İspanya'nın Almendralejo kasabası, birkaç failin bu uygulamaları okula yürüyen 20 çocuğun çıplak görüntülerini oluşturmak için kullanmasının ardından harap oldu.
Teknoloji Bakanı Liz Kendall şunları söyledi: "Kadınlar ve kızlar, çevrimdışında olduğu gibi çevrimiçinde de güvende olmayı hak ediyor. Teknoloji, rızasız cinsel içerikli derin sahte içerikler oluşturularak onları istismar etmek, aşağılamak ve sömürmek için silah haline getirilirken kenarda durmayacağız. Nudification araçlarını yasaklamak için yeni bir suç getiriyorum, böylece bunlardan kâr eden veya kullanımlarını mümkün kılanlar, yasanın tüm gücünü hissedecek - böylece birlikte kadınlara ve kızlara yönelik bu istismarı sona erdireceğiz. Önceliğimiz mağdurları korumak ve internetin kadınlar ve kızlar için daha güvenli bir yer olmasını sağlamak."
Toplumsal Taahhüt ve Gelecek Adımlar
Hükümet, teknoloji şirketleri ve tüm toplum bu davaya bağlı olduğu sürece, şu anda interneti sular altında bırakan çocuk cinsel istismarı materyali selinin önüne geçilebilecek. Görüntünün baştan paylaşılmasını durdurmak, kötü niyetli finansal motivasyonlu cinsel şantaj ve pedofil çemberlerinin iş modellerini durduracak. İnternet İzleme Vakfı'nın en son verileri, bu gibi yapay zeka araçlarının ve uygulamalarının yıldan yıla giderek daha fazla kullanıldığını gösteriyor. İnternet İzleme Vakfı ve Childline tarafından yürütülen Report Remove, bu yıl Ocak-Eylül ayları arasında, rapor verenlerin %19'unun görüntülerinin bir kısmının veya tamamının yapay zeka kullanılarak bir şekilde manipüle edildiğini belirttiğini kaydetti.
Behind Our Screens kampanyasının kurucusu Roxy Longworth şunları söyledi: "Bu gibi cihaz kontrolleri ben 13 yaşındayken var olsaydı, hayatım tamamen farklı olurdu. Zorlanmaz, şantaja uğramaz, istismar edilmezdim ve ardından gelen yıkıcı aşağılanma ve akıl sağlığı krizinden kurtulurdum. Teknolojinin gençleri korumak için kullanılması, onlara zarar vermek için değil, çok önemli. Ayrıca nudification uygulamalarının yasaklandığını ve hükümetin bir sonraki nesli yeni teknolojik tehditlerden korumak için harekete geçtiğini görmekten rahatladım."
IWF Genel Müdürü Kerry Smith şunları söyledi: "Çocukların çevrimiçinde benzeri görülmemiş yeni zararlar ve zorluklarla karşı karşıya olduğu bir zamanda, cihaz üzerinde korumalar getirme taahhüdünü görmekten memnuniyet duyuyoruz. Çocukları istenmeyen çıplak görüntülerden ve cinsel içerikli materyal göndermeye zorlanmaktan koruyacak güvenlik mekanizmaları önemli bir adım - şimdi bu önlemlerin zorunlu hale getirilmesini ve her yerde uygulanmasını görmeliyiz. Ayrıca, bir ürün olarak var olmak için hiçbir nedeni olmayan bu sözde nudification uygulamalarını yasaklamak için somut adımlar atıldığını görmekten memnunuz. Bu soyut bir tehdit değil. Bunun gibi uygulamalar gerçek çocukları daha da büyük zarar riskiyle karşı karşıya bırakıyor ve üretilen görüntülerin internetin en karanlık köşelerinden bazılarında toplandığını görüyoruz. Herhangi bir müdahalenin, çocukların ve mağdurların tepkinin kalbinde kaldığından emin olmak için çocuk gelişimi uzmanlarıyla istişare edilerek uygulanması çok önemli ve bu önlemlerin başarılı olmasında üzerimize düşeni oynamayı dört gözle bekliyoruz."
