Yapay zekâ teknolojileri gelişmeye devam ederken bunun karanlık tarafı da giderek daha ciddi hale geliyor. Özellikle deepfake araçlarının son dönemde inanılmaz derecede erişilebilir hale gelmesi yeni bir güvenlik krizini beraberinde getirdi. İngiltere’de ortaya çıkan son olaylar ise durumun artık yalnızca ünlüleri ya da yetişkinleri değil doğrudan çocukları hedef almaya başladığını gösteriyor. Gelen bilgilere göre bazı okullar öğrencilerin fotoğraflarını internet sitelerinden tamamen kaldırmaya başladı çünkü suçlular artık sıradan okul fotoğraflarını kullanarak yapay zekâ destekli sahte müstehcen içerikler üretiyor.
Uzmanlara göre bu tehdit düşündüğümüzden çok daha büyük olabilir. Çünkü yıllardır okulların internet sitelerinde paylaşılan öğrenci fotoğrafları bugün devasa bir veri kaynağına dönüşmüş durumda. Spor günü etkinlikleri, bilim fuarları, mezuniyet törenleri, okul gezileri ve ödül fotoğrafları gibi içerikler yıllardır kamuya açık şekilde yayınlanıyordu. Ancak deepfake araçlarının gelişmesiyle birlikte bu masum paylaşımlar artık siber suçlular için ciddi istismar malzemesine dönüşmüş durumda.
İngiltere’deki olay büyük endişe yarattı
Guardian tarafından ortaya çıkarılan bilgilere göre İngiltere’de kimliği açıklanmayan bir ortaokul doğrudan şantaj girişimiyle karşı karşıya kaldı. Siber suçlular okulun internet sitesindeki öğrenci fotoğraflarını topladı ve bunları yapay zekâ araçlarıyla manipüle ederek çocuk cinsel istismarı materyali üretti.
Daha sonra suçlular okula ulaşıp bu görüntülerin internette yayılmaması için ödeme talep etti.
İnternet İzleme Vakfı yani IWF tarafından yapılan incelemelerde toplam 150 görüntünün İngiliz yasalarına göre çocuk cinsel istismarı materyali kategorisine girdiği belirlendi. Kuruluş daha sonra bu görüntülerin tekrar yüklenmesini önlemek amacıyla her biri için dijital parmak izi oluşturdu.
Yetkililer olayın münferit olmadığını düşünüyor. Erken Uyarı Çalışma Grubu yani EWWG’ye göre benzer vakaların artması artık sadece zaman meselesi olarak görülüyor.
Deepfake teknolojisi cinsel şantajı tamamen değiştirdi
Uzmanlar aslında bu tehdidin tamamen yeni olmadığını söylüyor. Ancak yapay zekâ araçlarının gelişmesi saldırı yöntemlerini dramatik şekilde değiştirmiş durumda.
Geçmişte cinsel şantaj genellikle gerçek özel görüntülere dayanıyordu. Saldırganlar çalınan ya da kandırılarak elde edilen fotoğrafları kullanıyordu. Ancak artık suçluların gerçek görüntülere ihtiyacı bile kalmadı.
Sıradan sosyal medya fotoğrafları ya da okul etkinliklerinden alınan normal görüntüler artık deepfake sistemleriyle sahte müstehcen içeriklere dönüştürülebiliyor.
Özellikle FBI’ın İnternet Suçları Şikayet Merkezi son yıllarda bu konuda ciddi uyarılar yayınladı. Kurum 2023 yılında saldırganların sıradan sosyal medya fotoğraflarını kullanarak sahte çıplak görüntüler üretmeye başladığını açıklamıştı. Şimdi ise aynı yöntem çocukları hedef alıyor.
Çocuklar artık gerçek olmayan görüntülerle tehdit ediliyor
Durumu daha korkutucu hale getiren şey ise bazı mağdurların aslında hiçbir özel fotoğraf paylaşmamış olması.
Örneğin Childline tarafından paylaşılan örneklerden birinde 15 yaşındaki bir kıza Instagram fotoğraflarından oluşturulmuş son derece gerçekçi sahte çıplak görüntüler gönderildiği belirtiliyor. Kuruluş artık çocuklardan gelen yardım çağrılarında büyük değişim yaşandığını söylüyor.
Eskiden mağdurlar genellikle özel görüntüler paylaşmaya zorlanan çocuklardan oluşuyordu. Şimdi ise çocuklar hiçbir şey paylaşmamış olsalar bile deepfake teknolojisiyle oluşturulan sahte görüntüler nedeniyle tehdit ediliyor.
Bu durum psikolojik açıdan çok daha yıkıcı sonuçlar doğurabiliyor çünkü mağdurlar kendilerini savunmakta zorlanıyor ve görüntülerin sahte olduğunu kanıtlamak bile bazen yeterli olmuyor.
Yapay zekâ destekli istismar içerikleri hızla artıyor
İnternet İzleme Vakfı’nın verileri de durumun ne kadar hızlı kötüleştiğini gösteriyor.
Kuruma göre yapay zekâ tarafından oluşturulan çocuk istismarı materyali vakaları bir yıl içerisinde iki katından fazla arttı. Bildirilen içeriklerde mağdurların yüzde 94’ünü kız çocukları oluşturuyor. Daha da korkutucu olan detay ise bazı vakalarda mağdurların yeni doğan bebekler kadar küçük yaşta olması.
Uzmanlar artık deepfake araçlarının endüstriyel ölçekte kullanılmaya başlandığını söylüyor. Özellikle internette dolaşan “çıplaklaştırma” uygulamaları büyük endişe yaratıyor. Nisan 2025’te ortaya çıkarılan bir olayda Güney Kore merkezli bir uygulamanın açıkta bırakılmış veri tabanında on binlerce yapay zekâ üretimi görüntü bulunduğu belirtilmişti.
Okullar öğrenci fotoğraflarını kaldırmaya başladı
Bu gelişmelerin ardından İngiltere’de bazı okullar çok sert önlemler almaya başladı.
Uzmanlar artık okullara öğrencilerin yüzlerinin net göründüğü yakın plan fotoğrafları yayınlamamalarını tavsiye ediyor. Bunun yerine uzaktan çekilmiş, bulanık ya da arkadan görünen görüntüler öneriliyor.
Ayrıca:
- Fotoğraf açıklamalarından tam isimlerin kaldırılması,
- Eski galerilerin yeniden denetlenmesi,
- Velilerden yeni izin formlarının alınması,
- Öğrenci fotoğraflarının tamamen kaldırılması
gibi adımlar da tavsiye ediliyor.
Bazı eğitim kurumları ise çok daha ileri gitmiş durumda. Guardian’ın aktardığına göre bazı özel okullar öğrencilerin tanınabilir tüm görüntülerini internet sitelerinden tamamen kaldırdı.
Uzmanlar geleceğin daha da tehlikeli olabileceğini düşünüyor
Şimdilik saldırganların fotoğrafları manuel şekilde topladığı belirtiliyor ancak uzmanlara göre asıl tehlike henüz başlamamış olabilir.
Çünkü yapay zekâ sistemleri gelişmeye devam ettikçe suçluların bu süreci tamamen otomatik hale getirmesi mümkün olabilir. Gelecekte bot sistemlerinin okul sitelerini, sosyal medya platformlarını ve spor kulübü sayfalarını otomatik şekilde tarayarak çocuk fotoğraflarını toplaması büyük risk olarak görülüyor.
Bu nedenle uzmanlar ebeveynleri artık çok daha dikkatli olmaya çağırıyor. Özellikle çocukların internette yer alan fotoğraf miktarının azaltılması gerektiği belirtiliyor.
Bu yalnızca okul siteleriyle sınırlı değil. Spor kulüpleri, sosyal medya hesapları, etkinlik sayfaları ve ders dışı aktiviteler dahil olmak üzere çocukların yer aldığı tüm çevrim içi içeriklerin yeniden düşünülmesi gerektiği vurgulanıyor.
Henüz hiç yorum yapılmamış. İlk yorumu sen yap!
