Apple ve Google, yapay zekayla sahte çıplak görüntü oluşturan uygulamalara karşı harekete geçti

Apple ve Google, gerçek kişilerin rızası olmadan sahte çıplak görüntüler oluşturmak için kullanılabilen yapay zeka destekli uygulamalara karşı yeni adımlar attı. Gelişme, San Francisco Şehir Savcısı David Chiu'nun iki şirkete gönderdiği yasal bildirimlerin ardından gündeme geldi. Chiu, şirketleri rıza dışı yapay zeka tarafından oluşturulan çıplak görüntülerin üretimini kolaylaştıran uygulamaların dağıtımına katkı sağlamakla suçladı. Yetkililer ayrıca Apple ve Google'ın bu uygulamalardan uygulama içi satın alımlar üzerinden mali gelir elde ettiğini savunuyor. Apple, tespit edilen uygulamaların bir bölümünü zaten kaldırdığını ve bazı geliştirici hesaplarını kapatma sürecini başlattığını açıkladı. Google da benzer şekilde yüzlerce Android uygulamasını askıya aldığını ve Play Store'da bu tür hizmetleri aramayı zorlaştıran adımlar attığını bildirdi. Ancak tartışmanın merkezinde yalnızca kaldırılan uygulamalar değil, bu uygulamaların platformların denetim süreçlerinden geçerek kullanıcılara ulaşabilmesi bulunuyor.

Apple, App Store'daki uygulamalardan üçünü kaldırdı

Apple, San Francisco Şehir Savcılığı tarafından gündeme getirilen uygulamalardan üçünün App Store'dan kaldırıldığını açıkladı. Şirket ayrıca bu uygulamaların geliştirici hesaplarının Apple'ın geliştirici programından çıkarılması için sürecin devam ettiğini belirtti. Dört farklı geliştiriciyle daha iletişime geçildiği ve söz konusu uygulamaların politika ihlallerini gidermemesi halinde platformdan kaldırılabilecekleri bildirildi. Apple, App Store kurallarının pornografik içerik üretmek veya dağıtmak amacıyla tasarlanan uygulamalara açıkça izin vermediğini savunuyor. Şirket ayrıca, kullanıcıların uygulama içindeki içerikleri oluşturabildiği durumlarda geliştiricilerin bu içerikleri denetlemek için gerekli filtreleme mekanizmalarını oluşturması gerektiğini vurguluyor. Bu yükümlülüklerin yerine getirilmemesi, uygulamaların App Store'dan tamamen kaldırılmasına neden olabiliyor. Apple'ın açıklaması, şirketin mevcut kurallarının bu tür yapay zeka uygulamalarını zaten yasakladığı yönündeki savunmasına dayanıyor.

Google da yüzlerce Android uygulamasını askıya aldı

Google da benzer bir politika izleyerek çıplaklık oluşturma özellikleri sunan yüzlerce Android uygulamasını askıya aldığını açıkladı. Şirket, San Francisco Şehir Savcısı tarafından adı verilen beş Android uygulamasının da Play Store politikalarını ihlal ettiği gerekçesiyle kaldırıldığını bildirdi. Google ayrıca Play Store'da bu tür hizmetlerle bağlantılı arama terimlerine yönelik kısıtlamalar getirdi. Ancak uygulamaların kendilerini doğrudan çıplak görüntü oluşturma araçları olarak tanıtmaması, denetim sürecini daha karmaşık hale getiriyor. Bazı uygulamalar kendilerini yapay zeka destekli yüz değiştirme veya fotoğraf düzenleme araçları olarak pazarlarken, daha sonra farklı işlevleri uygulama içi satın alma seçeneklerinin arkasına gizleyebiliyor. Bu nedenle yalnızca uygulama açıklamalarını veya mağaza ekran görüntülerini incelemek, bir uygulamanın gerçekte neler üretebildiğini anlamak için yeterli olmayabiliyor. Yapay zeka modellerinin yeteneklerinin uygulama kurulduktan sonra değiştirilebilmesi veya farklı özelliklerin sonradan açılabilmesi, platformların otomatik denetim sistemleri için önemli bir sorun oluşturuyor.

Yapay zeka, rıza dışı sahte görüntü üretimini kolaylaştırıyor

Üretken yapay zekanın gelişmesi, gerçek kişilerin bilgisi veya rızası olmadan sahte açık görüntüler oluşturulmasını geçmişe kıyasla çok daha kolay hale getirdi. Geleneksel yöntemlerin aksine, birçok yapay zeka destekli araç için yalnızca tek bir fotoğraf yeterli olabiliyor. Kullanıcılar, kısa süre içinde gerçek bir kişiyi tasvir eden sahte çıplak görüntüler veya açık içerikli videolar oluşturabiliyor. Yetkililer ve araştırmacılar, bu tür içeriklerin mağdurlar açısından ciddi sonuçlara yol açabileceğini belirtiyor. Rıza dışı görüntüler taciz, şantaj, itibar kaybı ve ciddi psikolojik sorunlar gibi sonuçlar doğurabiliyor. Daha önceki soruşturmalar, ticari olarak erişilebilen yapay zeka araçlarının reşit olmayanları tasvir eden cinsel içerikli sahte görüntüler oluşturmak için de kullanıldığını ortaya koydu. Bu nedenle tartışma, yalnızca uygulama mağazalarının içerik politikalarıyla sınırlı kalmıyor ve yapay zeka araçlarının kötüye kullanımını önleyecek daha kapsamlı güvenlik mekanizmalarının gerekliliğini gündeme getiriyor.

Uygulamaların kendilerini gizlemesi denetimi zorlaştırıyor

Bu tür uygulamalarla ilgili en büyük sorunlardan biri, zararlı özelliklerin uygulamanın ana işlevinin arkasına gizlenebilmesi. Bir uygulama mağazada sıradan bir yüz değiştirme veya fotoğraf düzenleme aracı gibi görünebilirken, kullanıcı uygulamayı yükledikten sonra farklı yapay zeka özellikleri sunabiliyor. Bazı durumlarda açık içerik üretme yetenekleri uygulama içi satın alma seçeneklerinin arkasında tutulabiliyor. Bu durum, platformların uygulamaları mağazaya kabul etmeden önce yalnızca geliştirici açıklamalarını ve tanıtım görsellerini incelemesini yetersiz hale getiriyor. Daha önce yayımlanan bir araştırmada da kendilerini bu şekilde pazarlamayan bazı yüz değiştirme uygulamalarının açıkça müstehcen deepfake içerikler üretebildiği ortaya konmuştu. Araştırmacılar, bazı uygulamalarda kötüye kullanımı önlemeye yönelik güvenlik önlemlerinin çok sınırlı olduğunu veya hiç bulunmadığını belirledi. Bu bulgular, Apple ve Google'ın karşı karşıya olduğu sorunun birkaç uygulamayı kaldırmaktan çok daha kapsamlı olduğunu gösteriyor.

Apple ve Google üzerindeki sorumluluk tartışması büyüyor

Apple ve Google, platform politikalarının pornografik içerik ve cinsel istismara yönelik materyalleri zaten yasakladığını savunuyor. Eleştirmenler ise yapay zeka uygulamalarının zararlı özellikleri meşru görünen işlevlerin arkasına saklayabildiği bir ortamda yalnızca kuralların yeterli olmadığını belirtiyor. San Francisco Şehir Savcılığı ayrıca iki şirketin uygulama içi satın alımlardan komisyon alarak bu uygulamalardan finansal olarak fayda sağladığını iddia ediyor. Bu yaklaşım, platform işletmecilerinin uygulamaları mağazaya kabul etmeden önce daha kapsamlı bir denetim yapması gerektiği yönündeki tartışmayı güçlendiriyor. Üretken yapay zeka araçları daha ucuz, hızlı ve gerçekçi hale geldikçe uygulama inceleme süreçlerinin de değişmesi gerekiyor. Artık bir uygulamanın yalnızca mağaza sayfasındaki açıklamasını veya gönderilen ekran görüntülerini kontrol etmek yeterli olmayabilir. Platformların, yapay zeka modelinin uygulama kurulduktan sonra hangi içerikleri oluşturabildiğini de test etmesi gerekebilir. Bu nedenle Apple ve Google'ın son kaldırma kararları kısa vadede baskıyı azaltabilir ancak yapay zeka destekli sahte içeriklerin denetimiyle ilgili daha geniş tartışmanın sona ermesi beklenmiyor.