Google yapay zeka destekli dolandırıcılık taktiklerinin yükselişini raporladı

Google yapay zeka destekli dolandırıcılık taktiklerinin hızla yayıldığını açıkladı

Google Tehdit İstihbarat Grubu son raporunda yapay zeka araçlarının dolandırıcılar tarafından nasıl kullanıldığını ortaya koydu. Siber suçlular artık daha inandırıcı kimlik avı saldırıları oluşturmak ve kötü amaçlı yazılım geliştirmek için yapay zekadan yararlanıyor.

Yapay zeka araçları verimliliği artırırken dolandırıcılar da bu teknolojiden faydalanmaya başladı. Google Tehdit İstihbarat Grubu son birkaç ayda tehdit aktörlerinin yapay zekayı bilgi toplamak için kullandığını gözlemledi. Dolandırıcılar son derece gerçekçi kimlik avı dolandırıcılığı oluşturmak amacıyla bu teknolojiyi devreye aldı. Kötü amaçlı yazılım geliştirme süreçlerinde de yapay zeka araçları aktif olarak kullanılıyor. Google gelişmiş kalıcı tehdit aktörlerinden doğrudan sınır modellerine yönelik saldırılar gözlemlemedi. Ancak dünyanın dört bir yanındaki özel sektör kuruluşlarından model çıkarma saldırıları tespit edildi. Bu saldırılar bir tür kurumsal casusluk olarak değerlendiriliyor. Yapay zeka modellerine sahip işletmeler yakın gelecekte bu tehditle muhtemelen karşılaşacak.

Dolandırıcılar yapay zeka ile saldırı süreçlerini hızlandırıyor

Google dolandırıcıların yapay zekayı saldırı yaşam döngüsünü hızlandırmak için kullandığını belirtti. Yapay zeka araçları tehdit tespitine yanıt olarak yaklaşımlarını iyileştirmelerine yardımcı oluyor. Bu durum dolandırıcıları daha da etkili hale getiriyor. Sistemler sistematik evrim yoluyla yaklaşımlarını geliştirmenin yolunu buluyor. Dolandırıcılar bu fırsatı kaçırmıyor. Üstelik bu saldırıları gerçekleştirenler sadece düşük seviyeli dolandırıcılar da olmuyor.

Hükümet destekli tehdit aktörleri için büyük dil modelleri vazgeçilmez araçlar haline geldi. Bu modeller teknik araştırma ve hedefleme için kullanılıyor. İncelikli kimlik avı tuzaklarının hızlı bir şekilde oluşturulması mümkün hale geldi. Google üç aylık raporunda Kuzey Kore İran Çin Halk Cumhuriyeti ve Rusya kaynaklı tehdit aktörlerini inceledi. Bu ülkelerden gelen tehdit aktörleri 2025 sonlarında yapay zekayı operasyonel hale getirdi. Üretken yapay zekanın düşmanca kötüye kullanımı sahada engellenen kampanyalarda ortaya çıktı. Google siber suçluların yapay zeka araçlarını şu an kullanmalarının tehdit ortamını temelden henüz tam olarak dönüştürmediğini belirtti.

Yapay zeka destekli saldırıların 5 ana yöntemi ortaya çıktı

Google projelerin yapay zeka araçlarını çeşitli şekillerde kullandığını açıkladı. Model çıkarma saldırıları son bir yılda fikri mülkiyet hırsızlığı yöntemi olarak arttı. Damıtma saldırıları olarak bilinen bu yöntem yaygınlaşıyor. Yapay zeka destekli operasyonlar gerçek dünya örnek olay incelemelerinde görülüyor. Gruplar keşif ve ilişki kurma amaçlı kimlik avı faaliyetlerini kolaylaştırıyor. Ajan tabanlı yapay zeka yetenekleri tehdit aktörlerinin ilgi odağı haline geldi. Kötü amaçlı yazılım ve araç geliştirme süreçlerini desteklemek amacıyla bu yetenekler oluşturuluyor.

Yapay zeka entegreli kötü amaçlı yazılımlar yeni bir tehdit olarak ortaya çıktı. HONESTCUE gibi yeni kötü amaçlı yazılım aileleri Gemini uygulama programlama arayüzünü kullanıyor. Bu yazılımlar ikinci aşama kötü amaçlı yazılımların indirilmesini ve çalıştırılmasını sağlayan kod üretmeyi deniyor. Yeraltı jailbreak ekosistemi de büyüyor. Xanthorox gibi kötü amaçlı hizmetler bağımsız modeller olduklarını iddia ediyor. Ancak bu hizmetler aslında jailbreak yapılmış ticari API'lara ve açık kaynaklı Model Bağlam Protokolü sunucularına dayanıyor.

Kullanıcılar tıkladıkları bağlantılara daha dikkatli olmalı

Yapay zeka araçlarının bu tür saldırılar için kullanılması şaşırtıcı olmuyor. Ancak dolandırıcılar en yeni üretken yapay zeka modelleriyle yaklaşımlarını geliştiriyor. Bu durum onları daha sofistike ve etkili hale getiriyor. Kullanıcılar tıkladıkları bağlantılar konusunda dikkatli olmalı. Etkileşimde bulundukları içerik konusunda da temkinli davranmalılar. Dolandırıcılar bilgi çalma konusunda giderek daha iyi hale geliyor. Google bu gelişmeleri yakından takip ediyor. Tehdit İstihbarat Grubu düzenli raporlarla kullanıcıları bilgilendirmeye devam ediyor.