ZoriaNews

Ne oldu?

LayerX güvenlik araştırmacıları, yapay zeka destekli otonom tarayıcıları ve eklentileri hedef alan "BioShocking" adında yeni bir dolaylı komut enjeksiyonu (indirect prompt injection) saldırısı keşfetti. İsmini BioShock video oyunundaki psikolojik koşullandırma mekanizmasından alan bu yöntem, yapay zeka ajanlarını manipüle ederek güvenlik sınırlarını aşmalarını sağlıyor. Saldırganlar, hazırladıkları zararlı bir web sayfasına gizledikleri oyun veya bulmaca benzeri komutlarla yapay zekayı sanal bir kurguya inandırıyor. Bu sanal gerçeklik içinde yapay zeka, normal şartlarda engellenmesi gereken veri hırsızlığı ve yetkisiz yönlendirmeler gibi riskli eylemleri birer oyun görevi gibi algılayarak hiçbir güvenlik uyarısı vermeden gerçekleştiriyor.

Neden önemli?

Bu gelişme, yapay zekanın sadece bilgi sunan bir araç olmaktan çıkıp kullanıcı adına tıklama, form doldurma ve gezinme gibi eylemleri gerçekleştiren "otonom ajan" (agentic AI) yapısına büründüğü bir dönemde kritik bir tehdit oluşturuyor. BioShocking saldırısı, yapay zeka modellerinin kurgusal senaryolarla gerçek dünya kurallarını birbirine karıştırma zafiyetini (jailbreak) sömürüyor. Yapay zeka, kendisini korumakla yükümlü olduğu kullanıcının aleyhine çalışacak şekilde manipüle edildiğinde, arka planda kullanıcının haberi olmadan kritik verilere erişebiliyor.

Daha da önemlisi, bu saldırı türü doğrudan kullanıcının girdiği komutlarla değil, ziyaret edilen güvenilmez bir web sitesindeki gizli içeriklerle tetikleniyor. Bu durum, kullanıcının hiçbir şüpheli işlem yapmadığı anlarda bile, tarayıcının arka planda açık olan sosyal medya, e-posta veya kurumsal veri tabanları gibi oturum açılmış platformlardan hassas verileri çekip saldırganın sunucularına sızdırmasına yol açabiliyor.

Kim veya ne etkileniyor?

Bu tehdit, özellikle internette gezinebilen ve kullanıcı adına işlemler gerçekleştirebilen modern otonom yapay zeka tarayıcılarını, eklentilerini ve tarayıcı tabanlı yapay zeka yardımcılarını etkiliyor. LayerX araştırmacılarının gerçekleştirdiği kavram kanıtlama (PoC) testlerinde; ChatGPT Atlas, Perplexity Comet, Claude Chrome eklentisi, Fellou, Genspark Browser ve Sigma Browser dahil olmak üzere test edilen altı popüler yapay zeka tarayıcısı ve eklentisinin tamamı bu saldırıya karşı savunmasız kaldı. Bu sistemleri kullanan bireysel kullanıcılar ve özellikle tarayıcılarında hassas kurumsal kimlik bilgileri, API anahtarları veya şifre yöneticisi oturumları açık olan şirket çalışanları doğrudan risk altındadır.

Ne yapılmalı?

Yapay zeka tarayıcılarının bu tarz dolaylı komut enjeksiyonu saldırılarına karşı tamamen dirençli hale getirilmesi için geliştiricilerin, kurgusal senaryo girdilerini ayırt edebilen daha güçlü bağlamsal güvenlik katmanları entegre etmesi gerekiyor; ancak henüz kesin bir çözüm bulunmuyor. Kullanıcılar ise yapay zeka ajanlarının otonom eylemlerini yakından izlemeli ve tarayıcılarının hassas verilere erişim izinlerini en aza indirmelidir. Ayrıca, geliştiricilerin bu açıkları kapatan güncellemeleri yayınlamasını beklerken, kritik kurumsal ve kişisel hesaplarda yapay zeka destekli otonom tarama özelliklerinin devre dışı bırakılması en güvenli geçici önlem olarak öne çıkıyor. (Kaynaklar: BleepingComputer, InfoSecurity Magazine)