ZoriaNews

Ne oldu?

ServiceNow Research ve akademik ortaklarının geliştirdiği MosaicLeaks, yapay zeka destekli derin araştırma ajanlarının özel belgelerden sızdırdığı verileri ölçen bir kıyaslama (benchmark) ve çerçeve sunuyor. Sistem, 1.001 çok adımlı (multi-hop) araştırma zinciri üzerinden çalışıyor: ajan hem yerel kurumsal dokümanlara hem de kontrollü bir halka açık web kaynağına erişiyor ve görevini yerine getirirken web aramalarına gönderdiği sorgular üzerinden veri sızıntısı riski oluşuyor. Çalışmada saldırganın yalnızca ajanın harici sorgu günlüklerini görebildiği varsayılıyor ve bu gözlem sayesinde özel bilgilerin üç düzeyde çıkarılabileceği gösteriliyor: niyet sızdırma (ajanın neyi araştırdığı), cevap sızdırma (özel soruların yanıtları) ve tam bilgi sızdırma (sorulmadan doğrulanabilir özel iddialar). Sonuçlar, test edilen ajanların sık sık bu üç düzeyde de bilgi sızdırdığını ortaya koyuyor.

Neden önemli?

MosaicLeaks, “mozaik etkisi” olarak adlandırılan kritik bir gizlilik problemini gün yüzüne çıkarıyor. Tek başına masum görünen her bir web sorgusu, toplamda kurumun müşteri listeleri, finansal verileri veya stratejik planları gibi hassas içerikleri açığa çıkarabiliyor. Bu etki, ajanın dış dünyaya gönderdiği bağımsız sorguların bir araya gelmesiyle özel kurumsal bilgilerin yeniden yapılandırılabilmesi anlamına geliyor.

Çalışmanın bir diğer çarpıcı bulgusu, ajanları yalnızca görev başarısı için pekiştirmeli öğrenme (RL) ile eğitmenin gizlilik kaybını artırması: performansa odaklı eğitim, ajanı daha etkili ama aynı zamanda daha fazla konuşan hale getiriyor. Araştırmacılar bu soruna karşı Privacy-Aware Deep Research (PA-DR) yöntemini öneriyor. PA-DR, durumsal görev ödüllerine sorgu başına ve mozaik düzeyinde gizlilik ödülleri ekleyerek denge kuruyor. Qwen3-4B-Instruct üzerindeki deneylerde katı zincir başarısı %48,7’den %58,7’ye yükselirken, cevap ve tam bilgi sızdırma oranı %34,0’dan %9,9’a düşüyor.

Kim veya ne etkileniyor?

Özellikle kurumsal ortamlarda özel dokümanları işleyen ve harici web arama araçlarını kullanan derin araştırma ajanları bu risk altında. Hukuk büroları, finans kurumları, sağlık sektörü ve AR-GE birimleri gibi hassas veriyle çalışan ekipler etkilenebilir. Ayrıca bu ajanları entegre eden üretici yapay zeka platformları, asistan uygulamaları ve RAG (Retrieval-Augmented Generation) sistemleri de benzer tehdit modeliyle karşı karşıya. Henüz doğrulanmadı, ancak benzer mimarilere sahip tüketici odaklı asistanların da aynı sızıntı kanalına sahip olması muhtemel.

Ne yapılmalı?

Kurumlar, ajanlarının harici sorgularını minimumda tutmalı ve gizlilik farkındalığı ile eğitilmeli. Öncelikle yerel belgelerin tamamını açık web aramalarına taşımayan mimariler tercih edilmeli; gerekirse yerel embedding tabanlı retriever veya kurumun kendi kontrol ettiği özel bilgi kaynakları kullanılmalı. PA-DR gibi gizlilik-odaklı pekiştirmeli öğrenme yöntemleri entegre edilebilir. Güvenlik ekipleri, ajan sorgu günlüklerini periyodik olarak denetleyip “mozaik etkisi” açısından analiz etmeli. Son olarak, hassas verilerle çalışan ajanlarda zero-shot gizlilik istemleri tek başına yeterli olmadığı için katmanlı savunma (defense in depth) ve düzenli kırmızı takım (red-teaming) çalışmaları uygulanmalı.