ZoriaNews

Ne oldu?

Hugging Face, tarayıcı tabanlı yapay zeka kütüphanesi Transformers.js içinde Chrome ekibinin önerdiği ve henüz standartlaşma aşamasında olan Cross-Origin Storage (COS) API'sini deneysel bir arka uç olarak test ediyor. Bu yeni API, `navigator.crossOriginStorage` arabirimi üzerinden çalışan ve dosyaları URL yerine SHA-256 gibi kriptografik hash değerleriyle tanımlayan içerik adresli bir önbellek sistemi sunuyor. Şu anda hiçbir tarayıcıda doğal olarak yer almayan COS, denemek isteyen geliştiriciler için Chrome eklentisi biçiminde bir polyfill sağlıyor. Transformers.js'deki implementasyon ise `env.experimental_useCrossOriginStorage = true` seçeneğiyle açılabiliyor ve model ağırlıklarının farklı kökenler arasında tek seferlik indirilip paylaşılmasını amaçlıyor.

Neden önemli?

Günümüzde tarayıcı önbelleği aynı kökenle sınırlı çalıştığı için, iki farklı web sitesi aynı ONNX veya WASM modelini kullansa bile her biri modeli ayrı ayrı indirmek zorunda kalıyor. Bu hem bant genişliği hem de kullanıcı deneyimi için ciddi bir kayıp, özellikle yüzlerce megabaytlık yapay zeka modelleri söz konusuysa. Cross-Origin Storage API, aynı içeriğe sahip dosyayı hash tabanlı bir anahtarla küresel bir depoda konumlandırarak bu tekrarı ortadan kaldırmayı hedefliyor. Diğer bir deyişle, kullanıcı `site-a.com` adresinden indirdiği bir ONNX ağırlık dosyasını, daha sonra `site-b.com` ziyaret ettiğinde tekrar indirmek zorunda kalmayacak. Ayrıca bu mekanizma, yapay zeka modellerinin merkezi bir tarayıcı deposu gibi yönetilmesinin önünü açabilecek ve web tabanlı model dağıtımını daha sürdürülebilir hale getirebilecek.

Kim veya ne etkileniyor?

Doğrudan etkilenen kesim, web tarayıcısında yapay zeka çalıştıran geliştiriciler ve bu uygulamaları kullanan son kullanıcılar. Hugging Face Transformers.js kullanan siteler, demo sayfaları, tarayıcı uzantıları ve Chrome üzerinden çalışan edge AI projeleri bu deneysel özelliğin ilk kullanıcıları olacak. Özellikle tarayıcı önbelleği ve bant genişliği maliyetiyle uğraşan SaaS platformlar, model sağlayıcıları ve kişisel gizliliği ön planda tutarak lokal çıkarım yapan uygulamalar bundan faydalanabilir. Ancak API henüz tarayıcılar tarafından yerel destek almadığı için, kapsamlı etki sadece Chrome eklentisi veya polyfill kuran teknik kullanıcılarla sınırlı ve geniş çapta kullanılabilirliği kesin değil.

Ne yapılmalı?

Geliştiricilerin şimdilik bu özelliği sadece deneme amaçlı ve geri bildirim vermek üzere değerlendirmesi en doğru yaklaşım. Üretim ortamında COS'a tam olarak güvenmek için API'nin standartlaşmasını ve yerel tarayıcı desteğinin yaygınlaşmasını beklemek gerekir. Denemek isteyenler, Transformers.js dokümantasyonunda belirtilen `experimental_useCrossOriginStorage` bayrağını açabilir, aynı zamanda önerilen Chrome eklentisini kurabilir ve çeşitli modeller için önbellek isabet oranlarını izleyebilir. Dikkat edilmesi gereken önemli bir sınır, şu an için yalnızca Git LFS ile izlenen büyük dosyaların hash üzerinden önbelleğe alınabiliyor olması; `config.json`, `tokenizer.json` gibi küçük yapılandırma dosyaları henüz bu mekanizmaya dahil değil. Sonuç olarak, Cross-Origin Storage yapay zekanın tarayıcı önbelleğini değiştirebilecek bir fikir, fakat henüz erken aşamada ve standartlaşma sürecinin seyrine göre konumlandırılmalı.