Eğitim verisi depolamayı nasıl zorlar?
Model eğitimi sırasında veri kümesi defalarca baştan sona okunur. Okuma hızı GPU'nun tüketim hızının altında kaldığında kartlar boşta bekler ve pahalı kapasite atıl kalır. Bu nedenle eğitim ortamında belirleyici ölçü, toplam kapasiteden çok paralel okuma hızıdır.
İkinci zorlayıcı unsur dosya sayısıdır. Görüntü ve belge kümeleri milyonlarca küçük dosyadan oluşabilir ve bu profil, büyük dosyalara göre ayarlanmış depolama kurgularını yorar. Küçük dosyaların paketlenerek okunması ya da metaveri işleminin ayrı katmana alınması bu yükü hafifletir.
Katmanlı yerleşim nasıl kurulur?
Veri yaşam döngüsüne göre katmanlara yerleşir ve katmanlar arası geçiş kuralla tanımlanır:
- Aktif katman: Üzerinde çalışılan veri kümesi ve devam eden eğitimlerin çıktıları; yüksek okuma hızı önceliklidir.
- Kapasite katmanı: Tamamlanan çalışmaların veri kümeleri ve geçmiş model sürümleri; maliyet önceliklidir.
- Arşiv: Uzun süre erişilmeyecek ancak kanıt niteliği taşıyan veri; erişim süresi uzayabilir.
- Geçiş kuralı: Verinin hangi süre sonunda hangi katmana ineceği yazılı kuralla belirlenir ve otomatik uygulanır.
Sahada en sık gördüğümüz durum, tüm veri alanının aynı düzeyde yedeklenmeye çalışılması. Veriyi kaynak, düzenlenmiş küme, model çıktısı ve ara dosya diye ayırdığımızda yedekleme hacmi belirgin küçülüyor ve pencere kısalıyor. Ayrımı yaparken en çok işe yarayan soru şu oluyor: bu dosya kaybolursa kaynaktan yeniden üretilebilir mi.
Sürümleme neden yedeklemeden önce gelir?
Yapay zeka çalışmalarında bir sonucun yeniden üretilebilmesi, hangi veriyle ve hangi ayarla elde edildiğinin bilinmesine bağlıdır. Bu nedenle veri kümesi, ön işleme adımları, eğitim ayarları ve üretilen model çıktısı birlikte sürümlenir.
Sürümleme aynı zamanda denetim sorularına yanıt üretir. Bir modelin belirli bir kararı neden ürettiği sorulduğunda, o sürümün hangi veriyle eğitildiği kayıttan okunur. Bu izlenebilirlik, uyum çalışmalarında doğrudan kanıt olarak kullanılır.
Yedekleme kapsamı nasıl belirlenir?
Her veri aynı düzeyde korunmaz; kapsam yeniden üretilebilirliğe göre ayrılır:
- Kaynak veri: Kurumun kendi ürettiği ve başka yerde bulunmayan veri; en yüksek koruma düzeyinde yedeklenir.
- Düzenlenmiş veri kümesi: Etiketleme ve temizleme emeği taşıdığı için yeniden üretilmesi pahalıdır; yedeklenir.
- Model çıktıları: Üretimde çalışan sürümler yedeklenir, ara denemeler saklama kuralıyla sadeleştirilir.
- Ara işlem dosyaları: Kaynaktan yeniden üretilebilen dosyalar yedekleme kapsamı dışında bırakılarak kapasite korunur.
Bu ayrım yapıldığında yedekleme penceresi kısalır ve kurtarma hedefleri gerçekçi hale gelir. Kurgunun bütünü, yedekleme ve felaket kurtarma tasarımıyla aynı disiplinde yürür.
