Blog

GPU VPS maliyeti hesaplanırken çoğu ekip yalnızca işlem biriminin saatlik fiyatına bakıyor. Oysa toplam faturayı belirleyen şey çoğu zaman kartın kaç saat çalıştığı değil; etrafındaki kalıcı disk, ağ trafiği, boşta bekleme süresi ve soğuk başlangıç gibi görünmeyen kalemler oluyor. Saniye bazlı faturalandırma sunan GPU bulut platformları esneklik vaat ediyor, ancak bu esnekliğin bedeli iş yükü profiline göre ciddi biçimde değişiyor. Sabit fiyatlı bir GPU sunucusu ise tam tersine öngörülebilir ama kullanım oranına duyarlı bir tablo ortaya koyuyor. Bu yazıda iki modelin gerçek maliyet yapısını kalem kalem karşılaştırıp, hangi iş yükünün hangi modele daha uygun olduğunu adım adım ele alıyoruz.

Saniye Bazlı GPU Bulut Faturalandırması Gerçekte Neyi Ölçüyor?

Saniye bazlı faturalandırma kulağa son derece adil geliyor: kullandığın kadar öde. Ancak pratikte ölçülen şey her zaman “hesaplama yaptığın süre” olmuyor. GPU kaynağı ayrıldığı anda sayaç başlıyor; konteynerin ayağa kalkması, imajın çekilmesi, model ağırlıklarının belleğe yüklenmesi ve kütüphanelerin derlenmesi de aynı sayaca yazılıyor. Yani modeliniz ilk isteğe yanıt vermeden önce bile belirli bir süre için ödeme yapmış oluyorsunuz.

İkinci önemli nokta, faturalandırma biriminin genellikle “GPU başına” tanımlanması. Çok kartlı bir yapılandırmada küçük bir çıkarım isteği için dört kartı aynı anda ayağa kaldırdığınızda sayaç dört kat hızda ilerliyor; buna karşılık gerçek kullanım tek kartın kapasitesinin altında kalabiliyor. Bu nedenle saniye bazlı modelin avantajı, iş yükünüz gerçekten değişken ve kısa süreli olduğunda ortaya çıkıyor. Sürekli açık kalan bir servis için ise aynı tablo hızla aleyhinize dönüşüyor.

Faturayı Şişiren Görünmez Kalemler

Kalıcı Depolama ve Disk Alanı

GPU bulut platformlarında hesaplama katmanı çoğunlukla geçicidir. Model ağırlıkları, veri setleri, loglar ve önbellek dosyaları ise kalıcı diskte tutulur ve bu alan saatlik ya da aylık olarak ayrıca faturalandırılır. Yüzlerce gigabaytlık bir veri setiyle çalışan bir ekip, GPU hiç açık olmasa bile depolama için ödeme yapmaya devam eder. Üstelik aynı veri setini birden fazla ortamda tutmak gerektiğinde bu kalem sessizce büyür. Kendi VPS hosting hizmeti üzerinde çalışırken disk alanının paket içinde tanımlı olması, bu belirsizliği büyük ölçüde ortadan kaldırır.

Soğuk Başlangıç ve Isınma Süresi

Soğuk başlangıç, yalnızca kullanıcı deneyimini değil faturayı da etkiler. Yeni bir örnek ayağa kalktığında işletim sistemi açılır, sürücüler yüklenir, model belleğe alınır ve ilk istek için gereken ısınma turları tamamlanır. Bu sürenin tamamı ücretlendirilir; üstelik bu sırada henüz tek bir faydalı çıktı üretilmemiştir. Otomatik ölçeklendirme kapalıysa ve trafik düzensizse, gün içinde defalarca soğuk başlangıç yaşanabilir. Sabit fiyatlı bir sunucuda ise makine sürekli açık olduğu için model bir kez yüklenir ve servis kesintisiz yanıt verir.

Ağ Trafiği ve Veri Çıkışı

Veri çıkışı, GPU bulutlarında en sık gözden kaçan kalemlerden biri. Eğitim verisini yüklemek, checkpoint dosyalarını indirmek veya çıkarım sonuçlarını başka bir sisteme aktarmak ağ trafiği üretir. Büyük model dosyaları ve sık yedekleme alışkanlığı olan ekiplerde bu kalem, işlem maliyetine yaklaşabilir. Kotanın ne kadar geniş olduğunu ve aşım durumunda birim fiyatın nasıl değiştiğini baştan bilmek, sürprizleri önler.

Boşta Bekleyen GPU’lar

Geliştirme sırasında en pahalı alışkanlık, GPU’yu açık bırakıp başka bir işe bakmak. Tarayıcıda sekme açık kalır, terminal bağlantısı kopar, kaynak ayrılmaya devam eder. Saniye bazlı modelde bu “düşünme süresi” doğrudan faturaya yansır. Bu nedenle bazı ekipler otomatik kapatma politikaları, zaman aşımı kuralları ve kaynak etiketleme gibi ek düzenekler kurmak zorunda kalır; bunlar da operasyonel yük demektir.

Sabit Fiyatlı GPU VPS Modeli Nerede Öne Çıkıyor?

Sabit fiyatlı modelde belirli bir VRAM, çekirdek sayısı ve disk kotası aylık net bir ücretle size ayrılır. Kullanım oranı %10 da olsa %90 da olsa fatura değişmez. Bu yapının en büyük avantajı bütçeleme kolaylığı: üç aylık bir proje için öngörülen sunucu maliyeti, ilk günden itibaren tabloda net biçimde görünür. Ayrıca sunucu üzerinde kök erişim bulunduğu için Docker, CUDA sürümleri, kuyruk sistemleri ve izleme araçları üzerinde tam kontrol sağlanır.

Modelin zayıf noktası ise esneklik. Pik yük geldiğinde kaynağı dakikalar içinde katlamak mümkün değildir; önceden planlanmış bir yükseltme gerekir. Bu nedenle sabit fiyatlı GPU sunucular, trafiği tahmin edilebilir servisler için idealdir. İhtiyaç büyüdüğünde VDS veya dedicated sunucu seçeneklerine geçmek, kaynak sınırlarını kontrollü biçimde yukarı taşımanın en sağlıklı yoludur.

Karşılaştırma Tablosu: İki Modelin Gerçek Yüzü

Kriter	Saniye bazlı GPU bulutu	Sabit fiyatlı GPU VPS
Faturalandırma birimi	GPU saniyesi, kart başına	Aylık sabit ücret
Boşta bekleme	Ayrılan süre boyunca ücret işler	Kullanım oranından bağımsız sabit ücret
Depolama	Genellikle ayrı kalem, GB/saat bazlı	Paket içinde tanımlı disk kotası
Soğuk başlangıç	Faturaya yansır, ısınma süresi ücretli	Sunucu açık kalır, ek başlangıç maliyeti yok
Ağ trafiği	Çıkış kotası sınırlı, aşımı ücretli olabilir	Genellikle daha geniş ve sabit kota
Öngörülebilirlik	Düşük, aylık tutar dalgalanır	Yüksek, bütçeye doğrudan yazılabilir
Anlık ölçeklenme	Çok hızlı, dakikalar içinde kapasite artışı	Planlı yükseltme gerektirir
Yönetim düzeyi	Soyutlanmış, erişim kısıtlı	Kök erişim, tam sistem kontrolü
En uygun senaryo	Kısa süreli deney, düzensiz pik yükler	Kesintisiz çalışan servisler, ajans işleri

İş Yükü Profiline Göre Doğru Model Nasıl Seçilir?

Kararı verebilmek için önce iş yükünüzü tanımlamanız gerekir. Aşağıdaki senaryolar pratikte en sık karşılaşılan durumları özetliyor:

• Dakikalar süren denemeler: Yeni bir modeli 20 dakika çalıştırıp sonucu görmek istiyorsanız saniye bazlı model mantıklıdır; ancak her denemede yeniden ısınma bedeli ödediğinizi unutmayın.
• 7/24 çalışan çıkarım servisi: Trafik düşük ama kesintisiz olsun istiyorsanız sabit fiyatlı GPU VPS neredeyse her zaman daha ekonomik ve daha kararlıdır.
• Uzun süreli eğitim: Günler süren eğitimlerde saniye bazlı sayaç aynı hızda işler; sabit fiyat, maliyeti baştan sabitleyerek riski ortadan kaldırır.
• Kampanya dönemli pikler: Yılda birkaç kez kısa süreli pik yaşıyorsanız bulut tarafında ek kapasite alıp geri kalan ayları sabit sunucuda geçirmek dengeli bir yaklaşımdır.
• Geliştirme ve test ortamı: Sürekli açık kalması gereken ama düşük yük altında çalışan ortamlar sabit fiyatlı yapıda daha az maliyet üretir.

Özellikle birden çok modelin aynı anda servis edildiği yapılarda, istekleri tek bir kapıdan yönetmek maliyet kontrolünü kolaylaştırır. AI ajanları için VPS üzerinde LLM gateway kurulumu rehberi, bu mimariyi kendi sunucunuzda nasıl kurabileceğinizi adım adım anlatıyor.

Örnek Bir Aylık Maliyet Hesabı

Somut bir tablo görmek için tek kartlı (24 GB VRAM), günde ortalama 10 saat gerçek hesaplama yapan bir çıkarım servisini ele alalım. Rakamlar temsili olmakla birlikte hesaplama yöntemi gerçekçidir.

1. Gerçek hesaplama süresi: Ayda yaklaşık 300 saat.
2. Soğuk başlangıç ek yükü: Günde 6 kez 4 dakikalık ısınma, ayda yaklaşık 12 saat.
3. Ayrılmış ama boşta kalan süre: Geliştirme ve debug sırasında açık unutulan kaynaklar, ayda ortalama 40 saat.
4. Kalıcı disk: Model ağırlıkları ve veri setleri için 300 GB, ay boyunca sürekli faturalandırılır.
5. Veri çıkışı: Checkpoint ve log aktarımları için ek kalem.

Toplamda faturalandırılan süre, gerçek hesaplama süresinin yaklaşık %15 üzerine çıkıyor. Buna depolama ve ağ kalemleri eklendiğinde, sabit fiyatlı bir sunucunun aylık bedeli ile arasındaki fark hızla kapanır. İş yükü büyüdükçe ve süreklilik arttıkça fark, sabit fiyatın lehine açılır. Model sayısı arttığında ve aynı anda birden fazla sorgu akışı yönetildiğinde ise RAG mimarisi gibi vektör tabanlı yaklaşımlar disk ve bellek ihtiyacını ayrıca şekillendirir; bu nedenle kapasite planlamasını baştan doğru yapmak gerekir.

Maliyeti Düşürmenin Yedi Pratik Yolu

• Kaynakları etiketleyin: Hangi işin ne kadar GPU tükettiğini görmediğiniz sürece tasarruf edemezsiniz.
• Otomatik kapatma kuralı koyun: Belirli bir süre istek gelmezse ortamı kapatan bir mekanizma kurun.
• Modeli nicelleştirin: Daha küçük hassasiyetle çalışan bir model, aynı işi daha az VRAM ve daha kısa sürede yapabilir.
• Isınmayı bir kez ödeyin: Sürekli açık bir sunucuda modeli bellekte tutmak, her istekte yeniden yüklemekten çok daha verimlidir.
• Depolamayı ayrıştırın: Nadiren erişilen arşivleri ucuz katmana taşıyın, yalnızca aktif veri setini hızlı diskte tutun.
• Toplu işleyin: Tek tek istekler yerine toplu çıkarım çalıştırmak, kart başına verimi belirgin biçimde artırır.
• İzleme kurun: GPU kullanım oranını ve bellek baskısını ölçün; verimsiz yapılandırmalar genellikle ölçüm eksikliğinden kaynaklanır.

Kendi sunucunuzda veri katmanı da barındırıyorsanız, disk ve bellek planlamasının incelikleri için VPS üzerinde Supabase barındırırken dikkat edilmesi gerekenler yazısı pratik bir başlangıç noktası sunuyor.

Karar Verirken Sormanız Gereken Beş Soru

1. Servisim günün kaç saatinde gerçekten istek alıyor ve bu süre öngörülebilir mi?
2. Aylık faturamda kabul edebileceğim üst sınır nedir; dalgalanma beni zorlar mı?
3. Model dosyalarım ve veri setim ne kadar büyüyecek, depolama kalemi nasıl seyredecek?
4. Sistem düzeyinde erişime, özel sürücü ve kütüphane kurulumlarına ihtiyacım var mı?
5. Gelecek dönemde trafik, model boyutu veya kullanıcı sayısı artacak mı; ölçekleme planım hazır mı?

Bu sorulara verdiğiniz yanıtlar netleştiğinde, iki model arasındaki seçim çoğu zaman kendiliğinden ortaya çıkar. Kısa süreli ve düzensiz denemeler için saniye bazlı GPU bulutu pratik bir esneklik sunarken, kesintisiz ve öngörülebilir iş yüklerinde sabit fiyatlı GPU VPS hem bütçe hem de operasyon açısından daha güvenli bir zemin sağlar.