GPU kiralama: saatlik mi aylık mı, kiralamak mı satın almak mı? Yapay zeka işleri için TL başabaş hesabı

GPU kiralama kararı genelde tek soruya iner: bu kartı ayda kaç saat gerçekten çalıştıracaksınız? Saatlik bulut GPU, aylık GPU sunucu ve kartı satın alıp kendiniz barındırmak arasındaki fark büyük ölçüde bu sayıya, sonra da elektrik, amortisman ve kur riskine bağlıdır. Bu rehber, yapay zeka işleri için GPU'lu altyapı arayan KOBİ sahipleri ve sistem yöneticileri için hazırlandı. Uydurma fiyat yok; kendi aldığınız teklifleri koyup hesaplayabileceğiniz bir yöntem ve küçük bir betik var.

GPU kiralama nedir, pakette neler olur?

GPU kiralama, NVIDIA kartı takılı bir sunucuyu saatlik ya da aylık ücretle kullanmaktır. Fiyatı yalnız kart belirlemez. Teklifleri karşılaştırırken şu kalemlerin her birini ayrı ayrı yazın:

• GPU modeli ve adedi: Kart sınıfı ve VRAM miktarı. Aynı adı taşıyan kartın farklı bellek sürümleri olabilir (ör. A100 40 GB ve 80 GB).
• CPU ve RAM: Veri ön işleme, tokenizasyon ve veri yükleyiciler CPU'ya yüklenir. Zayıf CPU, pahalı GPU'yu boşta bekletir.
• NVMe disk: Model ağırlıkları ve veri setleri büyüktür. Yavaş disk, model yükleme süresini uzatır.
• Ağ: Port hızı, trafik kotası ve veri çıkış ücreti olup olmadığı.
• Yazılım: Sürücü ve CUDA kurulu imaj mı geliyor, yoksa boş işletim sistemi mi?

Bu beş kalem netleşmeden iki teklifin fiyatını karşılaştırmak yanıltıcıdır.

Üç model: saatlik bulut GPU, aylık GPU sunucu ve satın alma

Saatlik bulut GPU

Çalıştırdığınız kadar ödersiniz. Deneme, kısa süreli eğitim ya da ayda birkaç gün süren işler için uygundur.

• Artı: Başlangıç maliyeti yok, iş bitince kapatırsınız, farklı kartları denemek kolaydır.
• Eksi: Saat başı ücret aylık pakete göre yüksektir. Kapatmayı unutulan bir sunucu faturayı hızla büyütür. Yoğun dönemlerde istediğiniz kart her zaman boşta olmayabilir. Kapatınca yerel disk silinebilir, veriyi ayrı bir yerde tutmanız gerekir.

Aylık GPU sunucu

Kart size ayrılır ve ay boyunca sizindir. 7/24 çalışan çıkarım (inference) servisleri ve düzenli eğitim işleri için tipik seçimdir.

• Artı: Öngörülebilir fatura, saat başına düşen maliyet yoğun kullanımda saatlikten düşüktür, donanım arızası sağlayıcının sorunudur.
• Eksi: Kullanmasanız da ödersiniz. Taahhüt süresi ve fiyatın döviz endeksli olup olmadığı önemlidir.

Kartı satın alıp kendiniz barındırmak

Kartı ya da GPU'lu sunucuyu satın alır, ofiste veya bir veri merkezinde çalıştırırsınız.

• Artı: Uzun vadede ve sürekli yüksek kullanımda en düşük birim maliyete ulaşabilir. Donanım tamamen sizin kontrolünüzdedir.
• Eksi: Yüksek peşin ödeme, kur riski satın alma anında tek seferde gerçekleşir. Elektrik, soğutma, arıza, yedek parça ve yerinde müdahale sizin sorumluluğunuzdadır. Kart birkaç yıl içinde yeni modellerin gerisinde kalır ve ikinci el değeri düşer. Ofis ortamında yüksek güçlü bir GPU sunucusunun ısısı ve gürültüsü ciddi bir sorundur.

İş yüküne göre hangi model mantıklı?

Karar için iş yükünü dört gruba ayırın:

En sık karşılaşılan durum, şirket içi asistan ya da RAG servisi gibi sürekli açık bir çıkarım uç noktasıdır. Burada GPU kullanımı düşük olsa bile model bellekte bekler; dolayısıyla saatlik model avantajını kaybeder.

TL başabaş hesabı: kullanım saati her şeyi belirler

Saatlik ile aylık arasındaki başabaş

Formül basittir:

Başabaş saat = Aylık kira ÷ Saatlik ücret

Aynı kart için aldığınız aylık teklifi saatlik teklife bölün. Çıkan sayı, ayda kaç saatten sonra aylık paketin daha ucuz olduğunu gösterir. Bir ay yaklaşık 730 saattir. Başabaş saat 300 çıkıyorsa ve siz ayda 400 saat çalıştıracaksanız aylık paket kazançlıdır.

Satın alma ile kiralama arasındaki başabaş

Satın almanın aylık gerçek maliyeti şu kalemlerden oluşur:

1. Amortisman: Toplam donanım bedeli (kart, sunucu kasası, güç kaynağı, disk) eksi beklenen ikinci el değeri, bölü kullanım ayı. GPU için 24 ile 36 ay gerçekçi bir aralıktır; yeni nesil kartlar çıktıkça eski kartın değeri düşer.
2. Elektrik: Sistem gücü (W) × aylık çalışma saati ÷ 1.000 × kWh fiyatı. Kartın tek başına çektiği güç için üretici sayfasındaki TDP değerine bakın, CPU ve diğer bileşenleri ekleyin.
3. Soğutma: Elektriğe bir çarpan olarak eklenir. Veri merkezleri bunu PUE ile ifade eder; ofiste klima yükü ayrı hesaplanmalıdır.
4. Barındırma ve bağlantı: Colocation ücreti ya da ofiste sabit IP, UPS ve hat maliyeti.
5. Arıza ve bakım payı: Yedek parça, garanti dışı tamir, iş gücü.
6. Kur riski: Kart döviz bazlı fiyatlanır. Satın almada kur riski bir kerede, ödeme anında gerçekleşir; döviz endeksli kirada ise her ay yeniden gerçekleşir. Kiralık tekliflerde bu konuyu sunucu kiralama yenileme zammı ve dolar endeksli fiyat yazısındaki senaryo yöntemiyle değerlendirin.

Hesabı yapan betik

Aşağıdaki betik, kendi tekliflerinizi girdiğinizde üç modelin aylık TL maliyetini ve başabaş saatlerini hesaplar. Ubuntu 24.04 ve Debian 12 için hazırlandı; yalnız bash ve awk kullanır, sistemde hiçbir şeyi değiştirmez. Geri almak için dosyayı silmeniz yeterlidir. Tüm değerler komut satırından verilir, içinde varsayılan fiyat yoktur.

#!/usr/bin/env bash
# gpu-basabas.sh : saatlik, aylik ve satin alma maliyetini TL olarak karsilastirir.
# Kullanim:
#   ./gpu-basabas.sh SAAT SAATLIK_TL AYLIK_TL DONANIM_TL IKINCIEL_TL AMORTI_AY GUC_W KWH_TL SOGUTMA_CARPANI DIGER_AYLIK_TL
# Ornek degerleri kendi tekliflerinizle degistirin (ORNEK_ ile baslayanlar):
#   ./gpu-basabas.sh 400 ORNEK_SAATLIK ORNEK_AYLIK ORNEK_DONANIM ORNEK_IKINCIEL 36 900 ORNEK_KWH 1.4 ORNEK_DIGER
set -euo pipefail

if [ "$#" -ne 10 ]; then
  echo "Hata: 10 deger gerekli. Kullanim icin betigin basindaki aciklamaya bakin." >&2
  exit 1
fi

awk -v saat="$1" -v saatlik="$2" -v aylik="$3" -v donanim="$4" -v ikinciel="$5" \
    -v ay="$6" -v guc="$7" -v kwh="$8" -v carpan="$9" -v diger="${10}" 'BEGIN {
  # Saatlik modelde aylik fatura
  m_saatlik = saat * saatlik
  # Satin almada aylik amortisman
  amorti = (donanim - ikinciel) / ay
  # Elektrik + sogutma (guc W cinsinden)
  enerji = guc * saat / 1000 * kwh * carpan
  m_satin = amorti + enerji + diger
  printf "Aylik kullanim          : %d saat\n", saat
  printf "Saatlik bulut GPU      : %.0f TL/ay\n", m_saatlik
  printf "Aylik GPU sunucu       : %.0f TL/ay\n", aylik
  printf "Satin alma (toplam)    : %.0f TL/ay (amortisman %.0f, enerji %.0f, diger %.0f)\n", m_satin, amorti, enerji, diger
  printf "Saatlik/aylik basabas  : %.0f saat/ay\n", aylik / saatlik
  # Satin almanin saatlik ile basabasi: sabit giderler / (saatlik ucret - saatlik enerji)
  saat_enerji = guc / 1000 * kwh * carpan
  if (saatlik > saat_enerji)
    printf "Satin alma/saatlik basabas: %.0f saat/ay\n", (amorti + diger) / (saatlik - saat_enerji)
}'

Beklenen çıktı şu biçimdedir (sayılar sizin girdilerinize göre değişir):

Aylik kullanim          : 400 saat
Saatlik bulut GPU      : ... TL/ay
Aylik GPU sunucu       : ... TL/ay
Satin alma (toplam)    : ... TL/ay (amortisman ..., enerji ..., diger ...)
Saatlik/aylik basabas  : ... saat/ay
Satin alma/saatlik basabas: ... saat/ay

Hesabı en az üç kullanım senaryosuyla çalıştırın: iyimser (ör. 150 saat), beklenen ve 7/24 (730 saat). Satın alma yalnız 7/24 senaryosunda kazançlı çıkıyorsa, gerçekten 7/24 kullanacağınızdan emin olmadan karar vermeyin.

Kullanım saatinizi tahmin değil, ölçümle bulun

Elinizde zaten bir GPU varsa ya da deneme amaçlı saatlik bir sunucu açtıysanız, gerçek kullanımı bir hafta boyunca kaydedin:

# Her 60 saniyede GPU kullanim yuzdesini ve kullanilan bellegi CSV olarak kaydeder.
# Durdurmak icin Ctrl+C; kayit dosyasi gpu-kullanim.csv
nvidia-smi --query-gpu=timestamp,utilization.gpu,memory.used,memory.total \
  --format=csv -l 60 | tee -a gpu-kullanim.csv

Kullanım yüzdesi gün içinde çoğunlukla sıfıra yakınsa ve iş belirli saatlerde yoğunlaşıyorsa saatlik model ya da daha küçük bir kart düşünün. Bellek kullanımı sürekli kapasitenin sınırına dayanıyorsa bir üst VRAM sınıfına bakın. Komutun alanları nvidia-smi belgesinde açıklanmıştır.

VRAM ihtiyacına göre kart sınıfı

Kart seçiminde ilk ölçüt hız değil, modelin belleğe sığıp sığmadığıdır. Kabaca:

• RTX 4090 (24 GB) ve RTX 5090 (32 GB): Küçük ve orta boy modellerde çıkarım, nicemlenmiş (quantized) modeller, LoRA ince ayarı, görsel üretim. Tüketici kartıdır; veri merkezi lisans koşullarını ve sağlayıcı desteğini kontrol edin.
• L40S (48 GB): Çıkarım ve görsel üretim için veri merkezi sınıfı, orta boy modellerde rahat bellek.
• A100 (40 GB ve 80 GB): Eğitim ve ince ayarda yaygın, hangi bellek sürümü olduğunu teklifte mutlaka yazdırın.
• H100 (80 GB) ve H200 (141 GB): Büyük modeller, yüksek eşzamanlı kullanıcı, çok GPU'lu eğitim. H200'ün büyük belleği, büyük modelleri daha az kartla çalıştırmayı mümkün kılar.

Model ağırlığına KV cache ve eşzamanlı kullanıcı sayısı eklenince ihtiyaç hızla büyür. Kendi modeliniz için hesabı LLM VRAM hesaplama rehberindeki formülle yapın ve kartı ona göre seçin. Gereğinden büyük kart kiralamak, başabaş hesabındaki en pahalı hatadır.

KVKK ve veri yerelliği

Model eğitiminde ya da RAG servisinde müşteri yazışmaları, sözleşmeler veya personel kayıtları gibi kişisel veri işliyorsanız, GPU sunucusunun lokasyonu hukuki bir konudur. Sunucu yurt dışındaysa KVKK'nın 9. maddesi kapsamında yurt dışına aktarım yapmış olursunuz; AB'deki bir veri merkezi bu durumu değiştirmez. Bu durumda standart sözleşme ve bildirim yükümlülüğü gündeme gelir. Ayrıntılı adımlar KVKK uyumlu sunucu yazısında anlatılıyor.

Pratik ayrım şöyle yapılabilir:

• Kişisel veri içermeyen işler (açık veri setiyle eğitim, ürün görseli üretimi, kod asistanı): Lokasyon daha çok gecikme ve fiyat konusudur.
• Kişisel veri içeren işler: Ya aktarım şartlarını yerine getirin ya da veriyi anonimleştirip yalnız anonim veriyi GPU sunucusuna gönderin. Ham veriyi Türkiye'de tutup yalnız gerekli kısmı işleme göndermek de bir seçenektir.

Kullanıcıya yanıt veren çıkarım servislerinde Türkiye ile Frankfurt arasındaki gecikme, LLM yanıt süresinin yanında çoğu zaman küçük kalır. Asıl belirleyici olan model ve kart hızıdır.

Kiralarken kontrol listesi

Teklif aldığınızda şu soruların yazılı yanıtını isteyin:

1. Teslim süresi: Sipariş sonrası sunucu ne zaman erişime açılıyor? Belirli kart modelleri stok durumuna bağlı olabilir.
2. Kart ayrıntısı: Model, bellek sürümü, adet, PCIe mi SXM mi, kartlar arası bağlantı (NVLink) var mı?
3. Hazır imaj: NVIDIA sürücüsü ve CUDA kurulu mu, hangi işletim sistemi sürümü? Teslimde nvidia-smi çıktısında kartı ve sürücü sürümünü görün.
4. Taahhüt ve iptal: Aylık mı, yıllık mı? Erken çıkışta ne ödenir?
5. Para birimi: TL sabit mi, döviz endeksli mi? Yenilemede fiyat nasıl belirlenir?
6. Gizli kalemler: Trafik aşımı, ek IP, ek disk, snapshot, yönetim ücreti ve KDV.
7. Paylaşım: Kart size mi ayrılmış, yoksa sanal GPU dilimi mi (vGPU, MIG)? Bu fark performansı doğrudan etkiler.
8. Destek: Donanım arızasında müdahale süresi ve iletişim kanalı.

Teslim sonrası doğrulama

Sunucuyu teslim aldığınızda ilk iş, ödediğiniz donanımı aldığınızı kontrol edin:

# Kart modeli, VRAM ve surucu surumu
nvidia-smi --query-gpu=name,memory.total,driver_version --format=csv
# CUDA derleyicisi kuruluysa surumu
nvcc --version
# CPU cekirdek sayisi ve RAM
nproc && free -h

Çıktıdaki kart adı ve toplam bellek, teklifte yazanla aynı olmalı. Tutmuyorsa kullanmaya başlamadan sağlayıcıya bildirin.

Sık yapılan hatalar

• Saatlik sunucuyu açık unutmak: İş bitince kapatma adımını iş akışına yazın; mümkünse bütçe uyarısı kurun.
• Yalnız kart fiyatına bakmak: Satın almada elektrik, soğutma ve amortisman dahil edilmeyince satın alma olduğundan ucuz görünür.
• Kullanımı tahminle hesaplamak: Bir haftalık nvidia-smi kaydı, tahminden daha doğru karar verdirir.
• VRAM'i küçük seçmek: Model sığmayınca daha yavaş yöntemlere ya da daha pahalı bir karta geçmek gerekir.
• Veriyi GPU sunucusunun diskinde tek kopya tutmak: Model çıktılarını ve veri setlerini ayrı bir depoya yedekleyin.
• KVKK'yı sonradan düşünmek: Kişisel veriyle çalışacaksanız lokasyonu ve aktarım şartlarını kiralamadan önce netleştirin.

Sık sorulan sorular

GPU kiralama ayda kaç saatten sonra aylık pakete geçilmeli?

Aylık teklifi saatlik ücrete bölün; çıkan saat sayısı başabaş noktasıdır. Gerçek kullanımınız bu değerin üzerindeyse ya da servis 7/24 açık kalacaksa aylık paket genelde daha ucuzdur.

Kartı satın almak ne zaman mantıklı?

Kart uzun süre ve yüksek oranda kullanılacaksa, barındıracak uygun bir ortamınız varsa ve arıza ile bakımı üstlenebiliyorsanız. Hesabı amortisman, elektrik, soğutma ve ikinci el değeriyle birlikte yapın; yalnız kart etiketiyle karşılaştırmayın.

Küçük bir LLM'i çalıştırmak için H100 gerekir mi?

Çoğu zaman gerekmez. Nicemlenmiş küçük ve orta boy modeller 24 ile 48 GB VRAM'li kartlarda çalışabilir. Önce model boyutu ve eşzamanlı kullanıcı sayısıyla VRAM ihtiyacını hesaplayın, kartı ona göre seçin.

Frankfurt'taki bir GPU sunucusunda kişisel veri işleyebilir miyim?

İşleyebilirsiniz ancak bu KVKK açısından yurt dışına aktarımdır ve standart sözleşme gibi şartları yerine getirmeniz gerekir. Alternatif olarak veriyi anonimleştirip yalnız anonim veriyi işleyebilirsiniz.

Kur artışı kiralama ile satın almayı nasıl etkiler?

Satın almada kur riski ödeme anında bir kez gerçekleşir. Döviz endeksli kirada her ay yeniden gerçekleşir. TL sabit fiyatlı tekliflerde ise yenileme koşullarını sözleşmeden kontrol edin.

Bu işi hazır yapmak isterseniz

Başabaş hesabınız aylık GPU sunucuyu gösteriyorsa, Frankfurt (AB) lokasyonundaki GPU sunucu sayfasında NVIDIA H200'lü yapılandırmaları inceleyebilirsiniz. Farklı bir kart modeli ihtiyacınızı sayfadaki formla iletip teklif isteyebilirsiniz.

Sonuç

GPU kiralamada doğru model, iş yükünüzün deseninden çıkar. Aralıklı ince ayar ve deneme için saatlik, 7/24 çıkarım için aylık, sürekli yüksek kullanım ve barındırma imkânı varsa satın alma öne çıkar. Kararı tahminle değil, ölçülmüş kullanım saati, doğru VRAM hesabı ve kendi tekliflerinizle yapılmış TL başabaş hesabıyla verin; kişisel veri varsa lokasyonu en baştan hesaba katın.