Yapay zeka sunucusu nedir?+
Kendi yapay zeka modelinizi ya da yapay zeka kullanan uygulamanızı çalıştırdığınız, kaynakları size ayrılmış sunucudur. Küçük modeller ve otomasyon için bulut sunucu, büyük modeller ve çok kullanıcı için GPU sunucu kullanılır.
Kendi yapay zeka modelimi çalıştırmak için GPU şart mı?+
Değil. Yaklaşık 14 milyar parametreye kadar modeller 4 bit nicelemeyle yüksek RAM'li bulut sunucuda işlemciyle çalışır; yanıtlar GPU'ya göre yavaştır. Çok kullanıcı, büyük model, ince ayar ve görsel üretim için GPU sunucu gerekir.
Hangi modeli çalıştırabilirim?+
Açık ağırlıklı (indirilebilir) dil, görüntü, ses ve gömme modellerinin çoğunu çalıştırabilirsiniz. Belirleyici olan model boyutu ve bellektir; LLM VRAM hesaplayıcısıyla hangi sunucunun yettiğini görebilirsiniz. Ticari kullanımda modelin lisans koşulları size aittir.
70 milyar parametreli model için ne kadar bellek gerekir?+
Ağırlıklar 16 bitte yaklaşık 140 GB, 8 bitte 70 GB, 4 bitte 40 GB yer kaplar; buna bağlam ve kullanıcı sayısına göre KV önbelleği eklenir. 8 bit, 8.192 bağlam ve 10 eşzamanlı kullanıcıyla tahmin 117 GB, Tek H200 NVL yeter.
Verilerim nerede tutulur?+
Bulut sunucuda lokasyonu siz seçersiniz: İstanbul (Türkiye) ya da Strasbourg (Fransa). Türkiye lokasyonunda veriler İstanbul'daki veri merkezimizde kalır. GPU sunucular Frankfurt, Almanya, Strasbourg, Fransa lokasyonundadır; bu Türkiye dışında, AB içinde bir lokasyondur.
KVKK açısından nelere dikkat etmeliyim?+
Kişisel veriyi Türkiye lokasyonlu sunucuda tutmak yurt dışına aktarım sorusunu ortadan kaldırır. GPU sunucuya kişisel veri gönderecekseniz yurt dışına aktarım kurallarını değerlendirin; çoğu projede belgeleri Türkiye'de tutup modele yalnız gereken metni göndermek ya da veriyi anonimleştirmek yeterli bir yoldur.
Yapay zeka API'si kullanmak mı, kendi sunucum mu daha ucuz?+
API'de ödeme kullandıkça artar: aylık token sayısı × token başı ücret. Kendi sunucunuzda ücret aylık sabittir, kullanım arttıkça birim maliyet düşer. Kullanım az ve düzensizse API, sürekli ve yüksekse ya da veri dışarı çıkmamalıysa kendi sunucunuz daha mantıklıdır.
Kurulumu siz yapıyor musunuz?+
Sunucu ve işletim sistemi kurulumu bizden. Model çalıştırıcı, sohbet arayüzü ve belge araması kurulumunda yardım için ekibimize yazın; kapsamı ve süresi teklifle netleşir. Kurulu otomasyon uygulamasında kurulum, güncelleme ve yedek zaten bizdedir.
Saatlik GPU kiralama var mı?+
Evet. Saatlik GPU ile RTX 4090'dan H100'e kadar GPU'yu panelden dakikalar içinde başlatır, başlayan dakika üzerinden ödersiniz. Fiyatlar saatlik ₺16,33 + KDV'den başlar. Hesabınıza en az ₺500,00 Türk Lirası bakiye yüklersiniz. Kısa denemeler ve dönemsel işler için saatlik, sürekli çalışan işler için aylık GPU sunucu daha uygundur.
Fiyatlar neyi kapsıyor?+
Fiyatlar KDV hariç gösterilir ve döviz bazlıdır; Türk Lirası tutar fatura günündeki kurla hesaplanır. Bulut sunucuda seçtiğiniz kaynaklar, GPU sunucuda seçtiğiniz donanım ve seçenekler ücretlendirilir.