Yapay zeka modellerini kendi sunucunuzda çalıştırma, GPU seçimi ve kurulum rehberleri.
11 yazı
Mistral Large 4 önizlemede, ağırlıkları ise ay sonunda açılacak. Duyuruda neler var, modeli bugün nasıl deneyebilirsiniz ve 1 trilyon parametreli bir modeli kendi GPU sunucunuzda çalıştırmak için şimdiden neyi planlamanız gerekir, kısaca anlatıyoruz.
Ollama 0.35 ve 0.35.1 sürümleri metin yerine karar döndüren modelleri /v1/systemone uç noktasıyla getirdi. Neyin değiştiğini, destek talebi sınıflandırmada ne işe yaradığını ve Linux ya da GPU sunucudaki kurulumu nasıl güvenle güncelleyeceğinizi özetledik.
MCP Python SDK v2.3.0 ve 2026-07-28 spesifikasyonu MCP sunucularını durumsuz hale getiriyor. Neyin değiştiğini, v1.x kullanan ekiplerin geçişi nasıl planlayacağını ve sunucuyu kendi altyapınızda birden çok örnekle nasıl çalıştıracağınızı özetliyoruz.
llama.cpp v0.6.0 yeni bir batch API'si, GLM-5.3-Flash desteği, CUDA iyileştirmeleri ve yeni llama-server uç noktalarıyla geldi. Son sürümlerdeki geriye uyumsuz değişiklikleri ve GPU sunucuda güvenli yükseltme adımlarını özetledik.
Codex CLI 0.159 ve 0.160 sürümleri varsayılan modeli GPT-6.1 Sol yaptı, projesiz oturumları, Guardian inceleme iyileştirmelerini ve yeni sandbox korumalarını getirdi. Ekipler için ne anlama geldiğini ve ajanı Linux sunucuda nasıl güvenli deneyeceğinizi anlatıyoruz.
Claude Code 2.1.287 ile gelen modlar, kodlama ajanının davranışını TypeScript fonksiyonlarıyla değiştirmeye imkân veriyor. Modların ne yaptığını, neden sandbox dışında çalışmalarının önemli olduğunu ve ekiplerin bunları nasıl güvenli biçimde deneyebileceğini anlatıyoruz.
Gemini CLI'nin v0.61.0 ve v0.62.0 sürümleri prompt injection korumasını, sandbox dosya sistemi sınırlarını ve yeni Flash model desteğini getiriyor. Ne değişti, ekipler için ne anlama geliyor ve ajanı Linux sunucuda Docker, Podman ya da gVisor ile nasıl izole edersiniz, kısaca anlattık.
DeepSeek-V4.1-Flash MIT lisansıyla açık ağırlıklı olarak yayında. API'de deepseek-flash adına geçişte nelere dikkat etmeniz gerektiğini, modeli vLLM ya da SGLang ile kendi çok GPU'lu sunucunuzda nasıl çalıştırabileceğinizi ve KVKK açısından ne kazandırdığını anlatıyoruz.
Cloudflare, metin yerine yapılandırılmış karar döndüren Clef ve Clef-flash modellerini Apache 2.0 lisansıyla açtı. Bu modellerin LLM'den farkını, ajan iş akışlarında nerede işe yaradığını ve KVKK açısından kendi GPU sunucunuzda nasıl planlanabileceğini anlatıyoruz.
vLLM 0.31.0 ile gelen vllm preload, model ağırlıklarını motor yeniden başlasa da GPU belleğinde tutuyor. 0.30 ve 0.31'deki kırıcı değişiklikleri, KV önbellek taşırmayı ve kendi GPU sunucunuzda güvenli yükseltme adımlarını özetledik.
Ollama'nın 11434 portu internete açık mı, nasıl anlaşılır? Ollama'yı yalnız yerelde dinletmeyi, Docker'ın UFW'yi atlatma sorununu kapatmayı, Nginx ile TLS ve Bearer token koruması kurmayı ve Open WebUI ile OpenAI uyumlu istemcileri güvenli uç noktaya bağlamayı adım adım anlatıyoruz.
Kurulum, taşıma, güvenlik ve yedek ekibimizde. Sorunuzu Türkçe sorun, cevabı mühendisten alın.