AI / LLM VPS
AI ve LLM İş Yükleri için VPS (CPU Optimize)
AI için VPS, token başına ödeme yapmak yerine AI iş yüklerini kendiniz barındırdığınız, kendi vCPU'su, RAM'i ve SSD depolamasına sahip bir KVM sunucusudur. X-ZoneServers VPS'leri yalnızca CPU içerir; bu yüzden küçük nicemlenmiş modellere, embedding'lere, RAG orkestrasyonuna, vektör veritabanlarına ve barındırılan modellere yönelik API ağ geçitlerine uygundur. GPU donanımımız yoktur; bu nedenle GPU eğitimi ve büyük modellerde gerçek zamanlı çıkarım kapsam dışıdır.
AI VPS'lerimiz, her sunucuda vCPU, RAM ve SSD depolamayla KVM sanallaştırması üzerinde çalışır; RAM'i cömert boyutlandırın, çünkü CPU'da LLM çıkarımını GPU değil, bellek bant genişliği ve RAM payı sınırlar. Q4 GGUF'a nicemlenmiş 7B-8B bir model, rahatça yüklenip sunulabilmek için genellikle yaklaşık 16 GB RAM gerektirir; 2B-3B modeller ve embedding modelleri 4-8 GB'ye sığar. Her planda sınırsız trafik, 1 Tbps'lik her zaman açık DDoS koruması (L3/L4), tam root erişimi ve AB ile ABD Doğu'daki yedi VPS lokasyonunda yaklaşık bir dakikada dağıtım bulunur.
~60s
Dağıtım süresi
Sınırsız
Ağ trafiği
7
VPS lokasyonu
1 Tbps
Her zaman açık DDoS (L3/L4)
01Neden biz
Neden işe yarıyor
İş yüküne göre seçilmiş altyapı — sıradan bir sunucu değil; KVM izolasyonu ve tam root.
Yalnızca CPU, dürüst kapsam
GPU donanımı yok; bu yüzden sizi CPU'da iyi çalışan işlere yönlendiriyoruz: küçük nicemlenmiş modeller, embedding'ler, sınıflandırma ve RAG — GPU eğitimi veya büyük modellerde gerçek zamanlı çıkarım değil.
RAM payı ve SSD
CPU'da LLM çıkarımında asıl kısıt RAM payıdır; bu yüzden planı modele göre boyutlandırın. Her KVM VPS, model dosyaları ve indeksler için SSD depolamayla kendi çekirdeğini çalıştırır.
Ollama ve llama.cpp'yi kendiniz barındırın
Ubuntu, Debian, AlmaLinux veya Rocky Linux üzerindeki tam root erişimi, OpenAI uyumlu yerel bir API ile 3B-8B GGUF modelleri sunan Ollama veya llama.cpp'yi çalıştırmanızı sağlar.
RAG ve vektör DB'ye hazır
Qdrant, Weaviate veya pgvector'lü Postgres'i özel bir RAG arka ucu olarak, Redis ve orkestrasyon katmanınızla birlikte aynı SSD destekli sunucuda barındırın.
AI ağ geçidi ve otomasyon
Barındırılan modellerin önünde bir AI API ağ geçidi veya yönlendiricisi çalıştırın; ajan hatlarını istikrarlı bir HTTP uç noktasının arkasında n8n, Flowise, LangChain veya LlamaIndex ile otomatikleştirin.
Saatlik faturalandırma, üst sınırlı
EUR 0.0056/saatten başlayan ücretlerle ödeyin ve sunucuları yalnızca bir iş çalışırken açın. Maliyet aylık fiyatla sınırlıdır; böylece 7/24 çalışan bir VPS asla listelenen planı aşmaz.
02Kullanım alanları
Şunlar için ideal
Bu sunucular; veri sahipliği, istikrarlı bir HTTP API'si ve istek başına hız sınırı olmaması isteyen AI geliştiricileri için uygundur. Küçük açık modeller için Ollama veya llama.cpp çalıştırın, RAG arka ucu olarak Qdrant, Weaviate ya da pgvector'lü Postgres barındırın ve hatları n8n, Flowise, LangChain veya LlamaIndex ile orkestre edin. Birçok ekip, OpenAI veya Anthropic'in barındırılan modellerinin önünde bir VPS'i AI API ağ geçidi ya da yönlendiricisi olarak kullanır. Hız konusunda gerçekçi olun: CPU üzerinde saniyede tek haneli ila düşük çift haneli token bekleyin; toplu ve eşzamansız işler için idealdir. GPU eğitimi ve ince ayar, yalnızca CPU'lu filomuzda kapsam dışıdır.
- Küçük nicemlenmiş 3B-8B modeller için Ollama veya llama.cpp'yi kendi barındırmak
- Qdrant, Weaviate veya pgvector ile RAG arka uçları
- Gömme ve belge sınıflandırma toplu işleri
- Barındırılan modellere AI API ağ geçitleri ve yönlendiricileri
- n8n ve Flowise AI otomasyon hatları
- Özel bir API arkasında sohbet botu ve ajan arka uçları
03Sorular
Sıkça sorulan sorular
GPU olmadan bir VPS'te AI veya LLM çalıştırılabilir mi?
Evet, doğru iş yükleri için. Küçük ve nicemlenmiş açık modeller CPU'da çalışır: 2B-3B modeller 4-8 GB RAM'de, 7B-8B Q4 GGUF modeller ise yaklaşık 16 GB'de. Embedding, sınıflandırma, özetleme ve RAG orkestrasyonu iyi çalışır. GPU eğitimi ve büyük modellerde gerçek zamanlı çıkarım CPU'da çalışmaz ve burada kapsam dışıdır.
Bir VPS'te LLM barındırmak için ne kadar RAM gerekir?
CPU çıkarımında belirleyici kısıt RAM'dir. Kabaca nicemlenmiş model boyutu artı işletim sistemi ve sunum süreci için pay öngörün: 2B-3B modeller için yaklaşık 4-8 GB, Q4 GGUF'ta 7B-8B bir model için yaklaşık 16 GB. Vektör veritabanları ve embedding indeksleri, modelin üzerine ek RAM gerektirir.
X-ZoneServers VPS'te Ollama çalıştırabilir miyim?
Evet. Bir Linux VPS'te tam root erişimiyle Ollama veya llama.cpp kurabilir ve GGUF modellerini 11434 portundaki yerel, OpenAI uyumlu bir API üzerinden sunabilirsiniz. RAM'inize göre boyutlandırılmış küçük nicemlenmiş modellerle sınırlı kalın. Saniyede tek haneli ila düşük çift haneli token bekleyin; bu, toplu ve eşzamansız görevlere uygundur.
CPU ile LLM çıkarımı GPU'ya kıyasla ne kadar hızlı?
Daha yavaştır ve dürüst ödünleşim budur. CPU'da genellikle saniyede birkaç ila yaklaşık bir düzine token görürsünüz; bu, GPU aktarım hızının çok altındadır. Bu; özetleme, bilgi çıkarma, sınıflandırma, embedding ve gece boyunca çalışan toplu işler için yeterlidir, ancak yüksek hacimli etkileşimli sohbet için yeterli değildir. Gerçek zamanlı sohbet için, barındırılan bir modeli VPS'inizde çalışan bir AI ağ geçidinin arkasına yerleştirin.
Bu VPS'lerde RAG arka ucu veya vektör veritabanı barındırabilir miyim?
Evet. SSD depolama ve tam root, bu sunucuları Qdrant, Weaviate veya pgvector'lü Postgres gibi kendi barındırdığınız vektör veritabanları için, Redis ve n8n, LangChain veya LlamaIndex gibi bir orkestrasyon katmanıyla birlikte iyi bir seçenek haline getirir. 4 vCPU / 16 GB'lik bir sunucu, erken aşamadaki RAG dağıtımlarının çoğunu karşılar.
Eğitim veya ince ayar için GPU sunucuları sunuyor musunuz?
Hayır. X-ZoneServers'ın GPU donanımı yoktur; bu nedenle GPU eğitimi, büyük ölçekli ince ayar ve büyük modellerde gerçek zamanlı çıkarım kapsam dışıdır. VPS'lerimiz en çok CPU'ya uygun AI işleri için uygundur: küçük modeller, embedding, RAG, otomasyon ve barındırılan modellere ağ geçidi görevi. Daha ağır işlem gücü için dedicated sunucularımıza göz atın.
04İlgili
İlgili ürünler ve kullanım alanları
Başlayın
AI VPS'inizi yaklaşık bir dakikada oluşturun
Ollama, RAG ve AI otomasyonu için CPU'ya optimize edilmiş bir KVM VPS açın. Aylık fiyatla sınırlı saatlik faturalandırma; SSD depolama ve DDoS koruması dahil.