vllm

Alle Beiträge

DeepSeek-R1 Kostenvergleich Self-Hosting vs API

DeepSeek-R1 & Qwen2.5 Self-Hosting vs. API Kosten- & Performance-Guide 2026

Veröffentlicht 30.07.2026

Vergleich von TCO, TPS und TTFT zwischen vLLM/SGLang Self-Hosting von DeepSeek-R1 / Qwen2.5 und Cloud-APIs für Unternehmens-KI.

deepseek-r1 vllm llm-infrastructure cost-optimization ai-hosting

Weiterlesen →

Aufbau eines On-Premise KI-Inferenz-Clusters mit Mac Studio und Ollama

Leitfaden zum Aufbau eines On-Premise KI-Inferenz-Clusters mit M3/M4 Mac Studio und Ollama/vLLM

Veröffentlicht 30.07.2026

Praktische Anleitung zum Aufbau eines On-Premise LLM-Inferenz-Clusters mit Apple Silicon Mac Studio (M3/M4 Max/Ultra), Ollama/vLLM-MLX, Lastverteilung und Quantisierung.

llm ollama mac-studio vllm ai-infrastructure apple-silicon

Weiterlesen →