DeepSeek-R1 및 Qwen2.5 Self-hosting vs API 비용·성능 비교: 2026년 기업형 AI 인프라 선택 가이드
발행일 2026. 7. 30.
vLLM 및 SGLang 기반 DeepSeek-R1, Qwen2.5 Self-hosting과 클라우드 API(DeepSeek, AWS Bedrock, Together AI)의 월간 TCO, TPS, TTFT 실측 및 기업 인프라 의사결정 가이드.
더 읽기 →태그
vllm
전체 글
M3/M4 Mac Studio 및 Ollama/vLLM 기반 온프레미스 AI 추론 클러스터 구축 가이드
발행일 2026. 7. 30.
Apple Silicon Mac Studio(M3/M4 Max/Ultra) 기반 온프레미스 LLM 추론 클러스터 구축, Ollama/vLLM-MLX 설정, 부하 분산 및 텐서 병렬화 실전 가이드.
더 읽기 →