Featured image for LLM 스터디 6주차 - Scaling LLM Inference with vLLM and AWS Trainium Workshop

LLM 스터디 6주차 - Scaling LLM Inference with vLLM and AWS Trainium Workshop

ken-0913 2026-09-11 작성 분류: LLM

Featured image for 컨테이너에 GPU를 붙이는 두 가지 방법 - nvidia-container-runtime과 CDI

컨테이너에 GPU를 붙이는 두 가지 방법 - nvidia-container-runtime과 CDI

ken-0913 2026-09-11 작성 분류: Kubernetes

Featured image for LLM 스터디 5주차 - Terraform으로 AWS EKS에 vLLM Production Stack 배포하기 — Qwen3-8B와 LMCache CPU 오프로딩까지

LLM 스터디 5주차 - Terraform으로 AWS EKS에 vLLM Production Stack 배포하기 — Qwen3-8B와 LMCache CPU 오프로딩까지

ken-0913 2026-09-05 작성 분류: LLM

Featured image for LLM 스터디 5주차 - LLM 서빙 최적화 실전 — Qwen3-14B 벤치마크로 처리량 2.7배 끌어올리기

LLM 스터디 5주차 - LLM 서빙 최적화 실전 — Qwen3-14B 벤치마크로 처리량 2.7배 끌어올리기

ken-0913 2026-08-28 작성 분류: LLM

Featured image for LLM 스터디 4주차 - TP/DP 멀티 GPU 서빙 실습 매뉴얼 — Runpod A100 4-GPU

LLM 스터디 4주차 - TP/DP 멀티 GPU 서빙 실습 매뉴얼 — Runpod A100 4-GPU

ken-0913 2026-08-24 작성 분류: LLM

Featured image for LLM 스터디 3주차 - 대형 모델 서빙 심화 — 추측 디코딩부터 PD 분리까지

LLM 스터디 3주차 - 대형 모델 서빙 심화 — 추측 디코딩부터 PD 분리까지

ken-0913 2026-08-23 작성 분류: LLM

1
2
3
4
5
6
9