vllm-project/vllm

PagedAttention 기반 고속 LLM 추론·서빙 라이브러리로 처리량 최적화와 유연한 분산 배포를 지원

가장 최근에 차려진 착한식당은 누구나 무료로 읽을 수 있어요. 이 상은 그보다 앞선 배치라, 깃밥이 확인한 검증 근거와 심층 해설은 깃밥 PRO 서재에 보관됩니다.