▲
darjeeling 3달전 | parent | ★ favorite | on: vLLM 제작자들이 설립한 'Inferact', 오픈소스 추론 엔진 상용화 위해 1억 5천만 달러 시드 투자 유치(techcrunch.com)

vLLM이 1억 5천만 달러를 모금한 것은 우리가 "처리량 시대"에서 "지연 시간(콜드 스타트)" 시대로 넘어왔음을 확인시켜 줍니다.

https://reddit.com/r/LocalLLaMA/…