Erwan Gallen & Eldar Kurtic：使用 vLLM 扩展大模型推理——多加速器部署与量化模型服务

13 · 发布于 2025-06-10 21:25:01