2025年12月8日
omniinfer vllm v0.9.0整体框架图和pangu7b模型图
摘要： 参考 https://shen-shanshan.github.io/articles/vllm-v1-整体流程从请求到算子执行/ https://gitee.com/omniai/omniinfer/tree/release_v0.6.0/ https://github.com/vllm-proj 阅读全文
posted @ 2025-12-08 22:16 linzm14 阅读(112) 评论(0) 推荐(0)