本文分类:news发布日期:2026/5/19 17:15:53
打赏

相关文章

vllm -- 源码学习1(寻找源码入口) (小白级教程)

vllm服务的启动命令,通过启动命令去寻找源代码的入口。source .venv/bin/activate vllm serve facebook/opt-125m --dtypebfloat16来看第一条命令source .venv/bin/activate(注: 一定要替换成自己的目录哟)。这条命令用于激活本地用uv创建的虚拟环境。因为vllm是通过…

手机版浏览

扫一扫体验

微信公众账号

微信扫一扫加关注

返回
顶部