本文分类:news发布日期:2026/4/1 10:34:23
打赏

相关文章

engine/sequence

engine/sequence.py 单个请求进来以后被封存成Sequence对象,这个函数是定义相关Sequence对象的 from copy import copy from enum import Enum, auto from itertools import countfrom my-nano-vllm.sampling_params import SamplingParamsclass SequenceStatus(Enu…

手机版浏览

扫一扫体验

微信公众账号

微信扫一扫加关注

返回
顶部