[Fix] DeepSeek-OCR-2 bench_serving: fix processor loading (#28483)
This commit is contained in:
@@ -71,21 +71,17 @@ def get_processor(
|
|||||||
pretrained_model_name_or_path is not None
|
pretrained_model_name_or_path is not None
|
||||||
and pretrained_model_name_or_path != ""
|
and pretrained_model_name_or_path != ""
|
||||||
)
|
)
|
||||||
if pretrained_model_name_or_path.endswith(
|
|
||||||
".json"
|
|
||||||
) or pretrained_model_name_or_path.endswith(".model"):
|
|
||||||
from sglang.srt.utils.hf_transformers_utils import get_processor
|
|
||||||
|
|
||||||
return get_processor(pretrained_model_name_or_path)
|
from sglang.srt.utils.hf_transformers_utils import (
|
||||||
|
get_processor as _srt_get_processor,
|
||||||
if pretrained_model_name_or_path is not None and not os.path.exists(
|
|
||||||
pretrained_model_name_or_path
|
|
||||||
):
|
|
||||||
pretrained_model_name_or_path = get_model(pretrained_model_name_or_path)
|
|
||||||
return AutoProcessor.from_pretrained(
|
|
||||||
pretrained_model_name_or_path, trust_remote_code=True
|
|
||||||
)
|
)
|
||||||
|
|
||||||
|
if not pretrained_model_name_or_path.endswith(
|
||||||
|
(".json", ".model")
|
||||||
|
) and not os.path.exists(pretrained_model_name_or_path):
|
||||||
|
pretrained_model_name_or_path = get_model(pretrained_model_name_or_path)
|
||||||
|
return _srt_get_processor(pretrained_model_name_or_path, trust_remote_code=True)
|
||||||
|
|
||||||
|
|
||||||
def download_and_cache_hf_file(
|
def download_and_cache_hf_file(
|
||||||
repo_id: str,
|
repo_id: str,
|
||||||
|
|||||||
Reference in New Issue
Block a user