此模型仅用于vLLM Ascend CI测试、请勿使用该模型做验证或集成到产品内。
详细vLLM Ascend 量化指导请参考 https://vllm-ascend.readthedocs.io/en/latest/user_guide/quantization.html
DeepSeek-R1-0528-W8A8
29.9K downloads
6 likes
on ModelScope
updated
此模型仅用于vLLM Ascend CI测试、请勿使用该模型做验证或集成到产品内。
详细vLLM Ascend 量化指导请参考 https://vllm-ascend.readthedocs.io/en/latest/user_guide/quantization.html