97 downloads
1 likes
on ModelScope
updated
Model card
Hy4-preview-w8a8
1. 基本信息
| 项目 |
信息 |
| 原始模型名 |
Hy4-preview |
| 原始模型链接 |
Tencent-Hunyuan/Hy4-preview |
| msmodelslim 仓库 |
https://gitcode.com/Rigel_Chen/msmodelslim/tree/hy4-preview |
| msmodelslim commit id |
ddc5cc1ad427ed84dfa1120471c648d237622ae5 |
2 量化脚本：
msmodelslim quant --model_type Hy4 --config_path lab_practice/hy4/hy4-preview-w8a8.yaml --model_path Hy4-preview --save_path Hy4-preview-w8a8 --device npu:0 --trust_remote_code True
3 精度测试结果
| 模型名 |
量化格式 |
数据集 |
测试精度 % |
官方精度 % |
| Hy4-preview-w8a8 |
w8a8 |
GPQA |
91.92 |
92.3 |