算能SG2380混合精度进阶

MCU专家

算能SG2380混合精度进阶
🧮 INT4量化实战

[backcolor=var(--ds-md-code-block-banner-wrap-background-color)][color=var(--dsr-text-2)]python
[color=var(--dsr-icon-fg-1)][color=var(--button-text-color)][backcolor=var(--ds-button-color)][color=var(--button-icon-color)]

复制
[color=var(--button-text-color)][backcolor=var(--ds-button-color)][color=var(--button-icon-color)]

下载





from sophgo import quantmodel = quant.CalibratedModel('resnet18.onnx')model.quantize(    precision='int4',     calibration_data=dataset,    dynamic_ranges=True # 启用动态范围)model.export('resnet18_int4.sophgo')

📊 精度保持率

模型

INT32精度

INT4精度

损失率

ResNet1869.8%68.1%2.4%
MobileNetV375.2%74.5%0.9%