#码力全开·技术π对#为什么Bazel的增量构建不需要手动清理缓存？​

import tensorflow as tf

# 加载原始浮点模型
model = tf.keras.models.load_model('unet_segmentation.h5')

# 准备代表性数据集（100-200张典型图像即可）
def representative_dataset():
    for image in validation_images:  # 假设已加载验证集
        yield [tf.expand_dims(image, axis=0).astype(np.float32)]

# 配置INT4量化转换器
converter = tf.lite.TFLiteConverter.from_keras_model(model)
converter.optimizations = [tf.lite.Optimize.DEFAULT]
converter.representative_dataset = representative_dataset
converter.target_spec.supported_ops = [tf.lite.OpsSet.TFLITE_BUILTINS_INT8]
converter.target_spec.supported_types = [tf.int8]
converter.inference_input_type = tf.uint8  # 输入量化
converter.inference_output_type = tf.uint8  # 输出量化
converter.experimental_new_quantizer = True  # 启用新量化器

# 启用INT4权重量化（实验性功能）
converter._experimental_use_buffer_offset = True
converter._experimental_weight_quantization = True
converter._experimental_weight_only_quantization = True
converter._experimental_weight_bits = 4  # 关键INT4设置

# 转换模型
quantized_model = converter.convert()

# 保存量化模型
with open('unet_int4_quant.tflite', 'wb') as f:
    f.write(quantized_model)

// 配置TFLite Interpreter使用INT4加速
Interpreter.Options options = new Interpreter.Options();
options.setUseXNNPACK(true);  // 启用XNNPACK加速
options.setAllowFp16PrecisionForFp32(false);
options.setEnableInt4WeightsStorage(true);  // 启用INT4权重存储

// 加载量化模型
Interpreter interpreter = new Interpreter(loadModelFile(context, "unet_int4_quant.tflite"), options);

// 准备输入输出
Bitmap inputBitmap = ...;  // 获取输入图像
TensorImage inputTensor = new TensorImage(DataType.UINT8);
inputTensor.load(inputBitmap);

// 输出缓冲区
TensorBuffer outputTensor = TensorBuffer.createFixedSize(
    new int[]{1, 256, 256, 1}, DataType.UINT8);  // 假设输出是256x256分割图

// 执行推理
interpreter.run(inputTensor.getBuffer(), outputTensor.getBuffer());

let options = Interpreter.Options()
options.isXNNPackEnabled = true
options.enableInt4WeightsStorage = true  // 启用INT4支持

let interpreter = try Interpreter(
    modelPath: modelPath,
    options: options)

// 准备输入
let inputTensor = try interpreter.input(at: 0)
// 图像预处理代码...

// 执行推理
try interpreter.invoke()

// 获取输出
let outputTensor = try interpreter.output(at: 0)
let segmentationMap = outputTensor.data  // 获取分割结果

// Android检查XNNPACK和INT4支持
boolean isXNNPackSupported = Interpreter.Options().isXNNPackEnabled();
boolean isInt4Supported = Build.VERSION.SDK_INT >= Build.VERSION_CODES.S;

# 转换时设置缓冲区大小
converter._experimental_buffer_size = 1024 * 1024  # 1MB缓冲区

# 保持敏感层为INT8
converter._experimental_hybrid_quantization = True
converter._experimental_disable_per_channel = False

# 指定某些层保持INT8
converter._experimental_lower_to_single_layer = [
    'conv2d_12', 'up_sampling2d_3'  # 指定层名称
]

# 在模型训练时加入量化模拟
model = tfmot.quantization.keras.quantize_model(model)
model.compile(...)
model.fit(...)  # 使用常规训练流程

# 转换时添加自定义算子
converter.target_spec.supported_ops += [
    tf.lite.OpsSet.SELECT_TF_OPS  # 启用TF算子
]

// 添加版本检查
if (Build.VERSION.SDK_INT < Build.VERSION_CODES.S) {
    // 回退到INT8实现
    options.setEnableInt4WeightsStorage(false);
}

converter._experimental_sparse_weights = True  # 启用稀疏量化

# 自定义量化范围
converter._experimental_custom_quantization_ranges = {
    'conv2d_1': (-3.0, 3.0)  # 指定特定层范围
}