DaVinci架构量化效率问题

yhl

例如SS928 NNN核，经常出现量化后，推理效率不高问题。
1、AI Core 采用了达芬奇架构，它包括了三种基础计算资源：矩阵计算单元（Cube Unit）、向量计算单元（Vector Unit）和标量计算单元（Scalar Unit）。
2、量化只对Cube Unit起作用。
3、由于量化算法的限制，conv的通道数不能太小，例如12/8/4....。
4、采用auto_tune_mode在线调优。
5、还是没有性能提升，profiling查看各个timeline，具体分析。