-
请问dipoorlet量化的过程能不能自定义量化模型的某一部分,避免量化过程中的类型冲突。
目前遇到问题是模型在encoder过程中有张量索引的操作,类型为int64 这部分在量化时会报错,因为是long型数据,目前没有找到解决方案 -
svd的降维和pca的降维物理意义上的区别?
——来自《三维点云处理- 第一期》·88浏览
svd是直接对整个矩阵分解取特征值大的特征向量,pca是对协方差矩阵求特征值和特征向量,这两种结果会有什么不一样呢?
请问dipoorlet量化的过程能不能自定义量化模型的某一部分,避免量化过程中的类型冲突。
目前遇到问题是模型在encoder过程中有张量索引的操作,类型为int64 这部分在量化时会报错,因为是long型数据,目前没有找到解决方案
——来自《三维点云处理- 第一期》·88浏览
svd是直接对整个矩阵分解取特征值大的特征向量,pca是对协方差矩阵求特征值和特征向量,这两种结果会有什么不一样呢?