归档: 2023 | ght

ght

Never really desperate, only the lost of the soul.

subtitle

2023

10

16

模型压缩总结

模型压缩总结

总结近期的文章

2023-10-16 文献阅读

模型压缩

09

PruneOnceforAll

PruneOnceforAll

给预训练模型剪枝,之后针对特定任务进行微调

2023-10-09 文献阅读

剪枝蒸馏

08

oBert

二阶Hassian矩阵近似权重

2023-10-08 文献阅读

剪枝二阶近似

08

矩阵导数

矩阵导数介绍

2023-10-08 矩阵

线代

09

26

LoraPrune

低秩近似权重,并计算梯度

2023-09-26 文献阅读

剪枝低秩近似

20

SVD

奇异值分解

2023-09-20 线性代数

线性代数

19

LoSparse

低秩近似结合剪枝

2023-09-19 文献阅读

剪枝低秩近似