2024-11-8

nf4 的量化含义

Pasted image 20241118190637.webp
把一定区间的起始点和终止点根据正态分布的方式进行查表性质的量化,生成 16 个量化的整数

Pasted image 20241118190726.webp

因此可以得到一个真实的浮点数到整数的映射关系,对符合正态分布的数据做量化而使用的,因此计算方式需要其他的。下面是得到的映射关系。

Pasted image 20241118190907.webp