整数演算だけでニューラルネットを推論する — Linear Quantization
重みを整数で保存するだけでなく、乗算・加算まで全部整数演算で推論する方法。アフィン写像 r = S(q − Z) で実数と整数をつなぎ、scaleとzero pointを直接変えながら量子化誤差を確認できるウィジェットと共に見ていく。(Jacob et al. 2018、TFLite整数量子化の基盤)
重みを整数で保存するだけでなく、乗算・加算まで全部整数演算で推論する方法。アフィン写像 r = S(q − Z) で実数と整数をつなぎ、scaleとzero pointを直接変えながら量子化誤差を確認できるウィジェットと共に見ていく。(Jacob et al. 2018、TFLite整数量子化の基盤)