ReLUネットワークは巨大な区分アフィン関数である
ReLU活性化を使うネットワークは、実は入力空間を多面体の断片に分割し、各断片の上でちょうど一つのアフィン写像に崩れる。この視点をニューロン一つからインタラクティブデモまで積み上げて解説する。
ReLU活性化を使うネットワークは、実は入力空間を多面体の断片に分割し、各断片の上でちょうど一つのアフィン写像に崩れる。この視点をニューロン一つからインタラクティブデモまで積み上げて解説する。
LLMがすでに知っていることを活用しよう。Attention Mapから文書関連性シグナルを抽出し、文章を再ランキングする実験と関連論文をまとめます。