ReLUネットワークは巨大な区分アフィン関数である

ReLU活性化を使うネットワークは、実は入力空間を多面体の断片に分割し、各断片の上でちょうど一つのアフィン写像に崩れる。この視点をニューロン一つからインタラクティブデモまで積み上げて解説する。

2026年6月28日 · rick

LLMのAttention Mapを活用した文章Reranking実験

LLMがすでに知っていることを活用しよう。Attention Mapから文書関連性シグナルを抽出し、文章を再ランキングする実験と関連論文をまとめます。

2025年9月7日 · rick