父のテクノロジー年代記
1990年、五歳の息子にコンピュータを買い与えた父。
LLMにも思考スタイルがあるか？フロンティアモデル5種REI-40実験
REI-40二重処理性格検査をフロンティアLLM5種に実施した。中立回答者から合理的熱狂者まで、モデルごとに独自の「思考スタイル」プロファイルが明らかになった。
psyctl — LLM性格操縦ツール
Steering Vectorを利用してLLMの性格を制御するオープンソースツールを開発しています。
あなたの中の二人: なぜ分かっていても非合理的に行動してしまうのか？
ダイエット中にフライドチキンを我慢できない理由は？私たちの頭の中には「考える自分」と「感じる自分」の二人が同時に住んでいる。1999年のPacini & Epsteinの研究から、この二つのシステムを探る。
自己実現はフグの砂城と同じだ
マズローの欲求段階を進化心理学で再構成したKenrickのモデル、そしてデジタルサービスが私たちの進化的欲求をどう刺激しているかについて。
負けて戻ってきたアイデア：スキナー、チョムスキー、そして話す機械
ある男は、言語は報酬と習慣の問題だと主張して、有名に敗れた。そして半世紀後、私たちに話しかけてくる機械は、まさにその報酬で訓練されている。
LLMのAttention Mapを活用した文章Reranking実験
LLMがすでに知っていることを活用しよう。Attention Mapから文書関連性シグナルを抽出し、文章を再ランキングする実験と関連論文をまとめます。
Sparse AutoencoderでGPT-2の感情を操る
OpenAIのPretrained SAEでGPT-2内部の感情Featureを発見し、SAEをゼロから学習するまで。Feature Patchingで’good person’を’shit’に変える実験。
K-means, GMM, EM：クラスタリングの三重マトリョーシカ
K-meansは実はGMMの極端なケースであり、GMMはEMアルゴリズムの代表的な応用である。三つがどのように一つのフレームワークで繋がるのか、そして情報幾何学がこの関係をどう説明するのかを直感的に解説する。
情報幾何学：AIはどのように「最も効率的に」学ぶのか
ニュートンのF=maが物理世界を説明するように、情報幾何学はAIの学習過程を説明します。初心者向けの直感的な解説。