3rd layer

才能という呪い、気質という祝福

Wed, 15 Jul 2026 00:00:00 +0000

才能は祝福か、それとも罠か。短い報酬サイクルに慣らされた才能が、いかにして長期的努力を妨害するかを分析し、根性と呼ばれるものの底にある二つのエンジン — 嗜好と欠乏 — を覗き込む。

人工生命と一般システム理論

Sun, 12 Jul 2026 00:00:00 +0000

学部生の頃、『一般システム理論』を究極の設計原理だと思って開いたら、出てきたのは生物学だった。半世紀前、ベルタランフィは「生命は物質ではなく組織だ」と言い、レニアはそれをコンピュータ上で証明する。

ゲノムから得られる個人情報

Sun, 05 Jul 2026 00:00:00 +0000

Y染色体と姓は、どちらも父系で受け継がれる。このたった一つの事実だけで「匿名」ゲノムから実名を復元できることを示した2013年のScience論文の話。

ReLUネットワークは巨大な区分アフィン関数である

Fri, 03 Jul 2026 00:00:00 +0000

ReLU活性化を使うネットワークは、実は入力空間を多面体の断片に分割し、各断片の上でちょうど一つのアフィン写像に崩れる。この視点をニューロン一つからインタラクティブデモまで積み上げて解説する。

重みを共有してモデルを小さくする — K-Meansベース量子化

Sat, 06 Jun 2026 00:00:00 +0000

ニューラルネットの重みをK-Meansで少数の代表値にまとめると、精度をほとんど落とさずにモデルを数倍小さくできる。クラスタが収束する様子とストレージが縮む様子を実際に動かせるインタラクティブなウィジェットと共に見ていく。(Deep Compression, Han et al. 2016)

整数演算だけでニューラルネットを推論する — Linear Quantization

Sat, 09 May 2026 00:00:00 +0000

重みを整数で保存するだけでなく、乗算・加算まで全部整数演算で推論する方法。アフィン写像 r = S(q − Z) で実数と整数をつなぎ、scaleとzero pointを直接変えながら量子化誤差を確認できるウィジェットと共に見ていく。(Jacob et al. 2018、TFLite整数量子化の基盤)

ディープラーニング時代のデータ型

Sun, 12 Apr 2026 00:00:00 +0000

INT8, FP16, BF16, FP8, FP4 — ディープラーニングで頻出するデータ型が実際に何を意味し、ビットがどう数値に解釈されるのかを一つずつ分解する。ビットを直接クリックすると計算式と値がリアルタイムで変わるウィジェット付き。

AWS DCVで韓国語IME（kime）を設定する

Sat, 21 Feb 2026 00:00:00 +0000

AWS DCVリモートデスクトップでkime韓国語IMEが一文字だけ入力されて英語に戻る問題を解決した記録です。

死んだ敵を再び撃つ：学界のゾンビ論争はなぜ繰り返されるのか

Sun, 01 Feb 2026 00:00:00 +0000

すでに終わった論争を蒸し返す理由、そしてそれを批判するこの記事自体のアイロニー

runpod-log — RunPodログビューアーCLI

Wed, 28 Jan 2026 00:00:00 +0000

RunPod GPU Podのログを取得し、リアルタイムで監視できるCLIツールを作りました。

父のテクノロジー年代記

Sun, 25 Jan 2026 00:00:00 +0000

1990年、五歳の息子にコンピュータを買い与えた父。

LLMにも思考スタイルがあるか？フロンティアモデル5種REI-40実験

Sat, 24 Jan 2026 00:00:00 +0000

REI-40二重処理性格検査をフロンティアLLM5種に実施した。中立回答者から合理的熱狂者まで、モデルごとに独自の「思考スタイル」プロファイルが明らかになった。

psyctl — LLM性格操縦ツール

Sat, 24 Jan 2026 00:00:00 +0000

Steering Vectorを利用してLLMの性格を制御するオープンソースツールを開発しています。

あなたの中の二人: なぜ分かっていても非合理的に行動してしまうのか？

Sat, 24 Jan 2026 00:00:00 +0000

ダイエット中にフライドチキンを我慢できない理由は？私たちの頭の中には「考える自分」と「感じる自分」の二人が同時に住んでいる。1999年のPacini & Epsteinの研究から、この二つのシステムを探る。

自己実現はフグの砂城と同じだ

Sat, 24 Jan 2026 00:00:00 +0000

マズローの欲求段階を進化心理学で再構成したKenrickのモデル、そしてデジタルサービスが私たちの進化的欲求をどう刺激しているかについて。

負けて戻ってきたアイデア：スキナー、チョムスキー、そして話す機械

Thu, 20 Nov 2025 00:00:00 +0000

ある男は、言語は報酬と習慣の問題だと主張して、有名に敗れた。そして半世紀後、私たちに話しかけてくる機械は、まさにその報酬で訓練されている。

LLMのAttention Mapを活用した文章Reranking実験

Fri, 12 Sep 2025 00:00:00 +0000

LLMがすでに知っていることを活用しよう。Attention Mapから文書関連性シグナルを抽出し、文章を再ランキングする実験と関連論文をまとめます。

Sparse AutoencoderでGPT-2の感情を操る

Sun, 16 Feb 2025 00:00:00 +0000

OpenAIのPretrained SAEでGPT-2内部の感情Featureを発見し、SAEをゼロから学習するまで。Feature Patchingで’good person’を’shit’に変える実験。

K-means, GMM, EM：クラスタリングの三重マトリョーシカ

Sun, 10 Dec 2023 00:00:00 +0000

K-meansは実はGMMの極端なケースであり、GMMはEMアルゴリズムの代表的な応用である。三つがどのように一つのフレームワークで繋がるのか、そして情報幾何学がこの関係をどう説明するのかを直感的に解説する。

情報幾何学：AIはどのように「最も効率的に」学ぶのか

Wed, 13 Jan 2021 00:00:00 +0000

ニュートンのF=maが物理世界を説明するように、情報幾何学はAIの学習過程を説明します。初心者向けの直感的な解説。

について

Mon, 01 Jan 0001 00:00:00 +0000

ソウルでソフトウェア開発者として働いています。