3rd layer

재능이라는 저주, 기질이라는 축복

Wed, 15 Jul 2026 00:00:00 +0000

재능은 축복인가, 함정인가. 짧은 보상 주기에 길들여진 재능이 어떻게 장기적 노력을 방해하는지 분석하고, 근성이라 불리는 것의 밑바닥에 놓인 두 개의 엔진 — 취향과 결핍 — 을 들여다본다.

인공생명과 일반시스템이론

Sun, 12 Jul 2026 00:00:00 +0000

학부생 때 ‘일반시스템이론’을 궁극의 설계 원리인 줄 알고 폈다가 생물학을 만났다. 반세기 전 베르탈란피는 ‘생명은 물질이 아니라 조직’이라 했고, 레니아는 그것을 컴퓨터로 증명한다.

유전체에서 얻을 수 있는 개인정보

Sun, 05 Jul 2026 00:00:00 +0000

Y 염색체와 성씨는 둘 다 부계로 유전된다. 이 단순한 사실 하나로 ‘익명’ 유전체에서 실명을 되찾을 수 있음을 보인 2013년 Science 논문 이야기.

ReLU 네트워크는 거대한 조각별 어파인 함수다

Fri, 03 Jul 2026 00:00:00 +0000

ReLU 활성함수를 쓰는 신경망은 사실 입력공간을 다면체 조각으로 나누고, 각 조각 위에서 정확히 하나의 어파인 사상으로 붕괴한다. 이 관점을 뉴런 하나부터 인터랙티브 데모까지 층층이 쌓아 설명한다.

가중치를 공유해서 모델 줄이기 — K-Means 기반 양자화

Sat, 06 Jun 2026 00:00:00 +0000

신경망 가중치를 K-Means로 몇 개의 대표값으로 묶으면, 정확도를 거의 잃지 않고 모델을 몇 배로 줄일 수 있다. 클러스터가 수렴하는 과정과 저장 용량이 줄어드는 걸 직접 돌려보는 인터랙티브 위젯과 함께 살펴본다. (Deep Compression, Han et al. 2016)

정수 연산만으로 신경망 추론하기 — Linear Quantization

Sat, 09 May 2026 00:00:00 +0000

가중치를 정수로 저장하는 것을 넘어, 곱셈·덧셈까지 전부 정수 연산으로 추론하는 방법. 아핀 매핑 r = S(q − Z)로 실수와 정수를 잇고, scale과 zero point를 직접 바꿔가며 양자화 오차를 확인하는 위젯과 함께 살펴본다. (Jacob et al. 2018, TFLite 정수 양자화의 기반)

딥러닝 시대의 데이터타입

Sun, 12 Apr 2026 00:00:00 +0000

INT8, FP16, BF16, FP8, FP4 — 딥러닝에서 자주 등장하는 데이터타입들이 실제로 무슨 뜻인지, 비트가 어떻게 숫자로 해석되는지 하나씩 뜯어본다. 비트를 직접 클릭하면 계산식과 값이 실시간으로 바뀌는 위젯과 함께.

AWS DCV에서 한글 입력기(kime) 설정하기

Sat, 21 Feb 2026 00:00:00 +0000

AWS DCV 원격 데스크톱에서 kime 한글 입력기가 한 글자만 입력되고 영어로 돌아가는 문제를 해결한 기록입니다.

죽은 적을 다시 쏘다: 학계의 좀비 논쟁은 왜 반복되는가

Sun, 01 Feb 2026 00:00:00 +0000

이미 끝난 논쟁을 다시 꺼내는 이유, 그리고 그것을 비판하는 이 글 자체의 아이러니

runpod-log — RunPod 로그 뷰어 CLI

Wed, 28 Jan 2026 00:00:00 +0000

RunPod GPU Pod의 로그를 조회하고 실시간으로 모니터링할 수 있는 CLI 도구를 만들었습니다.

아버지의 기술 연대기

Sun, 25 Jan 2026 00:00:00 +0000

1990년에 다섯 살짜리 아들에게 컴퓨터를 사준 아버지.

LLM에게도 사고 양식이 있을까? 프론티어 모델 5종 REI-40 실험

Sat, 24 Jan 2026 00:00:00 +0000

REI-40 이중처리 성격 검사를 프론티어 LLM 5종에 실시했다. 중립 응답자부터 합리적 열정가까지, 모델별 고유한 ‘사고 양식’ 프로필이 드러났다.

psyctl — LLM 성격 조종 도구

Sat, 24 Jan 2026 00:00:00 +0000

Steering Vector를 이용해 LLM의 성격을 제어하는 오픈소스 도구를 만들고 있습니다.

당신 안의 두 사람: 왜 알면서도 비합리적으로 행동할까?

Sat, 24 Jan 2026 00:00:00 +0000

다이어트 중 치킨을 참지 못하는 이유? 우리 머릿속에는 ‘따져보는 나’와 ‘느끼는 나’, 두 명이 동시에 살고 있다. 1999년 Pacini & Epstein의 연구를 통해 이 두 시스템을 알아본다.

자아실현은 복어의 모래성과 같다

Sat, 24 Jan 2026 00:00:00 +0000

매슬로우의 욕구 단계를 진화심리학으로 재구성한 Kenrick의 모델, 그리고 디지털 서비스가 우리의 진화적 욕구를 어떻게 자극하는지에 대해.

졌지만 돌아온 아이디어: 스키너, 촘스키, 그리고 말하는 기계

Thu, 20 Nov 2025 00:00:00 +0000

한 남자는 언어가 보상과 습관의 문제라고 주장하다 유명하게 패배했다. 그리고 반세기 뒤, 우리에게 말을 거는 기계들이 바로 그 보상으로 훈련되고 있다.

LLM의 Attention Map을 활용한 문장 Reranking 실험

Fri, 12 Sep 2025 00:00:00 +0000

LLM이 이미 알고 있는 것을 활용하자. Attention Map에서 문서 관련성 신호를 추출하여 문장을 재순위화하는 실험과 관련 논문을 정리합니다.

Sparse Autoencoder로 GPT-2의 감정을 조종하기

Sun, 16 Feb 2025 00:00:00 +0000

OpenAI의 Pretrained SAE로 GPT-2 내부의 감정 Feature를 찾아내고, 직접 SAE를 학습하는 과정까지. Feature Patching으로 ‘good person’을 ‘shit’로 바꾸는 실험.

K-means, GMM, EM: 클러스터링의 세 겹 러시안 인형

Sun, 10 Dec 2023 00:00:00 +0000

K-means는 사실 GMM의 극단적 경우이고, GMM은 EM 알고리즘의 대표적 응용이다. 세 가지가 어떻게 하나의 프레임워크 안에서 연결되는지, 그리고 정보 기하학이 이 관계를 어떻게 설명하는지 직관적으로 풀어본다.

정보 기하학: AI는 어떻게 '가장 효율적으로' 배우는가

Wed, 13 Jan 2021 00:00:00 +0000

뉴턴의 F=ma가 물리 세계를 설명하듯, 정보 기하학은 AI가 배우는 과정을 설명합니다. 초보자를 위한 직관적 해설.

소개

Mon, 01 Jan 0001 00:00:00 +0000

서울에서 소프트웨어 개발자로 일하고 있습니다.