재능은 축복인가, 함정인가. 짧은 보상 주기에 길들여진 재능이 어떻게 장기적 노력을 방해하는지 분석하고, 근성이라 불리는 것의 밑바닥에 놓인 두 개의 엔진 — 취향과 결핍 — 을 들여다본다.
인공생명과 일반시스템이론
학부생 때 ‘일반시스템이론’을 궁극의 설계 원리인 줄 알고 폈다가 생물학을 만났다. 반세기 전 베르탈란피는 ‘생명은 물질이 아니라 조직’이라 했고, 레니아는 그것을 컴퓨터로 증명한다.
유전체에서 얻을 수 있는 개인정보
Y 염색체와 성씨는 둘 다 부계로 유전된다. 이 단순한 사실 하나로 ‘익명’ 유전체에서 실명을 되찾을 수 있음을 보인 2013년 Science 논문 이야기.
ReLU 네트워크는 거대한 조각별 어파인 함수다
ReLU 활성함수를 쓰는 신경망은 사실 입력공간을 다면체 조각으로 나누고, 각 조각 위에서 정확히 하나의 어파인 사상으로 붕괴한다. 이 관점을 뉴런 하나부터 인터랙티브 데모까지 층층이 쌓아 설명한다.
가중치를 공유해서 모델 줄이기 — K-Means 기반 양자화
신경망 가중치를 K-Means로 몇 개의 대표값으로 묶으면, 정확도를 거의 잃지 않고 모델을 몇 배로 줄일 수 있다. 클러스터가 수렴하는 과정과 저장 용량이 줄어드는 걸 직접 돌려보는 인터랙티브 위젯과 함께 살펴본다. (Deep Compression, Han et al. 2016)
정수 연산만으로 신경망 추론하기 — Linear Quantization
가중치를 정수로 저장하는 것을 넘어, 곱셈·덧셈까지 전부 정수 연산으로 추론하는 방법. 아핀 매핑 r = S(q − Z)로 실수와 정수를 잇고, scale과 zero point를 직접 바꿔가며 양자화 오차를 확인하는 위젯과 함께 살펴본다. (Jacob et al. 2018, TFLite 정수 양자화의 기반)
딥러닝 시대의 데이터타입
INT8, FP16, BF16, FP8, FP4 — 딥러닝에서 자주 등장하는 데이터타입들이 실제로 무슨 뜻인지, 비트가 어떻게 숫자로 해석되는지 하나씩 뜯어본다. 비트를 직접 클릭하면 계산식과 값이 실시간으로 바뀌는 위젯과 함께.
AWS DCV에서 한글 입력기(kime) 설정하기
AWS DCV 원격 데스크톱에서 kime 한글 입력기가 한 글자만 입력되고 영어로 돌아가는 문제를 해결한 기록입니다.
죽은 적을 다시 쏘다: 학계의 좀비 논쟁은 왜 반복되는가
이미 끝난 논쟁을 다시 꺼내는 이유, 그리고 그것을 비판하는 이 글 자체의 아이러니
runpod-log — RunPod 로그 뷰어 CLI
RunPod GPU Pod의 로그를 조회하고 실시간으로 모니터링할 수 있는 CLI 도구를 만들었습니다.