맥케이 정보이론 8강: 잡음 채널 부호화 (3): 잡음 채널 부호화 정리
맥케이 정보이론 8강. 잡음이 만드는 전형적인 출력 구름과 무작위 부호를 이용해, 채널 용량 아래에서는 오류를 거의 없앨 수 있다는 잡음 채널 부호화 정리를 이해한다.
맥케이 정보이론 8강. 잡음이 만드는 전형적인 출력 구름과 무작위 부호를 이용해, 채널 용량 아래에서는 오류를 거의 없앨 수 있다는 잡음 채널 부호화 정리를 이해한다.
맥케이 정보이론 7강. 이진 대칭 채널과 지움 채널에서 상호정보량을 계산하고, 입력분포를 최적화해 신뢰할 수 있는 통신률의 경계인 채널 용량을 구한다.
작성 예정.
세포 분화와 캐릭터 대화를 하나의 질문으로 연결한다. 관측, 상태, 경로, 동역학, 결과를 구분하고 12강 동안 사용할 합성 데이터의 실험 원칙을 세운다.
분산을 최대화하는 관점과 복원 오차를 최소화하는 관점에서 PCA를 유도하고, 공분산 고유벡터와 SVD를 연결해 평가 세션에서 압축을 검증한다.
PCA, 오토인코더, VAE를 같은 데이터에 학습시킨다. ELBO와 재매개변수화를 이해하고, 복원을 잘하는 것과 의미 있는 상태를 찾는 것을 구분한다.
Swiss roll에서 직선 거리와 곡면 거리를 구분하고, kNN 그래프와 Isomap, UMAP을 연결한다. 보기 좋은 지도와 검증된 시간축의 차이를 배운다.
관측 쌍으로 벡터장을 추정하고, 한 단계 예측과 전체 경로 전개의 차이를 검증한다.
주변분포 제약을 만족하는 집단 간 수송을 계산하고, 개체 추적과의 차이 및 Sinkhorn 정규화의 역할을 이해한다.
Neural ODE와 SDE, Flow Matching을 연결하면서 생성 경로와 실제 시간 동역학을 구분한다.