Post
원문 보기 →노벨AI에 대한 잡상
디퓨전 학습 모델이라고 해도 수학적 방법론은 미분해서 최적해(Global minium)를 구하는 겁니다. 신경망 특히 GAN 모델은 로지스틱 선형다단법 중에서도 경사하강법이 사용되는걸로 보이는데 선형다단법은 지역 최적해(local minium)에서 분석이 멈출 수 있는 알고리즘상의 결함이 있습니다. 이를 위한 보정이 필요한데 분석의 시작위치를 랜덤으로 하게 만들면 됩니다. 이러한 방법론적 과정의 일부가 시각화한게 분명 노이즈겠죠. 그 결과 하단의 1회(EPOCH=1) 학습과 100회(EPOCH=100)처럼 점점 구체적인 형태로 업데이트 되는 것이 시각화 되지만 이는 또한 적분 곡선이 최적해를 향해 가고 있는 것입니다. 그러니까 흑백의 이분화된 노이즈에서 시작했다 해봐야 적분 곡선의 끄트머리에서부터
