공간

http://blog.naver.com/PostView.nhn?blogId=intelo&logNo=20067835891

http://markov.tistory.com/40

뭔가 여러차원에 있던 점 들을 euclidean distance를 통해 유사도를 구하게 되면, 그 차원이 직접적으로 유사도에 관련이 없을 때, 정확하지 못한 한계가 생기게 된다.

 이를 극복하기 위해서 새로운 평면에 점을 찍고, 이 평면에서의 euclidean distance와 실제 차이가 같게 되도록 하는 새로운 평면을 찾아내는 작업을 하는 것이 manifold learning(일종의 Dimension Reduction)이고 이것을 학습하기 위한 알고리즘은 아래 등이 있음

Isomap은 그래프 상에서 두 노드 간의 최단 경로(shortest path)의 길이를 d(xi,xj)로 사용합니다. 경로의 길이 = [경로상의 링크들의 길이의 합]이고, 각 링크의 길이는 일반적으로 유클리디안 거리를 씁니다. 충분히 가까운 두 점 사이에만 링크가 존재하도록 인접 그래프를 만들었고, 매니폴드의 정의상 충분히 가까운 점들간에는 유클리디안 거리와 실제 거리가 거의 일치하니, 유클리디안 거리를 써도 되는 거죠.

LLE는 우선 각 노드 xi를 이웃한(= xi로의 링크가 존재하는) 다른 노드들의 선형 결합(linear combination)으로 표현하는 것부터 시작합니다. xi와 이웃한 노드들의 집합을 Ni라고 하면, 아래와 같은 등식(w_ij는 실수값, xj는 벡터)을 가장 잘 만족하는w_ij들을 구하는 거죠(Ni에 속하지 않은 xj들에 대한 w_ij는 모두 0).