마진을 최대화하는 알고리즘 마진이란 클래스를 구분하는 초평면(결저 경계)과 가장 가까운 train sample 사이의 거리로 정의한다. 그리고 그 샘플은 서포트 벡터라고 한다. 마진의 개념에 대해서 잘 이해할 수 있는 그래프이다. 결국 마진, 거리의 개념을 최대화하는 아이디어에 대해 생각해봐야한다. 조금 평면을 확장시켜서 다음과 같이 가정할 수 있다. x0는 초평면 위의 벡터이므로 초평면 방정식에 대입하게 되면 오른쪽과 같은 식을 얻을 수 있다. 우리가 궁금한 것은 gamma(i), dist 거리에 대한 정보이기 때문에 최종적으로 위와 같은 식이 나온다. 그리고 저 gamma를 geometric margin 이라고 부른다. margin_x0 = (theta.dot(x0) + theta0)[0] / np...