Affine ,convex 개념 Affine_convex convex function convex_function convex optimization problem optimization_problem SVM (support vector machine) SVM
optimization_theory 1차미분 gradient descent (step size : 0.01) 을 이용한 y = x**4 함수의 해 찾기 1,000,000번을 반복했지만 평평한 기울기 때문에 최적해인 0에…
Gradient Descent와 직접적으로 관계가 있는 건 아니고 평소에 궁금하던거라 공부해봄
Gradient Descent를 설명할 때 필요한 부분은 임계점 개념정도인 것 같은데 이왕 공부한 김에
들어가기 앞서 중요한 개념 : 다변수 함수로 미분을 접근하려면 접선상의 값이 그 함수값의 근사값이 된다는 linear approximation 개념으로 접근하기에 그 개념이 명확해야함. 왜냐하면 다변수 함수에서…