AI&ML/ML algorithms8 선형 회귀 선형 회귀(linear regression) 관찰된 데이터를 기반으로 하나의 함수를 구해서 관찰되지 않은 데이터의 값을 예측 회귀 계수를 선형적으로 결합할 수 있는 모델 회귀계수 1차 함수의 기본 형식을 y=ax1+bx2라고 할 때 a, b를 회귀계수라고 함 선형 결합(linear combination) 선형 대수의 벡터의 합에서 나온 개념 서로 다른 벡터를 더해 새로운 벡터를 얻는 과정 단순히 더하는 것만이 아니라 가중치를 곱한 후 더하는 것도 포함 더 나은 회귀 함수 선택하기(평균 제곱 오차) 데이터포인트에서 함수의 선까지의 거리를 더하는 방법 Square error=(실제값과예측값까지의 거리)2 -> 평균 제곱 오차(MSE, mean squared error): f(θ)=1/n ∑(yi-θxi)2 .. 2022. 7. 18. SVM SVM(Support Vector Machine) 사용하기 편리하면서 높은 정확도를 보이는 지도학습 알고리즘 결정경계선(decision boundary)를 지정 결정경계: 서로 다른 분류값을 결정하는 경계 N: 데이터의 벡터 공간 결정 경계=N-1차원 그래서 때로는 결정 경계를 초평면(hyperplane)이라고 하기도 함 결정경계선이 데이터포인트에 가까이 위치할수록 조금의 속성 차이에도 분류값이 달라질 수 있어 예측의 정확도가 불안정해짐 Support vector: 결정 경계선을 찾는데 사용되는 개념 Vector: 2차원 공간 상에 나타난 데이터 포인트 Support vector: 결정 경계선과 가장 가까이 맞닿은 데이터 포인트 마진(margin): 서포트 벡터와 결정 경계 사이의 거리 SVM의 목표는 .. 2022. 7. 15. 이전 1 2 다음 728x90