선형 회귀
선형 관계
선이 모든 점을 완벽하게 통과하지는 않지만, 선은 우리에게 있는 온도 데이터와 우는 소리 데이터의 관계를 명확히 보여줍니다. 대수학을 약간 적용하면 이 관계를 다음과 같이 작성할 수 있습니다.
y = Wx + b
학습 및 손실(혹은 비용이라고도 한다)(loss or cost)
W를 가중치, b를 편향값이라고 한다. 모델을 학습 한다는 것은 라벨이 있는 데이터로 부터 올바른 가중치와 편향값을 학습하는 것을 의마한다고도 볼 수 있다
지도 학습에서 머신러닝 알고리즘은 다양한 예를 검토하고 손실을 최소화 하는 모델을 찾아봄으로써 모델을 만들어내는데, 이 과정을 경험적 위험 최소화라고 합니다. 모델 학습의 목표는 모든 예에서 평균적으로 작은 손실을 갖는 가중치와 편향의 집합을 찾는 것입니다.
손실 함수
제곱 손실(또는 L2 손실)
= the square of the difference between the label and the prediction
= (observation - prediction(x))2
= (y - y')2
Plain Text
복사
평균 제곱 오차(MSE)는 예시당 평균 제곱 손실. MSE를 계산하려면 개별 예의 모든 제곱 손실을 합한 다음 예의 수로 나눕니다. MSE는 머신러닝에서 흔히 사용되지만, 모든 상황에서 최선인 유일한 손실 함수는 아닙니다
용어
예시(example)
데이터 세트의 한 행입니다. 예는 하나 이상의 특성을 포함하며, 라벨을 포함할 수도 있습니다.