#P08 · 확률 · 통계 · AI 최적화 (Probability & AI) · Lv.33D 마인드맵에서 보기

상관계수와 최소제곱 선형회귀 (OLS)

프랜시스 골턴 · 카를 피어슨 · 가우스 · 1895년

rXY=Cov⁡(X,Y)σXσY,β^1=Cov⁡(X,Y)Var⁡(X)=rXYσYσXr_{XY} = \frac{\operatorname{Cov}(X,Y)}{\sigma_X \sigma_Y}, \quad \hat{\beta}_1 = \frac{\operatorname{Cov}(X,Y)}{\operatorname{Var}(X)} = r_{XY}\frac{\sigma_Y}{\sigma_X}
y^=β^1x+β^0,β^0=yˉ−β^1xˉ\hat{y} = \hat{\beta}_1 x + \hat{\beta}_0, \quad \hat{\beta}_0 = \bar{y} - \hat{\beta}_1 \bar{x}

두 변수가 함께 변하는 선형 관계의 강도(-1≤r≤1)를 측정하는 피어슨 상관계수와, 오차 제곱합을 최소화하는 최적의 추세선을 구하는 선형회귀 공식입니다.

🧮 즉석 공식 계산기 & 그래프 플로터
공분산 Cov(X,Y)
표준편차 σ_X
표준편차 σ_Y
r=185×4.5=0.800,β^1=0.720r = \frac{18}{5\times 4.5} = 0.800, \quad \hat{\beta}_1 = 0.720
피어슨 상관계수 r
0.8000
결정계수 R² (설명력)
64.0%
회귀 기울기 β̂₁
0.7200

선수 개념 경로 (Prerequisite Path) (20 STEP)

전체 경로 분석기

아래 순서대로 클릭하면 3D 네온 경로를 따라 기초부터 목표 공식까지 정복합니다.

STEP 1#G03원주율 π와 호도법(Radian)·부채꼴 공식
STEP 2#G01피타고라스 정리 (직각삼각형의 법칙)
STEP 3#P01순열과 조합 (경우의 수)
STEP 4#A02곱셈공식과 인수분해 항등식
STEP 5#A03지수법칙과 거듭제곱근
STEP 6#L01벡터의 연산과 L1·L2 노름(Norm)·정규화
STEP 7#A01등식의 성질과 일차방정식
STEP 8#A06로그의 정의와 밑변환 공식
STEP 9#G04단위원 삼각함수와 피타고라스 항등식
STEP 10#G022D·3D 좌표공간 유클리드 거리 공식
STEP 11#C01극한의 정의와 자연상수 e의 탄생
STEP 12#G05사인법칙과 제2코사인법칙
STEP 13#P02조건부확률과 곱셈정리
STEP 14#A08이항정리와 파스칼의 삼각형
STEP 15#C02미분계수와 도함수 (순간변화율과 접선)
STEP 16#L02벡터의 내적(Dot Product)과 코사인 유사도
STEP 17#P04기댓값과 분산 (확률변수의 모멘트)
STEP 18#C03곱의 미분법과 합성함수 연쇄법칙 (Chain Rule)
STEP 19#C08편미분과 그래디언트 벡터 (∇f 다변수 미분)
STEP 20#P08상관계수와 최소제곱 선형회귀 (OLS)

기하학적·직관적 원리 해설

중심화한 데이터 벡터의 내적(코사인 유사도)이 곧 피어슨 상관계수 r이며, 잔차 제곱합을 미분해 0으로 두면 회귀 기울기가 유도됩니다.

단계별 수식 유도 과정

  1. Step 1.손실함수 L(β₀, β₁) = ∑(y_i - (β₁x_i + β₀))²을 β₀, β₁에 대해 각각 편미분하여 0으로 둡니다.
  2. Step 2.∂L/∂β₀ = 0에서 회귀직선이 반드시 무게중심 (x̄, ȳ)를 지남을 얻습니다: β₀ = ȳ - β₁x̄.
  3. Step 3.∂L/∂β₁ = 0을 정리하면 β₁ = Cov(X,Y) / Var(X) = r (σ_Y / σ_X)가 도출됩니다.

AI · 프로그래밍 실전 활용처

머신러닝 지도학습(Supervised Learning)의 가장 기본 모델인 선형회귀 예측기, 퀀트 금융 포트폴리오 베타(β) 및 특징 상관 행렬 분석에 사용됩니다.

#Linear Regression#Supervised ML#Quant Finance Beta#Feature Engineering
const slope = covXY / varX; const intercept = meanY - slope * meanX; const r = covXY / Math.sqrt(varX * varY);

확률 · 통계 · AI 최적화 (Probability & AI) — 함께 탐험할 연관 공식