Multiple Regression

FMB819: R을 이용한 데이터분석

고려대학교 경영대학 정지웅

Today’s Agenda

  • 다중 독립 변수
  • 누락 변수 편향 (Omitted Variable Bias)
  • 조정된 \(R^2\) (Adjusted \(R^2\))

복습: 단순 선형 회귀 분석

Capital Asset Pricing Model 자산가격결정모형

  • 자산의 리스크프리미엄을 어떻게 결정해야하는지에 대한 모형
  • 포트폴리오 이론에 기반을 둠
    • 즉 모든 투자자는 분산이 최대화된 시장포트폴리오에 투자하며,
    • 개별 자산 고유의 리스크는 제거 될 수 있으므로, 이에 대한 리스크 프리미엄은 0이 됨.
    • 제거되지 못하는 체계적 위험에 대해서만 리스크 프리미엄이 존재함.
    • 자산의 체계적 위험은 자산과 시장포트폴리오 간의 공분산으로 측정됨.
    • ’베타’는 이러한 체계적 위험의 크기를 측정: \(E(R_i) = R_f + \beta_i (E(R_m) - R_f)\)
  • CAPM은 “리스크 프리미엄을 베타 하나로 설명하는” 벤치마크
  • CAPM을 완전한 진리라기보다, 출발점으로 사용

CAPM의 활용

  • 기업가치평가(DCF): 할인율이 필요함

  • 프로젝트 투자판단(NPV): 프로젝트의 리스크에 맞는 요구수익률이 필요함

  • 성과평가(알파/샤프/정보비율): “시장을 감안하면 잘했나?”를 평가해야 함

  • 포트폴리오/리스크관리: “이 자산이 시장과 얼마나 연동되는가?”를 알아야 함

  • 단순 선형 회귀를 이용하여 베타를 추정

    • 자산의 초과 수익률을 종속 변수로, 시장 포트폴리오의 초과 수익률을 독립 변수로 하는 회귀 분석 수행

베타의 추정

# ============================================================
#  CAPM 베타 추정: 미래에셋증권(006800.KS) vs KOSPI 200
#  모형: (Ri - Rf) = α + β(Rm - Rf) + ε
# ============================================================

library(tidyquant)
library(tidyr)
library(dplyr)
library(lubridate)

# ── 1. 주가 및 무위험이자율 수집 ─────────────────────────────
raw_data <- tq_get(c("^KS200", "006800.KS"),
                   get = "stock.prices", from = "2010-01-01", to = Sys.Date())

rf_raw <- tq_get("IRSTCI01KRM156N",
                 get = "economic.data", from = "2010-01-01", to = Sys.Date())

# ── 2. 월별 수익률 계산 ──────────────────────────────────────
monthly_returns <- raw_data %>%
  drop_na(adjusted) %>%
  group_by(symbol) %>%
  tq_transmute(select = adjusted, mutate_fun = periodReturn,
               period = "monthly", col_rename = "monthly_return")

# ── 3. 무위험이자율 전처리 (연율 % → 월복리) ─────────────────
rf_monthly <- rf_raw %>%
  mutate(date    = floor_date(date, "month"),
         rf_rate = (1 + price / 100)^(1/12) - 1) %>%
  select(date, rf_rate)

# ── 4. Wide format 변환 및 무위험이자율 병합 ─────────────────
returns_wide <- monthly_returns %>%
  pivot_wider(names_from = symbol, values_from = monthly_return) %>%
  rename(KOSPI200 = `^KS200`, MiraeAsset = `006800.KS`) %>%
  mutate(date = floor_date(date, "month")) %>%
  left_join(rf_monthly, by = "date") %>%
  fill(rf_rate, .direction = "down")

# ── 5. 초과수익률 계산 및 결측치 제거 ────────────────────────
returns_wide <- returns_wide %>%
  mutate(excess_market = KOSPI200   - rf_rate,
         excess_stock  = MiraeAsset - rf_rate) %>%
  drop_na()

# ── 6. CAPM 회귀분석 ─────────────────────────────────────────
beta_model <- lm(excess_stock ~ excess_market, data = returns_wide)
summary(beta_model)
## 
## Call:
## lm(formula = excess_stock ~ excess_market, data = returns_wide)
## 
## Residuals:
##      Min       1Q   Median       3Q      Max 
## -0.20434 -0.04680 -0.00633  0.03278  0.40044 
## 
## Coefficients:
##               Estimate Std. Error t value Pr(>|t|)    
## (Intercept)   0.002973   0.006317   0.471    0.638    
## excess_market 1.599262   0.110903  14.420   <2e-16 ***
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
## 
## Residual standard error: 0.08739 on 192 degrees of freedom
## Multiple R-squared:  0.5199, Adjusted R-squared:  0.5174 
## F-statistic: 207.9 on 1 and 192 DF,  p-value: < 2.2e-16

베타의 추정: 그래프

plot(returns_wide$excess_market, returns_wide$excess_stock, 
     xlab = "KOSPI 200", ylab = "Mireae Asset")
abline(beta_model, col = "red", lwd = 2) # 회귀선 덧그리기 (빨간색 굵은 선)
eq <- sprintf("y = %.4f * x + %.4f", coef(beta_model)[2], coef(beta_model)[1])
legend("topleft", legend = eq, bty = "n", text.col = "red")

다중 회귀 분석 모형

  • 단순 선형 회귀 모델(Simple Linear Model) 은 다음과 같이 표현됨:

\[ y_i = b_0 + b_1 x_i + e_i \]

  • X가 Y를 인과적으로(causally) 결정한다고 주장하려면,

    • X의 값을 변경했을 때(X를 조작), 다른 모든 요인은 동일하게 유지(ceteris paribus)되면서 Y가 변화해야 함.

  • ⚠️ 만약 \(y_i\)에 영향을 주는 다른 모든 요인이 \(x_i\)와 상관관계가 있다면,
    → \(b_1\)은 인과적 효과(Causal Effect)로 해석될 수 없음.

  • 이를 해결하기 위해, 모델을 확장하고(\(y_i\)를 동시에 설명하는 다른 요인을 포함)
    → \(y_i\)와 \(x_i\) 모두와 관련된 변수들을 고려해야 함.

다중 회귀 분석 모델

확장된 회귀 모델은 다음과 같이 표현됨:

\[ y_i = b_0 + b_1 x_{1,i} + b_2 x_{2,i} + b_3 x_{3,i} + \dots + b_k x_{k,i} + e_i \]

  • 여기서 \(x_1\), \(x_2\), …, \(x_k\) 는 \(k\)개의 독립 변수(regressors)
  • \(b_1\), \(b_2\), …, \(b_k\) 는 각 독립 변수에 대응하는 회귀 계수(coefficients)

추정(Estimation)

  • \((b_0, b_1, b_2, ..., b_k)\) 값은 최소자승법(OLS, Ordinary Least Squares) 을 사용하여 추정됨.
  • 즉, 다음을 최소화하는 값을 찾음:

\[ \begin{align} \sum_{i}{e_i^2} &= \sum_{i}{(y_i - \hat{y_i})^2} \\ &= \sum_{i}{[y_i - (b_0 + b_1 x_{1,i} + b_2 x_{2,i} + b_3 x_{3,i} + \dots + b_k x_{k,i})]^2} \end{align} \]

  • OLS는 잔차 제곱합(Sum of Squared Residuals, SSR) 을 최소화하는 방식으로 최적의 계수를 찾음.

다중 회귀 분석: 해석

  • 절편 (\(b_0\)): \(x_1, x_2, x_3, ...\) 모든 독립 변수가 0일 때, 예측된 \(y\) 값 \(\widehat{y}\)

  • 기울기 (\(b_k\)): \(x_k\)가 1 단위 증가할 때, \(y\) 값이 평균적으로 어떻게 변하는지 예측… 단, 다른 모든 독립 변수들은 일정하게 유지!

  • 다른 모든 변수들을 일정하게 유지한다는 점이 단순 선형 회귀와 다른 점.

  • 즉, \(x_k\)가 \(y\)에 미치는 개별적인 효과를 고립시켜 분석하는 것.

  • 인과 추론(Causal Inference)을 유의해야 하는 점

    • 다중 회귀 분석에서는 모델에 포함된 변수들만 일정하게 유지됨.
    • 하지만, 모델에 포함되지 않은 변수들은 여전히 변할 수 있어, 추정값에 편향을 일으킬 가능성이 있음.

R을 사용한 다중 회귀 분석

  • 단순 선형 회귀와 매우 유사함.
    • lm() 함수를 사용하여 다중 회귀 분석 수행 가능.
lm(formula = dependent variable ~  independent variable 1 + independent variable 2 + ...,
   data = data.frame containing the data)

다중 회귀 분석: 베타 추정

  • 한국 상장 기업 수익률이 한국 시장 뿐만 아니라 해외 시장에도 영향을 받을 수 있다면

  • 한국 시장 수익률 뿐만 아니라, 미국, 중국, 일본 시장 수익률도 포함하여 회귀 분석을 수행할 수 있음.

\(KOSPI200 = b_0 + b_1 SP500 + b_2 SSE + b_3 N225 + e\)

다중 회귀 분석: 베타 추정

# ============================================================
#  CAPM 베타 추정: 미래에셋증권(006800.KS) - 4개국 시장
#  모형: (Ri - Rf_KR) = α + β1(Rm_KR - Rf_KR) + β2(Rm_US - Rf_US)
#                       + β3(Rm_CN - Rf_CN) + β4(Rm_JP - Rf_JP) + ε
# ============================================================

library(tidyquant)
library(tidyr)
library(dplyr)
library(lubridate)

# ── 1. 주가 및 무위험이자율 수집 ─────────────────────────────
raw_data <- tq_get(c("^KS200", "006800.KS", "^SP500TR", "000001.SS", "^N225"),
                   get = "stock.prices", from = "2010-01-01", to = Sys.Date())

rf_raw <- tq_get(c("TB3MS",             # 미국: 3개월 T-Bill
                   "IRSTCI01KRM156N",   # 한국: 콜금리
                   "IRSTCI01CNM156N",   # 중국: 단기금리
                   "IRSTCI01JPM156N"),  # 일본: 콜금리
                 get = "economic.data", from = "2010-01-01", to = Sys.Date())

# ── 2. 월별 수익률 계산 ──────────────────────────────────────
monthly_returns <- raw_data %>%
  drop_na(adjusted) %>%
  group_by(symbol) %>%
  tq_transmute(select = adjusted, mutate_fun = periodReturn,
               period = "monthly", col_rename = "monthly_return")

# ── 3. 무위험이자율 전처리 (연율 % → 월복리) ─────────────────
rf_monthly <- rf_raw %>%
  mutate(date    = floor_date(date, "month"),
         rf_rate = (1 + price / 100)^(1/12) - 1) %>%
  select(symbol, date, rf_rate) %>%
  pivot_wider(names_from = symbol, values_from = rf_rate) %>%
  rename(rf_US = TB3MS,
         rf_KR = IRSTCI01KRM156N,
         rf_CN = IRSTCI01CNM156N,
         rf_JP = IRSTCI01JPM156N)

# ── 4. Wide format 변환 및 무위험이자율 병합 ─────────────────
returns_wide <- monthly_returns %>%
  pivot_wider(names_from = symbol, values_from = monthly_return) %>%
  rename(KOSPI200   = `^KS200`,
         MiraeAsset = `006800.KS`,
         SP500      = `^SP500TR`,
         SSE        = `000001.SS`,
         N225       = `^N225`) %>%
  mutate(date = floor_date(date, "month")) %>%
  left_join(rf_monthly, by = "date") %>%
  fill(rf_US, rf_KR, rf_CN, rf_JP, .direction = "down")

# ── 5. 국가별 초과수익률 계산 및 Lag 변수 생성 ───────────────
returns_wide <- returns_wide %>%
  mutate(excess_market_KR = KOSPI200   - rf_KR,
         excess_stock     = MiraeAsset - rf_KR,
         excess_market_US = SP500      - rf_US,
         excess_market_CN = SSE        - rf_CN,
         excess_market_JP = N225       - rf_JP,
         excess_SP500_lag = lag(excess_market_US),
         excess_SSE_lag   = lag(excess_market_CN)) %>%
  drop_na()

# ── 6. CAPM 회귀분석 ─────────────────────────────────────────
beta_model <- lm(excess_stock ~ excess_market_KR + excess_market_US +
                   excess_market_CN + excess_market_JP,
                 data = returns_wide)
summary(beta_model)
## 
## Call:
## lm(formula = excess_stock ~ excess_market_KR + excess_market_US + 
##     excess_market_CN + excess_market_JP, data = returns_wide)
## 
## Residuals:
##      Min       1Q   Median       3Q      Max 
## -0.21153 -0.05092 -0.00596  0.04910  0.32649 
## 
## Coefficients:
##                   Estimate Std. Error t value Pr(>|t|)    
## (Intercept)       0.003963   0.008241   0.481   0.6314    
## excess_market_KR  1.621064   0.188177   8.615 2.46e-14 ***
## excess_market_US -0.347624   0.252464  -1.377   0.1710    
## excess_market_CN  0.328229   0.145332   2.258   0.0256 *  
## excess_market_JP  0.006303   0.209636   0.030   0.9761    
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
## 
## Residual standard error: 0.08588 on 126 degrees of freedom
## Multiple R-squared:  0.5167, Adjusted R-squared:  0.5014 
## F-statistic: 33.68 on 4 and 126 DF,  p-value: < 2.2e-16

Questions

  1. 각 회귀 계수(coefficients)는 어떻게 해석할 수 있는가?
  2. 단순 선형 회귀(SLM)와 비교했을 때 KOSPI200 계수는 어떻게 달라졌는가?
  3. 미래에셋 수익률을 S&P500 수익률에 대해 회귀 분석을 수행했을 때, 베타는 어떤가?

다중공선성(Perfect Collinearity)

  • 추가하는 변수는 반드시 새로운 정보를 제공해야 함.
  • 회귀 모형에 추가하는 변수들은 완전히 선형결합(linear combination)이 될 수 없음.

\[ x_2 \neq a x_1 + b \]

  • 즉, 하나의 독립 변수를 다른 독립 변수들의 조합으로 완전히 표현할 수 있으면 안 됨.

  • 완벽하게 선형 결합된 경우 → 회귀 분석 수행 불가능

  • 높은 상관관계를 가지는 경우: 각 독립 변수의 개별적 효과(계수)를 정확히 분리하기 어려움 → 추정된 계수의 신뢰도가 낮아질 수 있음

  • 관측치 수(Observations) > 독립 변수 개수(Independent Variables): 즉, 너무 많은 변수를 추가하면 과적합(overfitting) 문제가 발생할 수 있음. → ✅ 반드시 충족해야 하는 조건!

다중공선성(Perfect Collinearity)

  • 다중공선성 문제를 확인하는 방법
    • 분산 팽창 계수(Variance Inflation Factor, VIF): 일반적으로 VIF 값이 10을 초과하면 다중공선성 문제가 있다고 간주됨.
    • 상관 행렬: 독립 변수들 간의 상관 관계를 시각적으로 확인.
    • 회귀 계수의 부호 변화: 다중공선성이 존재할 때, 회귀 계수의 부호가 예상과 다르게 나타날 수 있음.
    • 회귀 계수의 유의성: 다중공선성이 존재할 때, 회귀 계수의 유의성이 낮아질 수 있음. 이는 모델의 예측 성능을 저하시킬 수 있음.
library(car)  # VIF 계산을 위한 패키지
vif(beta_model)  # VIF 값 계산
## KOSPI200    SP500      SSE     N225 
## 1.636115 1.684530 1.173701 1.799745
cor(returns_wide[, c("KOSPI200", "SP500", "SSE", "N225")])  # 상관 행렬 계산
##           KOSPI200     SP500       SSE      N225
## KOSPI200 1.0000000 0.5227742 0.2904431 0.5745377
## SP500    0.5227742 1.0000000 0.3439216 0.5777441
## SSE      0.2904431 0.3439216 1.0000000 0.3253732
## N225     0.5745377 0.5777441 0.3253732 1.0000000

Task 1

grades 데이터:

  • 학생들의 학업 성취도에 영향을 미치는 요인들을 분석하기 위한 데이터셋

  • 학생들의 읽기 점수(avgverb), 수학 점수(avgmath), 학급 규모(classize), 그리고 사회경제적 불리함(disadvantaged) 등의 변수를 포함

  • 읽기(Reading) 점수를 종속 변수(Dependent Variable) 로 설정하여 회귀 분석을 수행

  1. haven 패키지의 read_dta() 함수를 사용하여 데이터를 불러오기. 데이터를 grades라는 객체에 저장
library(haven)
grades <- read_dta("https://raw.githack.com/chung-jiwoong/FMB819/refs/heads/main/chapter_slr/data/grade5.dta")
  1. avgverb (읽기 점수)를 종속 변수로,
    1. classize를 독립변수로 회귀분석.
    2. classize와 disadvantaged (저소득 학생 비율)를 독립 변수로 사용하여 회귀분석.

결과를 reg1, reg2 객체에 저장. 각 계수(coefficient)의 의미는 무엇인가? 단순 선형 회귀와 비교했을 때 계수는 어떻게 달라졌는가?

누락변수 편의 (Omitted Variable Bias, OVB)

  • OVB 이란, 회귀 분석에서 중요한 통제 변수(control variable) 를 제외함으로써 발생하는 편의(bias) 을 의미.

  • 이로 인해 관심 있는 독립 변수의 계수를 신뢰할 수 없고, 왜곡될 수 있음.

\(y\): 종속변수, \(x\): 독립변수, \(z\): 누락변수인 경우 다음 회귀분석이 가능

1️⃣ 단순 선형 회귀 모델 (Simple Linear Model)

\[ y = b_0 + b_1x + e \]

  • 이 경우, \(x\)와 \(z\)가 동시에 \(y\)에 영향을 미친다면, \(z\)를 제외하면 \(b_1\)이 편향될 수 있음.

2️⃣ 다중 선형 회귀 모델 (Multiple Linear Model): 만약 \(z\) 변수를 포함한다면?

\[ y = c_0 + c_1x + \color{#d90502}{c_2}z + e \]

  • 이 모델에서는 \(x\)뿐만 아니라 누락된 변수 \(z\)도 \(y\)에 영향을 미침. 즉, \(z\)를 포함하면, \(c_1\)이 더 정확한 값을 가질 수 있음.

누락변수 편의 (Omitted Variable Bias, OVB)

3️⃣ 누락된 변수와 \(x\)의 관계 (Omitted Variable on Regressor)

\[ z = d_0 + \color{#d96502}{d_1}x + e \]

  • 이 모델은 \(x\)와 생략된 변수 \(z\)가 서로 상관관계가 있을 경우를 나타냄.
  • 즉, \(x\)가 \(z\)에 영향을 미친다면, 단순 회귀 분석에서 \(b_1\)의 추정치는 신뢰할 수 없게 됨.

📌 OVB 공식

\[ \text{OVB} = \color{#d90502}{c_2} \times \color{#d96502}{d_1} \]

즉,

\[ b_1 = c_1 + OVB \]

💡 결론:
만약 \(z\)를 생략하면, \(b_1\)은 \(c_1\)에 OVB가 더해진 값이 되어, 실제 값과 차이가 날 수 있음.

누락변수 편의 (Omitted Variable Bias, OVB)

\[ \text{OVB} = \underbrace{\text{다중 회귀에서 생략된 변수의 계수}}_{\color{#d90502}{c_2}} \times \underbrace{\frac{Cov(x,z)}{Var(x)}}_{\color{#d96502}{d_1}} \]

OVB의 의미

  1. OVB의 크기(magnitude)
    • \(z\) 변수가 관측되는 경우, OVB의 크기를 직접 계산할 수 있음.
  2. OVB의 부호(sign) (양수/음수 여부)
    • 현실적으로는 \(z\) 변수를 관측할 수 없는 경우가 많기 때문에, OVB의 부호가 더 중요한 분석 요소가 됨.
    • OVB가 양수(+)인지 음수(-)인지를 판단하면, \(x\)의 계수가 과대(+) 또는 과소(-) 추정되는지 예측할 수 있음.

소득(income)과 교육연수(years of education) 사이의 관계를 분석할 때,

  1. 단순 회귀 분석에서 소득을 교육연수에 회귀(regression) 시키면 신뢰할 수 없는 추정치가 나올 가능성이 있다. 왜 그럴까?
  2. 어떤 변수가 누락된 변수(omitted variable)일 수 있을까?
  3. OVB의 부호(+) 또는 (-)는 어떻게 예상할 수 있을까?

누락변수 편의 (Omitted Variable Bias, OVB): 예제

  • 학급 규모(classize)가 학생들의 평균 수학 점수(avgmath)에 미치는 영향

\[ \text{avg math} = b_0 + b_1\text{size} + e \]

단순회귀모형: \(\text{avg math} = b_0 + b_1\text{size} + e\)

## (Intercept)    classize 
##  57.7939158   0.3174906

다중회귀모형: \(\text{avg math} = c_0 + c_1\text{size} + \color{#d90502}{c_2}\text{ \% disadvantaged} + e\)

##   (Intercept)      classize disadvantaged 
##   69.94438332    0.07167819   -0.33957877

누락변수와 독립변수: \(\text{disadvantaged} = d_0 + \color{#d96502}{d_1}\text{size} + e\)

## (Intercept)    classize 
##  35.7809990  -0.7238744

따라서: \[b_1 = 0.317 = \underbrace{0.072}_{c_1} + \underbrace{(-0.34)}_{\color{#d90502}{c_2}} \times \underbrace{(-0.724)}_{\color{#d96502}{d_1}} = c_1 + OVB\]

수정된 결정 계수 (Adjusted \(R^2\))

  • \(R^2\) (결정 계수) 는 회귀 모델이 종속 변수(\(y\))의 변동을 얼마나 설명하는지 나타내는 지표.

  • 하지만, 새로운 변수를 추가할 때마다 \(R^2\) 값은 항상 증가.

    • 심지어 의미 없는 변수라도 추가하면 \(R^2\)이 증가할 수 있음!

  • 이를 보완하기 위해 수정된 \(R^2\) (Adjusted \(R^2\)) 개념이 도입

    • 불필요한 변수를 추가하는 것을 방지하기 위해 패널티(penalty)를 부과
    • 하지만, 대부분의 경우 \(R^2\)와 수정된 \(R^2\)는 큰 차이가 없음

Fama-French 3 요인 모형

library(tidyquant)
library(dplyr)
library(lubridate)
library(readr)

# ── 1. Fama-French 3요인 데이터 수집 ─────────────────────────
ff_temp <- tempfile()
download.file("https://mba.tuck.dartmouth.edu/pages/faculty/ken.french/ftp/F-F_Research_Data_Factors_CSV.zip",
              ff_temp, mode = "wb")

ff_raw <- read_csv(unzip(ff_temp, exdir = tempdir()),
                   skip = 3, col_types = cols(.default = col_double())) %>%
  rename(date = `...1`) %>%
  filter(!is.na(SMB), nchar(as.character(date)) == 6) %>%
  mutate(date  = ym(date),
         across(c(`Mkt-RF`, SMB, HML, RF), ~ . / 100)) %>%
  filter(date >= as.Date("2000-01-01"))

unlink(ff_temp)

# ── 2. 개별 주식 월별 수익률 수집 (AAPL) ─────────────────────
stock_returns <- tq_get("BRK-B", get = "stock.prices",
                        from = "2000-01-01", to = Sys.Date()) %>%
  drop_na(adjusted) %>%
  tq_transmute(select = adjusted, mutate_fun = periodReturn,
               period = "monthly", col_rename = "R_stock") %>%
  mutate(date = floor_date(date, "month"))

# ── 3. 병합 및 초과수익률 계산 ───────────────────────────────
df <- stock_returns %>%
  left_join(ff_raw, by = "date") %>%
  mutate(excess_stock = R_stock - RF) %>%
  drop_na()

# ── 4. CAPM vs Fama-French 회귀분석 ──────────────────────────
reg1 <- lm(excess_stock ~ `Mkt-RF`,             data = df)  # CAPM
reg2 <- lm(excess_stock ~ `Mkt-RF` + SMB + HML, data = df)  # FF3F

summary(reg1)
## 
## Call:
## lm(formula = excess_stock ~ `Mkt-RF`, data = df)
## 
## Residuals:
##       Min        1Q    Median        3Q       Max 
## -0.147556 -0.030312 -0.004963  0.027317  0.226232 
## 
## Coefficients:
##             Estimate Std. Error t value Pr(>|t|)    
## (Intercept) 0.004818   0.002596   1.856   0.0644 .  
## `Mkt-RF`    0.540107   0.056905   9.491   <2e-16 ***
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
## 
## Residual standard error: 0.04551 on 311 degrees of freedom
## Multiple R-squared:  0.2246, Adjusted R-squared:  0.2221 
## F-statistic: 90.09 on 1 and 311 DF,  p-value: < 2.2e-16
summary(reg2)
## 
## Call:
## lm(formula = excess_stock ~ `Mkt-RF` + SMB + HML, data = df)
## 
## Residuals:
##       Min        1Q    Median        3Q       Max 
## -0.084686 -0.028620 -0.003535  0.022087  0.181207 
## 
## Coefficients:
##              Estimate Std. Error t value Pr(>|t|)    
## (Intercept)  0.003766   0.002252   1.672   0.0955 .  
## `Mkt-RF`     0.641848   0.051166  12.544  < 2e-16 ***
## SMB         -0.474546   0.073802  -6.430 4.84e-10 ***
## HML          0.464624   0.065379   7.107 8.26e-12 ***
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
## 
## Residual standard error: 0.03939 on 309 degrees of freedom
## Multiple R-squared:  0.4228, Adjusted R-squared:  0.4172 
## F-statistic: 75.44 on 3 and 309 DF,  p-value: < 2.2e-16

Task 2

STAR 데이터

  • STAR(Student Teacher Achievement Ratio) 데이터는 1985년부터 1989년까지 미국 테네시 주에서 진행된 무작위 실험의 결과를 담고 있음.
  • 학생들을 소규모 학급(small), 일반 학급(regular), 보조 교사가 있는 일반 학급(regular+aide)으로 무작위 배정하여, 학급 규모가 학생들의 학업 성취도에 미치는 영향을 분석하기 위한 데이터셋.
  1. STAR 데이터를 불러와 star_df라는 객체에 저장. NA 값이 있는 행은 제거하시오. grades가 “2”인 학생들만 선택하시오.
library(dplyr)
# 데이터 불러오기
star_df <- read.csv("https://raw.githubusercontent.com/chung-jiwoong/FMB819/refs/heads/main/chapter_causality/data/star_data.csv")
  1. math를 school (학교 위치 유형)변수에 대해 회귀 분석하시오. school 변수가 포함하는 값들을 먼저 확인. 회귀 계수를 해석하시오. 누락된 범주 (category)는? 결과가 예상과 일치하는가? 만약 다르다면 왜 그런가? 누락된 변수가 존재할 가능성이 있는가?
  1. lunch 변수가 "free"인 학생들의 비율을 학교 위치 유형형(school) 별로 계산하시오. 결과를 보고, 무료 점심 자격 여부(free) 변수를 추가하여 이전 회귀 분석을 다시 수행하시오. free 변수를 추가했을 때 회귀 계수는 어떻게 변화하는가?
  1. math를 star 변수에 대해 회귀 분석하시오. 다음의 모든 변수를 포함하여 다중 회귀 분석을 수행하시오:
    math ~ star + gender + ethnicity + lunch + degree + experience + school. 절편과 계수를 해석하시오.

  1. 다중 회귀 분석에서 얻은 수정된 \(R^2\) 값을 확인하시오. 수정된 \(R^2\) 값이 의미하는 바는 무엇인가? 관측 가능한 개별 학생, 교사, 학교 특성이 학업 성취도에 미치는 중요성에 대해 어떤 결론을 내릴 수 있는가?

  2. (Optional) math를 gender와 experience 변수에 대해 회귀 분석하시오. 회귀 계수를 어떻게 해석할 수 있는가? 이러한 회귀 분석 결과를 시각적으로 표현한다면 어떻게 보일 것인가?

THE END!