이에 중앙은행인 한국은행에서는 금융안정지수(Financial Stability Index; FSI)를 개발하여 금융안정을 나타내는 다양한 지표들을 하나의 지수로 변환하였다.

이를 통해 우리나라의 전체적인 금융변동을 한 눈에 파악할 수 있게 되었으며, 거시건전성 상황을 진단하는 지표 중 하나로 활용함으로써 금융불균형 누증으로 기인하여 발생할 수 있는 시스템리스크(systemic risk) 조기 포착에 활용하고 있다.

[FSI 산출 절차 및 방법]

FSI 산출에 필요한 지표 선정을 위해 주요국 사례를 참고하여 금융안정을 잘 나타내고 속보성이 뛰어난 20개 지표를 선정하였다.

해당 지표는 은행(연체율 등), 주식·외환·채권시장(주가 및 환율 변동성, 금리스프레드 등), 대외거래 및 대외지급(경상수지, CDS프리미엄 등), 실물경제(성장률, 물가상승률 등), 가계·기업의 경제상황(소비자동향지수, 기업경기지수 등)을 나타내는 지표로 구성되어 있다

그리고 우리나라의 실제 금융안정 정도를 파악하기 위해 금융·경제 전문가를 대상으로 설문조사를 실시하였으며 그 결과를 FSI의 현실적합성 판단기준으로 삼았다.

다음으로는 선정된 지표를 비교·평가할 수 있도록 표준화한 후 가중평균하여 FSI를 산출하였다. 이때「상대적 크기비교 방식」을 이용하여 FSI가 0(최소) ~ 100(최대) 사이의 값을 갖게 함으로써 100에 가까울수록 불안정성 정도가 높아지게 하였다

• 상대적 크기비교 방식: (측정값-시계열상의 최소값)/(시계열상의 최대값-시계열상의 최소값)으로 계산

가중평균 방법은 등분산가중평균(equalvariance weighted average)과 주성분분석(principal component analysis) 방법 중 현실적 합성이 높은 등분산가중평균 방법을 선택하였다.

두 방법을 이용하여 FSI를 산출해본 결과 등분산가중평균 방법이 1종 오류가 낮게 나타났다.

[위기진단을 위한 최적 임계치 산출]

FSI를 이용하여 위기여부를 진단하기 위해 '최적 임계치' 개념을 도입하여 거시건전성 상황을 「안정」, 「주의」, 「위기」단계로 구분하였다.

각 단계를 구분하는 최적 임계치는「noise-to-signal ratio(이하 NTSR) 접근법」(Borio & Drehmann, 2009)을 이용하여 산출하였다.

[NTSR 접근법]

NTSR 접근법은 위기에 대한 참 예측력(signal power, 1-T1) 대비 거짓 예측력(noise power, T2)의 비율을 최소화하는 방법이다.

$$ Min[\frac{T_2}{1-T_1} | (1-T_1) \geq X]$$

$T_1$: 1종 오류(Type 1 error) $T_2$: 2종 오류(Type 2 error) $\frac{T_2}{1-T_1}$: Noise-to-Signal Ratio $X$: 최소 위기예측력(1종 오류의 최대허용 한도)

• Borio & Drehmann은 지표의 위기 예측이 최소 60% 이상일 것을 조건으로 제시

NTSR 접근법으로 최적 임계치를 산출한 결과(FSI가 개발된 2012년 4월 기준), FSI가 8보다 클 경우 "주의", 22보다 클 경우 "위기"단계로 구분하였으며, 각각의 임계치에서 NTSR이 최소가 되는 것으로 나타났다.

[현황]

최신 업데이트인 2025년 9월 현재 임계치는 12, 24로 변경된 것을 확인할 수 있으며, 현재는 위험단계에서 주의 단계로 하락 중인 것을 확인할 수 있다.

반면, 중장기적인 금융 건전성을 나타내는 금융취약성 지수 FVI는 장기평균에 근접하며 상승을 이어오고 있는 것을 확인할 수 있다.(FVI에 대해서는 추후 게시)

이는 한국은행이 금리인하 기조를 지속적으로 유지함에 따라 단기적인 금융안정을 나타내는 FSI의 지표들은 안정적인 추세로 되고 있지만, 중장기적인 금융불균형 누증을 나타내는 지표인 FVI는 금리인하로 인해 금융불균형이 누증되면서 상승하는 흐름을 보이는 것으로 이해할 수 있다.

추가적인 내용은 FVI의 방법론에 대해 다루면서 FSI, FVI의 관계에 대해서도 추후 다뤄보겠다.

하지만 LLM을 개발 및 발전 시키기 위해선 수많은 비용, 데이터, 메모리가 필요하기에 이로 인한 효율성 문제가 발생하고 있습니다.

대표적인 예로 ARC-AGI(Abstraction and Reasoning Corpus) 같은 고차원 추론 벤치마크에서는, 수백억~수조 개의 파라미터를 가진 모델조차 여전히 인간 수준의 일반화 능력에 도달하지 못했습니다.

이에 따라 “작지만 똑똑한 모델(small but smart)”*을 만들기 위한 시도가 늘어나고 있습니다. 그 대표적 연구가 바로 이번 논문, 『Less is More: Recursive Reasoning with Tiny Networks』 입니다.

해당 연구는 25년 10월 6일에 나온 최신 연구로, 삼성전자 북미 AI 연구소에서 연구를 진행하였기에 이번 기회에 한번 살펴보았습니다.

[Introduction]

LLM을 중심으로 AI 발전이 이어지고 있지만, 복잡한 문제 해결이나 고난도의 질의응답 문제에서는 여전히 한계를 보입니다.

이들은 자동회귀(auto-regressive) 방식으로 출력을 생성하기 때문에, 하나의 잘못된 토큰(token)이라도 생성되면 전체 답변이 무효화될 위험이 있습니다.

이러한 신뢰성 문제를 개선하기 위해,

LLM들은 보통 Chain-of-Thought (CoT)와 Test-Time Compute (TTC)을 활용합니다.

• CoT는 LLM이 최종 답변을 생성하기 전에 사고의 단계별 추론 과정을 먼저 출력하도록 하여, 인간의 사고 방식을 모방 $\to$ 이는 정확도를 향상시키지만, 고품질의 추론 데이터를 요구하며, 생성된 “사고 과정”이 잘못되면 오답을 강화할 수도 있음

• TTC는 모델이 여러 번의 답변을 생성하고, 그 중 가장 많이 등장한 답 또는 가장 높은 보상을 가진 답을 선택하는 방식 $\to$ 이는 신뢰성을 높이지만, 계산량이 커집니다.

그러나 이런 방법만으로는 CoT와 TTC를 결합하더라도 LLM은 모든 문제를 완벽히 해결하지 못합니다.

이러한 배경 속에서, Wang et al.(2025)은 Hierarchical Reasoning Model (HRM)을 제안하며, LLM이 고전하는 퍼즐형 문제(Sudoku, Maze, ARC-AGI 등)에서 획기적인 성능 향상을 보였습니다.

HRM은 두 가지 방법을 통해 성능을 향상시켰습니다.

1. Recursive Hierarchical Reasoning (계층적 재귀 추론)

두 개의 작은 네트워크를 서로 다른 주기로 반복 실행하여, 각 네트워크가 서로 다른 형태의 잠재 특징(latent feature)을 생성합니다.

• 저주파 네트워크 $f_L$: 빠른 주기로 작동하며, 잠재 상태 $z_H$를 생성

• 고주파 네트워크 $f_H$: 느린 주기로 작동하며, 잠재 상태 $z_L$를 생성

이때 이러한 두 특징은 상호 입력으로 사용됩니다.

저자들은 이러한 구조를 뇌의 서로 다른 시간 주파수 활동 및 감각 정보의 계층적 처리에서 생물학적 영감을 받았다고 설명했습니다.

*2. Deep Supervision (심층 감독) *

모델이 여러 단계의 감독(supervision step)을 거치며 점진적으로 답을 개선하도록 학습합니다.

각 단계에서는 이전 단계의 잠재 특징 $(z_L, z_H)$를 초기값으로 재사용하고, 이를 역전파에서 분리하여 residual connection을 만듭니다.

이렇게 하면 매우 깊은 네트워크를 한 번의 forward pass로 처리하지 않아도 “깊이 있는 추론”을 흉내낼 수 있습니다.

이때, 두 작동원리가 HRM의 성능 향상에 기여한 바를 연구를 통해 살펴보면, 재귀적 계층 구조보다는 deep supervision의 영향이 더 컸습니다.

• deep supervision은 단일 단계 감독 대비, 정확도가 19% → 39%로 2배 향상

• 재귀 계층 구조 자체는 단일 패스 모델 대비 35.7% → 39.0%로 소폭 향상

즉, 여러 단계의 감독을 통해 점진적으로 답을 개선하는 과정은 효과적이지만, 각 단계 내의 복잡한 재귀 구조는 성능 향상에 크게 기여하지 않았다는 것입니다.

따라서 본 연구에서는 이러한 한계를 개선하기 위해, 재귀 추론의 진정한 효과를 극대화할 수 있는 새로운 접근법인 Tiny Recursive Model (TRM)을 제안합니다.

TRM의 기본 구조는 다음과 같습니다.

(1) 입력된 문제(x)와 현재의 예측 답(y), 내부 상태(z)를 함께 처리 (2) z를 n번 반복해 업데이트 (내적 추론 단계) (3) 업데이트된 z를 이용해 y를 개선 (출력 갱신 단계) (4) 이 과정을 여러 번(supervision step) 반복하며 점진적으로 답을 정교화

이 단순한 구조지만, '답을 스스로 고쳐 나가는 작은 네트워크'라는 점에서 기존의 심층신경망보다 훨씬 효율적입니다.

[HRM 한계]

HRM(Hierarchical Reasoning Model)은 강력한 추론 능력을 보여줬지만, 다음 세 가지 근본적인 한계가 있습니다.

1. 수학적 근거 부족

HRM은 “고정점(fixed-point)” 수렴을 가정하고 1-step gradient 근사를 사용하지만, 실제로는 수렴하지 않음 $\to$ 암묵함수정리(IFT) 적용 부적절

2. 학습 비효율성

Adaptive Computational Time(ACT) 적용 시 매 학습마다 2회 forward pass 필요 → 계산량 2배 $\to$ Q-learning 기반 halting 손실 구조

3. 불필요한 복잡성

두 네트워크 $(f_L, f_H)$가 서로 다른 주기로 작동하며, 생물학적 비유에 지나치게 의존
$\to$ 실험적으로 핵심 효과가 검증되지 않음

이러한 HRM의 한계를 해결하기 위해 TRM이 등장하였습니다.

[TRM 개선점]

주요 개선점은 크게 6가지가 있습니다.

1) 고정점(fixed-point) 이론 제거

HRM은 ‘고정점에 수렴한다’는 가정하에 계산량을 줄였지만, 실제로는 그 조건이 성립하지 않음

TRM은 복잡한 수학적 가정을 버리고, 단순히 전체 반복 과정을 역전파하도록 설계해 더 안정적 학습을 수행   2) 단일 네트워크 구조

TRM은 HRM의 두 개 네트워크$(fL, fH)$를 하나로 합쳐 파라미터를 절반으로 줄였습니다. 이는 오히려 일반화 성능을 높힘.   3) 작은 모델이 더 잘 일반화된다

층을 늘리면 오히려 과적합(overfitting)이 심해짐

데이터가 적을 때는 작은 모델이 더 잘 작동했으며, TRM은 2개의 층이 최적 구조 확인   4) 자기회귀(Self-Attention) 제거 가능

입력 크기가 작을 때(예: 9x9 Sudoku), 복잡한 Attention 구조 대신 단순한 MLP가 더 효과적   5) 학습 효율 향상 (ACT 단순화)

HRM은 학습 중 “언제 멈출지”를 Q-learning으로 결정해 2배의 연산을 씀

이때, TRM은 단순히 ‘현재 답이 맞는가’만 판단하도록 바꿔, 계산량을 절반으로 감소시킴   6) EMA(지수이동평균)

모델의 가중치를 부드럽게 업데이트해, 작은 데이터셋에서도 안정적 학습과 높은 정확도를 달성함

[Result]

이러한 방법을 통해 TRM은 인간 수준의 추론 능력을 테스트하는 ARC-AGI 벤치마크에서 TRM은 10분의 1 수준의 데이터와 0.01% 미만의 매개변수 크기로 훨씬 거대한 LLM의 추론능력을 뛰어넘었습니다.

그런데 9월 21일, 한국은행에서 "[BOK이슈노트 제2025-26호] 거시건전성정책의 파급영향 분석 및 통화정책과의 효과적인 조합"이라는 좋은 보고서가 공개되어서 리뷰를 남겨보고자 합니다.

[요약]

[현 상황]

1. 금년 및 내년 성장률이 잠재 성장률 수준을 밑돌 것으로 전망되는 등 경기가 부진

2. 와중에 작년 하반기 이후 서울 주택가격은 아파트를 중심으로 상승세가 지속되고 가계부채 증가세가 이어지면서 금융안정 측면의 리스크는 확대

3. 이러한 상황에서는 경기 부진에 대응하는 금리인하가 금융안정 측면의 리스크를 증대시킬 수 있어 통화정책만으로 경기안정과 금융안정을 함께 달성하기 어려움

$\to$ 통화정책과 거시건전성 정책 간 긴밀한 정책공조(policy coordination) 필요

[분석 결과]

1. 서울 아파트가격 변동의 주요 동인을 분석해본 결과, 경기, 수급·심리 및 금리 요인이 복합적으로 영향을 미침

2. 특히 작년 6월 이후 경기 요인이 하방압력으로 작용하고 있음에도 수급·심리 및 금리 요인이 상방압력으로 작용하면서 서울 아파트가격 상승세를 견인

3. 거시건전성정책 강화는 주택가격 상승세와 주택담보대출 증가세를 억제하는 데 유의한 효과가 있지만 성장을 제약하는 효과는 유의하지 않은 것으로 분석

4. 거시건전성정책 강화 시점에 따른 금융안정 제고 효과를 분석해본 결과, 거시건전성정책 강화가 완화적 통화정책에 선행하는 경우가 후행하는 경우에 비해 주택가격 상승세 및 가계대출 증가세 억제에 효과적

5. 주택가격 상승세와 가계부채 증가세가 이어지는 상황에서 거시건전성정책 강화 없이 금리인하가 먼저 이루어질 경우, 금융안정에 대한 정책당국의 소극적 대응 의지로 인식

$\to$ 주택가격 상승 기대가 확산되면서 금리인하의 금융안정 리스크 증대 효과는 더욱 커지고 성장 제고 효과는 일반적인 경우에 비해 약화될 가능성

[분석 배경]

최근 서울 아파트가격 움직임을 보면,

1. 2025년 3월 서울시의 토지거래 허가구역 재지정 (강남‧서초‧송파‧용산) 이후 둔화하던 오름세

2. 5월 들어 금리인하 효과, 2월 토지거래허가구역 해제, 주택가격 기대심리 상승 등으로 다시 가팔라져 6월 넷째 주에는 전주 대비 0.43% 상승하며 2018년 9월 첫째 주(0.47%) 이후 가장 높은 주간 상승률을 기록

3. 정부가 6월 말경 ｢가계부채 관리 강화방안｣(이하 ‘6.27 대책’)을 시행한 이후로는 오름세가 둔화되어 8월 이후 주간 상승률은 0.1% 내외 수준을 나타내고 있다.

• 서울 아파트가격 상승률(전주 대비): [6월] 다섯째 주 0.40% → [7월] 첫째 주 0.29% → 셋째 주 0.16% → [8월] 첫째 주 0.14% → 셋째 주 0.09% → [9월] 첫째 주 0.08% → 셋째 주 0.12%

서울 아파트가격 상승세가 지속될 경우 여타 수도권으로 확산되고 가계부채 증가로 이어지면서 금융불균형이 확대될 수 있다.

이에 한국은행법 제1조 제2항에 따라 “한국은행은 통화신용정책을 수행할 때에는 금융안정에 유의하여야 한다”.

따라서, 한국은행은 통화정책 수행 시 금융안정에 더욱 유의할 필요가 있다.

현재와 같이 잠재성장률 보다 경제성장률이 밑도는 경기가 부진한 상황에서 경기 부양을 위한 완화적 통화정책은 금융안정 측면의 리스크를 증대시킬 수 있어 통화정책만으로 경기안정과 금융안정을 함께 달성하기 어렵다.

이처럼 성장과 금융안정 간 상충관계(trade-off)가 큰 상황에서는 거시건전성정책과의 긴밀한 정책공조(policy coordination)가 필요하다.

$\to$ 본고에서 성장과 금융안정 간 상충관계가 큰 상황에서 통화정책과 거시건전성정책 간 효과적인 정책조합(policy mix)을 제시

[서울 아파트 가격 변동요인 분석]

벡터자기회귀(VAR) 모형을 활용하여 2017년 하반기 이후 서울 아파트가격 상승기별로 주요 변동요인을 분석하였다.

벡터자기회귀(VAR) 모형을 통한 역사적 분해 결과를 보면(<그림 2-2>), 서울 아파트가격의 변동은 경기, 수급･심리 및 금리 요인에 의해 복합적으로 영향을 받는 것으로 나타났다.

특히, 작년 6월 이후 지속되고 있는 최근 상승기(Ⅲ-②)에는 경기 요인이 하방압력으로 작용하고 있음에도, 수급･심리 및 금리 요인이 상방압력으로 작용하면서 서울 아파트가격 상승을 견인하고 있는 것으로 분석된다.

[거시건전성 정책 효과 분석]

[거시건전성 정책 지수]

거시건전성정책지수와 관련한 최근 연구(Meuleman and Vander (2020), FernandezGallardo (2023) 등)를 바탕으로 정책강도를 반영하는 가중치를 부여하여 보다 정교하게 거시건전성정책지수를 작성

산출한 거시건전성정책지수와 서울 아파트가격의 추이를 보면(<그림 3-2>), 두 시계열은 대체로 함께 움직이는 것처럼 보인다.

그러나 시차상관분석(<그림 3-3>) 및 그랜저 인과관계검정 결과에 따르면, 서울 아파트가격이 거시건전성정책지수에 선행하는 것으로 나타난다.

$\to$ 거시건전성정책이 서울 주택가격 상승세에 대응하여 강화되어 왔음을 시사

[거시건전성 정책 효과 분석]

이후 구조 VAR 모형을 활용하여 거시건전성정책 강화가 서울 아파트가격, 주택담보대출 및 성장에 미치는 영향을 추정해 보았다.

충격반응 분석 결과, 거시건전성정책 강화는 서울 아파트가격 상승세 및 가계부채 증가세 완화에 유의한 효과가 있는 것으로 나타났다(<그림 4>).

거시건전성정책 1단위 강화는 향후 1년간 평균적으로 서울 아파트가격을 1.6% 하락시키고 주택담보대출을 1.7% 감소시키는 효과가 있는 것으로 추정되었다.

한편, 거시건전성정책 강화 조치가 성장을 제약하는 효과는 유의하지 않은 것으로 분석되었다.

이는 거시건전성정책의 주요 목표변수인 주택가격과 건설투자의 연계성이 낮고 주택가격 상승의 소비 증대 효과(wealth effect)도 크지 않아, 주택가격이 성장에 미치는 직접적인 영향이 제한적인 데 기인한 것으로 보인다.

위 분석 결과는 거시건전성정책이 경기 부진에 대응한 완화적 통화정책의 성장 제고효과는 제약하지 않으면서 금리인하가 금융안정에 미치는 부정적 영향을 어느 정도 상쇄시킬 수 있음을 의미

분석 결과를 활용하여 금번 6.27 대책의 금융안정 제고 효과를 추정해 보면, 동 대책은 서울 아파트가격 상승세 및 주택담보대출 증가세를 억제하는 데 어느 정도 기여할 수 있을 것으로 보인다.

모형 시뮬레이션(counterfactual simulation) 결과(<표 4>), 6.27 대책이 도입되지 않았을 경우 금년 하반기중 서울 아파트가격이 약 6% 상승하고 주택담보대출은 약 5% 증가할 것으로 전망되는데, 동 대책은 이를 각각 1.62.1%p, 1.21.6%p 정도 상쇄하는 효과가 있을 것으로 추정

[효과적인 정책조합]

거시건전성정책 강화의 금융안정 제고 효과는 강화 시점이 완화적 통화 정책에 선행하는 경우가 후행하는 경우에 비해 크게 나타났다.

금리인하에 선행하는 거시건전성정책 강화 조치는 기준금리 25bp 인하에 따른 서울 아파트가격 상승압력(1년 평균, 1.4%)을 약 0.4%p 축소시키는 효과가 있는 것으로 추정된다.

반면, 거시건전성정책 강화 조치가 금리인하에 후행하여 지연될수록 주택가격 상승세 억제 효과는 줄어드는 것으로 나타났다.

주택가격 상승세와 가계대출 증가세가 이어지는 상황에서 거시건전성정책 강화 없이 기준금리 인하가 먼저 이루어질 경우, 금융안정에 대한 정책당국의 소극적 대응 의지로 인식되어 주택가격 상승 기대가 확산될 우려가 있다.

이 경우 통화정책 완화에 따른 금융안정 리스크 증대 효과는 더욱 커질 수 있으며, 늘어난 시중 유동성이 소비‧투자 대신 생산성이 낮은 부동산 부문으로 유입되면서 금리인하의 성장 제고 효과는 일반적인 경우에 비해 약화될 가능성이 있다.

위 분석결과는 거시건전성정책 강화 조치가 금리인하 이후에 이루어지는 것보다 금리인하에 앞서 시행되는 것이 효과적인 정책조합임을 시사한다.

[Remarks]

사실 이번 연구도 이전부터 한국은행이 연구했던 결과인 "선제적인 거시건전성 정책의 필요성" 등과 같은 내용이 반복되는 내용이다.

물론, 중요한 내용이지만 이번 연구에서의 차별점을 다루는 것이 더 좋다고 생각하여 기존 한국은행의 연구와 해당 연구의 차이점에 대해서 다루겠다.

본 연구에서 주목할 점은 크게 3가지다.

1. 거시건전성 정책의 강도를 반영한 거시건전성 지수를 연구

2. 경기가 부진한 상황에서 금리인하와 같은 완화적인 정책을 실시할 때는 심리 요인이 크게 작용하여 자산가격의 상승을 유발할 수 있다.

$\to$ 거시건전성 정책은 이러한 상황 속 금융안정에 대한 정책당국의 의지를 보여줌으로써 심리 요인의 영향력을 크게 제어할 수 있다.

$\to$ 주택가격은 주택가격 기대심리에 자기실현적 성격에 따라 움직이는데, 해당 요인을 거시건전성 정책을 통해 금융안정에 대한 정책당국의 의지를 국민과 커뮤니케이션함으로써 이를 제어할 수 있다.

3. 거시건전성 정책 강화 조치가 경제 성장을 제약하지 않는다.

$\to$ 실제로 금융위기 이후 주택가격과 건설투자(주거용 건물투자)의 상관관계(상관계수 –0.1)는 통계적으로 유의하지 않았다. 이는 거시건전성정책의 주요 목표변수인 주택가격과 건설투자의 연계성이 낮음을 보여준다.

$\to$ 또한, 주택가격의 민간소비에 대한 부의 효과(wealth effect)를 추정한 이승윤‧최영우(2018), Kim (2019) 등은 고령층의 주택 보유비중 증가, 주택가격 상승시 무주택자의 소비 위축 등으로 부의 효과가 제약되어 주택가격 상승의 부의 효과도 크지 않을 수 있음을 분석하였다.

해당 연구에서는 특히, 거시건전성 정책의 강도를 반영한 거시건전성지수 방법론에 대해 다룸으로써 이를 응용한 추가 연구가 이뤄질 수 있다는 점과 6.27 대책에 대한 실증적인 분석 결과가 담겨져 있다는 내용이 흥미롭게 다가왔다.

추가적으로 최근 정부는 9월 7일 추가 대책(｢주택공급 확대방안｣)을 마련하여 부동산 시장의 수도권 주택공급 부족 우려를 해소하고자 하고 있다.

해당 방안이 실제 공급으로 이어지는 데에는 시간이 필요할 수 있다.

하지만, 경기가 부진한 상황에서 금리를 인하하는 지금과 같은 시기에는 심리 요인이 주택가격의 상승을 유발한다는 본 연구 결과를 참고할 때 주택 가격 상승률을 규제하려는 정부의 의지를 보여줌으로써 주택가격 기대심리를 제어할 수 있을 지 향후 부동산 시장의 움직임에 주목할 필요가 있다.

출처: 참고 유튜브 채널 링크

빅데이터 시대에 접어들면서 AI가 개발되고 많은 분들이 머신러닝을 배우고 있습니다. 그러면서 함께 떠오른 것이 상관관계의 중요성입니다. Prediction 중심 모델과 빅데이터라는 대수의 법칙은 인과관계보다 상관관계만 있어도 충분히 좋은 모델링을 할 수 있다는 생각이 퍼지게 만들었습니다.

물론 이는 부정할 수 없는 사실입니다. 하지만 모든 연구 주제에서 그렇다고 할 수 있을까요?

만약 어떠한 일에서 원인을 찾아야 한다면 상관관계에 있는 요인을 수정한다고 해서 해결할 수 있을까요? 당연히 아닙니다.

그래서 이번 시리즈는 인과관계를 다루는 분야이자 제가 생각하기에 현재 통계학이라는 분야에서 가장 트렌디한 분야, Causal Inference를 가지고 왔습니다. 재밌게 글을 읽어주셨으면 좋겠습니다.

[Randomized Controlled Trial]

일반적으로 최적의 표준을 Gold standard라고 하는데, 인과추론 분야에서 Gold standard는 Randomized Controlled Trial(RCT)라고 할수 있습니다.

위 그림에서 위 단계로 갈수록 인과추론을 위한 가정을 효과적으로 충족할 수 있고, 그렇기 때문에 인과추론 결과에 대한 신뢰성이 높은 방법론입니다.

이때 가장 위에 위치한 Meta-Analysis는 여러 연구들을 종합하는 방법론이기 때문에 단위의 개념에서 인과추론 수준이 가장 높은 방법론은 Randomized Controlled Trial라고 할 수 있습니다.

그럼 왜 Randomized Controlled Trial가 Gold Standard일까요?

현실에서 인과추론 분석을 하기에 적합하지 않는 경우가 많을 수 있는데, RCT는 실험이 불가능한 상황에서도 기준점이 되어줄 수 있기 때문에 활용할 수 있기 때문에 중요합니다.

또한, 실험이 불가능한 상황에서 실험의 세팅을 모방하고자 하는 RCT 밑의 방법론들이 사실 인과추론에서 더 중요하지만 이러한 방법들을 이해하는 그런 첫 걸음으로써 기준점이 되어주는 것이 RCT이기 때문에 이번 글에서는 RCT에 대해서 다루도록 하겠습니다.

RCT는 무작위 실험 기법을 활용하여 처리(Treatment) 여부가 무작위로 배정되는 실험을 의미합니다.

기본적으로 Random assignment는 동전 던지기라고 비유할 수 있습니다.

이론적으로 동전을 던지면 앞/뒤가 반반 나오겠지만 실제로는 항상 반반이 아닙니다. 하지만 결국 동전 던지기 횟수를 계속해서 늘리다 보면 결국에는 반반의 비율에 가까워질겁니다.

그리고 이게 우리가 통계에서 말하는 큰 수의 법칙입니다.

즉, 무작위 실험은 큰 수의 법칙에 기초하여 처리 여부를 배정하는 것입니다.

만약 무작위로 처리 여부를 부여한다면, 그리고 각 그룹의 수가 크다면 대조군과 처리군에서 Treatment를 제외한 다른 모든 변수들의 값들이 그룹 측면에서는 비슷해질겁니다.

따라서 두 그룹의 차이를 Treatment 때문이라고 생각할 수 있게 되는 것입니다.

다시 말해서 무작위 실험이 인과추론의 Gold standard라고 여겨지는 이유는 Treatment에 대한 Random assignment는 _ Ceteris Paribus _를 달성할 수 있는 Counterfactual를 만들 수 있는 가장 효과적인 방법이기 때문입니다.

그래서 비교 가능한 대조군을 통해서 우리가 Counterfactual를 대신함으로써 결과적으로 Selection bias를 가장 효과적으로 제거할 수 있는 방법이기 때문입니다.

그렇기 때문에 이런 이유가 무작위 실험에 기초한 Randomized Controlled Trial가 Gold Standard라고 불리는 이유입니다.

[RCT 체크 사항 - Quality of Randomization]

무작위 실험에서 가장 중요하고, 먼저 체크해야할 부분은 바로 무작위 배정이 얼마나 잘 되었는지 확인하는 것입니다.

예시로,

대학교 교실에서 노트북이나 태블릿을 허용하는 게 실제 학생들의 성적에 어떤 인과적인 효과가 있는지 분석하는 무작위 실험 연구가 있다고 해봅시다.

경제학 수업에는 50개의 Class가 있고 그 수업을 수강하는 726명의 학생을 대상으로 각 클래스를 3개의 그룹으로 배정합니다.

첫번째 그룹은 자유롭게 노트북과 태블릿을 허용한 그룹, 두번째 그룹은 일부 제약을 두고 노트북과 태블릿을 허용한 그룹, 마지막 그룹은 교실 내에서의 컴퓨터나 태블릿 사용을 전면 금지한 그룹입니다.

여기서 목표로 삼고 있는 Treatment는 노트북, 태블릿 사용 여부고, 메인 결과는 학기말 성적으로 디자인한 전형적인 현장 실험 연구입니다.

이때 Treatment를 제외한 나머지 변수를 모두 평균적으로 같게 해야합니다.

이를 표로 각 변수들을 확인해보았을 때 그룹별로 큰 차이가 없음을 알 수 있으며,

Treatment 변수는 각 그룹별 차이가 잘 드러남을 확인할 수 있습니다.

그 결과는 다음과 같이 나타났습니다.

이때 Treatment 이외의 변수들은 메인 결과에 영향을 줄 수 있지만, Treatment 효과 자체에는 거의 영향이 없어야 한다.

다시 말해 random assignment가 제대로 됐다면, 이렇게 통제 변수를 추가했을 때도 Treatment 효과가 큰 변화가 없어야 합니다.

[RCT 체크 사항 - STUVA]

예를 들어 대조군에서의 결과가 처리군에 의해 어떤 방식으로든 간접적으로 영향을 받으면 안됩니다.

만약 재택근무 자원자를 받은 후 자원자에서 무작위 배정을 통해 재택근무할 직원을 뽑는다면, 뽑히지 않은 직원들은 해당 실망감에 업무 생산성이 낮아졌을 수도 있습니다.

그러니깐 이런 가능성에 대해 배제하기 위해 여러가지 간접적인 테스트들을 수행해야하고 실제로 해당 연구에서도 그런 것들을 보여줬습니다.

또 다른 사례를 살펴보면 우버에서 이제 현금 결제에 관한 현상 실험을 했을 때,

무작위로 배정된 기사들에게 현금결제인지 아닌지에 대해 미리 표시해줄 때 이게 기사님들에게 어떤 영향을 미치는지 확인해보고자 했습니다.

하지만 왼쪽 그림을 봤을 때 실험군에서 7월 이후 세금을 더 아낄 수 있는 현금 결제를 더 선호하기 때문에 카드결제 고객을 거부하는 비율이 늘어났고, 이에 따라 카드 결제와 현금 결제를 구분하지 못하는 대조군에 카드 결제 고객들이 늘어나게 되었다는 것을 파악할 수 있습니다.

그러니깐 두 그룹은 무작위로 배정이 되어서 한 그룹에만 Treatment가 배정이 되었다고 하더라도 대조군에서의 결과가 지금 실험군에 영향을 간접적으로 받고 있음을 확인할 수 있습니다.

그러므로 이게 전형적으로 STUVA에 위배되는 상황입니다. 따라서 이 상황에서는 대조군과 실험군에서 인과적인 효과를 제대로 추정할 수 없게 되는 것입니다.

그러므로 이런 경우에는 실험 디자인에 대해 새롭게 생각해봐야할 필요가 있습니다.

[RCT 체크 사항 - Imperfect Compliance]

마지막으로 Imperfect Compliance입니다.

아무리 연구자가 실험 수행해서 Treatment를 결정하고 배정한다고 해서 무조건 실험 참가자들이 연구지침에 잘 따르고 Treatment를 제대로 받았는지 여부까지 연구자가 직접 관여하기 어렵습니다.

따라서 만약 Treatment만 신경써서 연구한다면 실제 Treatment를 받았을 때의 효과와는 다를 수도 있습니다.

이런 상황을 이제 Imperfect Compliance라고 합니다.

이 경우에는 이제 도구변수를 활용해서 assignment를 잘 따르는 집단, Compliance라는 이 Subsample에서 인과적인 효과를 구하는 Local Average Treatment Effect(LATE) 구함으로써 이 문제를 해결할 수 있습니다.

그리고 이렇게 도구변수를 활용해서 LATE를 계산한 대표적인 연구가 2021년 노벨 경제학상을 받은 연구의 대표적인 성과이기도 합니다.

[RCT의 한계]

지금까지 RCT를 살펴보았는데, 그럼 한계점은 무엇이 있을까요?

[Specifically Defined Treatment]

첫번째는 RCT가 특정 유형의 Treatment에 대한 인과적인 효과만을 추정한다는 것이 중요하면서도 하나의 단점으로 작용합니다.

인과추론을 할 때는 연구자가 관심있는 Treatment가 무엇인지, 그것의 Potential Outcom이 어떻게 정의될 수 있는지 구체적으로 정의하는 것이 굉장히 중요합니다.

예를 들어 "물이 건강에 해로운가?"와 같은 질문은 사실 인과추론에 적합한 질문이 아닙니다.

왜냐하면 물이 어떤 물인지, 어디서 나온 물인지, 어느 정도의 양의 물인지에 따라서 사실 이 물이라고 하는 원인은 너무나도 많은 다양한 버전일수도 있고, 이에 따라 너무 다양한 버전의 Treatment가 있을 수 있기 때문에 이들의 결과도 다를 수 밖에 없기 때문입니다.

그러니깐 물의 인과적인 효과라고 했을 때 Treatment가 너무 다양하고 결과도 다르기 때문에 인과효과를 구하기가 어렵고 그게 무슨 의미인지도 말하기가 어렵습니다.

따라서 인과추론을 할 때는 구체적이어야 하고, Potential Outcome가 의미있게 해석될 수 있는 잘 정리된 Treatment를 디자인하는 것이 굉장히 중요합니다.

[External Validity]

이어서, 더 중요한 부분은 External Validity에 관한 부분입니다.

사실 동일하게 정의된 어떤 Treatment를 활용한다고 하더라도 RCT를 통해서 구한 인과적인 효과를 다른 상황에 일반적으로 하는 것은 쉽지 않을 수 있습니다.

연구결과를 일반화하기 위해서는 우리는 Randomization의 두가지 측면을 살펴볼 필요가 있습니다.

우선, RCT가 Treatment를 제외하고 나머지 요인들이 모두 유사한 대조군을 구성할 수 있었던 가장 큰 무기가 바로 Random assignment인데 여기서 이 결과가 Selection bias를 효과적으로 제거함으로써 인과관계를 잘 추론할 수 있다는 사실은 결국 현재 Sample에 국한된 이야기입니다.

이 Sample의 효과가 그러면 다른 Sample로 확장이 될 수 있다거나 혹은 전체 집단으로 확장될 수 있게 하기위해선 이 sample이 전체 집단을 대표해야합니다.

그렇기 때문에 이런 Representive Sample을 도출하기 위해서는 또 다른 Randomization이 필요한데, 바로 이 전체 모집단에서의 Random Sampling이 바로 그겁니다.

이렇게 전체 모집단에서 Random Sampling을 하고 나면 우리가 분석하는 이 Sample은 전체 모집단을 대표하고 또 평균적인 특성이 유사할 것이기 때문에 이 Sample에서 구한 인과 효과가 전체 모집단으로 확장될 수 있고 또 모집단 내에 다른 Sample에서 그대로 적용될 수 있다고 우리가 합리적인 가정을 할 수 있습니다.

하지만 일반적으로 이런 Random Sampling은 쉽지 않은 경우가 굉장히 많기 때문에 Random Sampling이 되지 않은 Representive Sample 아니라면 항상 RCT의 결과를 일반화하는 것은 항상 주의를 기울여야 합니다.

[Conclusion]

인과추론 방법론은 상관관계에서 인과관계를 보다 잘 발라내기 위해서 사실 Internal Validity에 굉장히 초점이 맞춰져 있는 방법이기 때문에 그 반대급부로써, External Validity는 어느 정도 희생이 따를 수 밖에 없고 그것이 가장 큰 한계라고 볼 수 있습니다.

그래서 이러한 한계점을 분명히 인식하고 그래서 본인의 어떤 연구 결과와 인과추론 결과를 과대포장하지 않고 현재 Context에서의 분석결과가 적용될 수 있는 Boundary Condition에 대해서 이야기 하는 게 일반적인 접근 방법입니다.

또 경우에 따라서는 전체 집단으로 일반화에 대한 요구가 많지 않을 수도 있습니다.

아무튼 결론적으로 강조하고 싶은 부분은

Causal Inferenve approach 전반에 대한 위 한계점을 우리는 분명히 인식할 필요가 있는 점이고, 세상에 완벽한 방법론은 없다는 생각을 해봤으면 좋겠습니다.

인과추론의 가장 치명적인 한계라고 생각하는 부분은 바로 인과추론 방법론으로 다루지 못하는 연구 문제들이 여전히 굉장히 많다는 점입니다.

따라서 인과추론 방법론에만 너무 맹신하게 되면 인과추론으로 연구될 수 없는 수많은 중요한 문제를 아예 무시해버릴 수 있고, 또 모든 연구 문제들을 이런 인과추론의 잣대로만 평가하면서 세상을 이해한다면 어떤 틀에 스스로 제한해버리는 꼴이 일어날 수 있습니다.

실제로 2021년 노벨 경제학상 수상자 중 한 분이자 어쩌면 현 시점에서 인과추론 분야 연구의 가장 최전선에 있으신 Guido W. Imbens 교수님도 이런 우려에 대해서 깊이 공감을 하고 있고,

그렇기 때문에 이런 우를 범하지 않기 위해서는 인과추론이 언제 필요한지, 그리고 각 방법론들의 장단점이 무엇인지에 대한 이해와 큰 그림에서 그걸 평가할 수 있는 안목이 필요하다고 생각합니다.

그래서 하나하나 관심이 가는 방법론을 살펴보다보면 무언가 깨우치는 것이 있을 것 같아서 무작정 이번 시리즈를 기획하게 되었습니다.

그래서 처음 소개할 방법론 시리즈의 주제는 UBS의 Global Real Estate Bubble Index 입니다.

한국은행 2025년 6월 금융안정보고서를 읽어보면서 "주택시장 위험지수"가 있다는 것을 알게 되어 2024년 9월 통화신용정책보고서를 살펴보니, 다음과 같이 소개가 되어있었습니다.

IMF 방법론을 인용한 서울 아파트 가격 갭 산출도 흥미로워보였지만, 다음에 시리즈에서 다루기로 하고 UBS 방법론을 살펴보기로 하였습니다. 그래서 가져온 것이 바로 UBS Global Real Estate Bubble Index (2023)입니다.

[Methodology]

"UBS Global Real Estate Bubble Index"는 주택 시장의 Fundamental Valuation과 해당 국가나, 경제적 왜곡(대출 or 건설 붐)과 관련지어 도시의 가치를 추적하는 지수입니다.

지수는 값에 따라 다음과 같이 구분됩니다.

1. Depressed(Score Below -1.5)
2. undervalued(-1.5 to -0.5)
3. fair-valued(-0.5 to 0.5)
4. overvalued(0.5 to 1.5)
5. bubble risk(above 1.5)

가격 조정이 언제 일어날지, 일어나기는 할 지 예측할 수는 없기 때문에 여기서 'Bubble Risk'는 큰 가격 조정에 대한 높은 위험이 존재한다는 의미입니다.

지수 산출을 위해 활용되는 지표는 5가지로 정규화되어 가중평균을 통해 지수를 도출하는데 사용되며, 다음과 같습니다.

1. Price-to-Income Ratio : 주택의 가격이 해당 도시의 평균 소득 대비 얼마나 비싼가를 측정합니다. UBS는 주로 60m² 아파트를 구입하기 위해 몇 년치 소득이 필요한가로 표현합니다.

2. Price-to-Rent Ratio : 주택을 구입할 경우와 임차할 경우를 비교하여, 자가보유의 경제적 타당성을 측정합니다. 비율이 높을수록 임대보다 매입이 비경제적이며, 이는 주택가격이 과대평가되었음을 의미할 수 있습니다.

3. Mortgage-to-GDP Ratio Change : 가계가 주택을 구입하기 위해 얼마나 많은 부채(모기지)를 지고 있는지, 그리고 그 비율이 GDP 대비 얼마나 빨리 증가하고 있는지를 봅니다. 급격한 상승은 신용버블 가능성을 시사합니다.

4. Construction-to-GDP Ratio Change : 경제에서 주택 건설에 얼마나 많은 자원이 투입되고 있는가를 측정합니다. 지나친 건설 투자 증가도 공급 과잉과 가격 왜곡의 위험을 나타냅니다.

5. City-to-Country Price Ratio : 특정 도시의 평균 주택가격이 해당 국가 전체 평균 가격 대비 얼마나 높은가를 측정합니다. 지역 간 불균형과 특정 도시의 과열 정도를 파악하는 데 유용합니다.

위 1, 2 지표는 도시 수준의 데이터로 이를 통해 Fundamental Valuation을 평가하며 3, 4 지표는 국가 수준의 데이터로 이를 통해 해당 국가의 경제 왜곡(Economic distortion)을 평가합니다. 다만 이 접근법은 버블 현상의 복잡성에 대해서 완벽하게 설명하지는 못합니다.

가중 평균에 사용되는 가중치 산정 방식은 OECD의 "Handbook on Constructing Composite Indicators(2008)"에 따라 요인 분석을 사용하여 결정합니다.

요인분석(Factor analysis)는 하위 지표들이 공유하는 버블 위험에 대한 공통된 정보를 최대한 포착할 수 있도록 가중치를 부여합니다.

이때, 버블을 유발하는 요인은 도시마다 다르기 땨문에, 도시별로 서로 다른 하위 지표들의 가중치가 도출됩니다. 따라서 국가 단위 변수에 과도하게 가중치가 부여되는 것을 방지하고 도시 간 비교 가능성을 높이기 위해, 각 도시의 가중치는 전체 도시 평균 가중치에서 크게 벗어나지 않도록 제한됩니다.

이렇게 조정된 가중치는 전체 도시들에서의 평균 요인분석 가중치에 근접하게 되며, 최종 지수 산정 과정에 보완적인 역할을 합니다.

도심 인근의 부동산 가격과 임대료는 지역별로 큰 차이를 보이므로, UBS는 추정치를 여러 출처로 교차 검증하고, 매년 갱신하며 재평가합니다. 하지만 데이터 출처의 품질이 다르기 때문에 UBS는 항상 일정 수준의 불확실성 범위(uncertainty range)를 함께 명시합니다.

[objective uncertainty]

위 단원에서 UBS Global Real Estate Bubble Index를 알아보았습니다.

조사하다보니 생각보다 단순해서 다음번엔 위에서 언급된 OECD(2008)를 한번 읽어봐야겠습니다. 또한, 글이 짧아진 관계로 objective uncertainty의 개념과 UBS Global Real Estate Bubble Index와 같은 위험지수 방법론에 대해서도 살펴보겠습니다.

위험(Risk)이란 미래 경제상황에 대한 불확실성으로 발생하는 결과치의 변동성을 의미하며, 발생확률을 객관적으로 추정할 수 있다는 측면에서 객관적 불확실성(objective uncertainty)이라고 합니다.

위험과 유사한 개념으로 불확실성(Uncertainty)이 있으며, 불확실성은 과거 경험에 의존한 주관적 확률만을 고려한 것으로 객관적인 확률분포를 나타낼 수 없다는 점에서 위험과 구별됩니다.

위험과 불확실성은 이론적 개념에서 차이가 있으나, 측정 시에는 확률분포의 분산(표준편차)을 활용하는 것이 일반적이며, 위험과 불확실성을 측정하는 방법은 설문조사, 키워드 분석, 경제모형 기반 분석 등으로 매우 다양하나 확률분포의 분산(표준편차)을 활용하는 경우가 대다수입니다.

불확실성을 계량화하는 지수 방법론 내지 연구에서는 가장 일반적으로 Baker et al(2016)의 방법론을 많이 사용하며 이를 기초로 하는 EPU, HPU 지수를 위 표에서 확인할 수 있습니다.

다만, 제가 EPU와 HPU를 직접 실증 분석해본 결과 부족한 부분이 있을 수도 있었겠지만 키워드 선정에 지수가 큰 영향을 받으며 이전에 비해 뉴스 기사의 수가 많아진 국가에서는 초반 지수의 움직임이 최근에 비해서 변동폭이 작았던 것을 확인하였습니다.

그래서 사실 요인 분석을 통한 지수 방법론인 UBS 부동산 버블 지수를 알아보고자 했던 것입니다.

그럼 국토연구원이 2023년 발표한 국토정책 Brief 한국형 부동산 시장 위험지수 개발과 활용 방안에 대해 살펴보며 UBS의 방법론을 한국에서는 어떻게 적용했는지 확인해봅시다.

[국토정책 Brief(2023)]

[필요성]

경제·금융분야에서의 국제연계성이 강화되고 있는 상황에서 부동산분야에서도 국제비교가 가능한 위험측정 수단으로 지수개발이 필요한 실정이다. 2021년 기준 한국 가계자산의 73.7%가 부동산자산으로 구성되어 있어 경제구조 내 부동산시장의 영향력은 매우 큰 편이며, 세계경제라는 큰 틀에서 서로 영향을 주고받기 때문에 국제비교를 통해 한국 주택시장의 상대적 수준을 파악하는 것이 중요하기 때문이다.

부동산을 비롯한 자산버블의 붕괴는 글로벌 금융위기와 같이 대외경제 상황에 영향을 받는 경우가 많고, 개인뿐 아니라 국가경제에도 부정적 영향을 미치므로 정부 차원의 신속한 위험감지 및 정책대응이 필요하다.

따라서, 다양한 위험지수의 측정방법론을 검토하여 국제비교가 가능한 핵심지수를 개발하고, 국내 여건과 정책·심리적 요인들을 반영한 보완적 지수도 함께 개발하여 국내외 주택시장 분석, 시장대응방안 마련,제도개선 등에 활용할 필요가 있다.

이에 국토연구원은 정량적 분석 기반의 핵심지수인 K-UBS 지수(가칭: 주택시장 위험지수)와 정성적 분석 기반의 보조지수인 K-HPU 지수(가칭: 주택시장 불확실성 지수)를 개발하고자 한다.

핵심지수는 위험의 이론적 개념과 원인진단 가능성이 뛰어나며, 분석자료의 확보가 용이하고 국제비교가 가능한 UBS의 부동산 버블지수를 벤치마크로 설정하였다.

또한 보조지수는 위험의 이론적 정의, 원인진단 가능성, 정보의 적시성 측면에서 우수한 주택가격 불확실성(HPU)지수를 벤치마크로 설정하여 핵심지수를 보완하고자 했다.

핵심지수는 주택의 시장가치가 역사적으로 관찰가능한 범위를 벗어났는지를 계량적으로 측정하며, 보조지수는 정책·심리와 같이 정성적인 요인을 바탕으로 주택시장의 불확실성을 측정한다.

[방법론]

하위변수 데이터 선정기준은 표본대표성, 통계적 측정가능성, 데이터의 신뢰성 및 안정성, 시도단위 자료 획득 가능성, 속보성으로 설정했다.

이러한 데이터 선정기준을 고려하여 가계금융복지조사(소득)와 KB 주택가격동향조사 (주택매매·임차가격)를 활용하여 ① GDP 대비 건설투자 비중의 변화율, ② GDP 대비 주택담보대출 비중의 변화율, ③ 소득대비 주택가격 비율, ④ 주택수익 비율, ⑤ 전국 대비 해당 도시의 주택가격 비율 등 총 5개 변수를 적용하여 지수 도출에 활용하였다.

표준화는 UBS 부동산 버블지수와 동일한** Z-score 방법**을 활용하며, 가중치는 표준화된 하위변수 자료를 바탕으로 요인분석을 통해 분기마다 산출하였다.

또한 UBS 방법론에 따라 위기 단계는 과열위험의 경우 1.5 초과, 침체위험의 경우 –1.5 미만으로 설정하였다.

[결과]

위 그래프는 해당 방법론을 통해 도출된 서울의 K-UBS 지수이다.

이를 통해 다음과 같이 정책에 활용할 수 있다.

국가 간 위험전이 및 원인파악에 활용 이 연구의 주요 연구목적이라 할 수 있는 주택시장 위험의 국제비교를 위한 지수활용방안을 제시

• K-UBS 지수와 UBS 부동산 버블지수의 최근 5년 상관관계를 분석하여 모니터링 도시를 선정하고, 전이효과 모형을 바탕으로 세계 주요 도시 간 주택시장 위험의 유입·유출효과를 분석

국내 주택시장 위험경보 포착에 활용 K-UBS 지수와 K-HPU 지수를 이용한 국내 주택시장 분석 및 제도적 기반 강화방안을 제안

• K-UBS 지수 산출에 적용되는 5개 하위변수와 변수별 가중치를 활용하여지수 상승 및 하락의 원인을 파악하고, 시장상황별 맞춤형 정책수립에 활용

시스템화 방안 연구에서 개발된 지수를 정책적으로 상시 활용하기 위한 위험지수의 시스템화 방안을 제시

• 지수 산출에 적용되는 정형·비정형 데이터를 수집·분석하여 시각화하고, 관계부처 등과의 실시간 피드백을 통해 정보를 공유하도록 시스템 구축

또한 국내 주택시장 위험경보 포착을 위해 K-UBS와 K-HPU는 다음과 같이 보완적인 관계로 활용될 수 있다.

주택시장 위험경보 포착방안으로 주택시장 경착륙 위험탐지방안 및 주택가격 변동성 전망 개선방안 등을 제안

• (주택시장 경착륙 위험탐지방안) K-HPU 지수의 CMAX 값이 0.97을 초과하는 시점을 포함하여 K-UBS 지수가 일정 기간 이상 과열위험 단계를 유지할 경우를 경착륙 위험탐지 가이드라인으로 제안
• (주택가격 변동성 전망 개선방안) 주택가격 변화에 대한 당기 예측력 향상을 위해 주택시장 전망 시 K-HPU 지수를 모형에 반영할 것을 제안

제도적 기반 강화방안으로 규제지역 해제 시 정량기준 마련, 조기경보시스템 위기 단계 심의근거 및 주택금융정책 조정시점 판단 근거로 K-UBS 지수를 활용

• (규제지역 해제 시 정량기준 마련) K-UBS 지수가 지속 하락하여 과열위험 단계에서 하향 조정된 경우를 정량기준으로 설정하고, 관련 법령을 개정
• (조기경보시스템 위기 단계 심의근거) 위기 단계 심의 시 K-UBS 지수를 활용하도록 부동산시장 조기경보 시스템 운영위원회 규정을 개정
• (주택금융정책 조정시점 판단 근거) 안정적이고 장기적인 주택금융정책 운영을 위해 K-UBS 지수를 활용해 주택금융정책 조정시점을 판단

시리즈를 본격적으로 들어가기에 앞서 김성범 교수님 연구실의 김창현님의 영상에서 인과추론이라는 분야를 전체적으로 잘 정리해주셔서, 이를 참고하여 이번 게시물을 작성하였습니다.

출처: 참고 유튜브 채널 링크

[인과추론이란?]

인과추론은 어떤 사건이 다른 사건의 원인이 되었다고 추론하는 것을 의미합니다.

이때 본 시리즈의 이전 게시물에서 다뤘듯이 상관관계는 인과관계를 의미하지 않습니다.

상관관계는 통계적 변수와 다른 통계적 변수들이 공변하는 관계를 의미하며 예측 목적의 연구에서 많이 활용됩니다.

반면 인과관계는 선행하는 한 변수가 후행하는 다른 변수의 원인이 되고 있다고 믿어지는 관계를 의미하면 원인 설명 목적으로 많이 활용됩니다.

예를 들어 위 그림에서도 왼쪽 그래프는 모짜렐라 치즈 소비량이고, 토목공학 박사를 취득한 사람의 수인데 상식적으로 아무런 관계가 없지만 상관관계 수치는 매우 높은 것을 확인할 수 있습니다.

이때 우리는 AI가 일반적으로 데이터의 상관관계 패턴을 학습한다는 것에 관심을 가져야합니다. AI는 INPUT(X)과 OUTPUT(Y)간 상관관계를 학습하고 이에 기반하여 예측 및 분류 등 task를 수행합니다. 따라서 외부 환경에 따른 데이터의 변화나 패턴 변화가 적은 분야에서는 성능이 뛰어납니다.

그러나 왜? 분류, 예측, 추천의 결과가 나왔는지에 대해서는 궁극적으로 설명하지 못합니다.

XAI로도 인과관계는 알 수 없습니다. SHAP 기반 변수 중요도는 예측에 중요한 변수로 높은 상관관계를 가지는 변수가 높은 점수를 가집니다.

인과관계를 분석하는 유명한 모델인 마이크로소프트의 EconML로 분석을 하면 예측에 중요한 상관관계여도 인과관계가 없는 경우가 있고, 방향이 반대인 경우도 있음을 확인할 수 있습니다. 반면 Sales Call처럼 상관관계는 없지만 인과관계를 나타내는 경우도 있습니다.

이러한 예시를 통해 상관관계와 인과관계는 같지 않다는 사실을 파악할 수 있습니다.

[인과관계의 종류]

인과관계의 종류는 크게 3가지로 나뉘며 다음과 같은 종류가 있습니다.

1. Randomization (랜덤화추출)
2. Causal Graphical Models (인과 그래프 모형)
3. Potential Outcome (잠재적 결과)

그럼 3가지 종류의 분석 방법에 대해 간략하게 알아보겠습니다.

[Randomization]

[Randomized Clinical Test]

랜덤화 추출 기법은 매우 직관적인 기법으로, 이번 게시물에서는 랜덤화 추출 기법의 Randomized Clinical Test(무작위 임상 시험)에 대해 알아보겠습니다.

Randomized Clinical Test은 현실에서 A/B Test라고 불립니다. 측정하고자 하는 변수 이외에는 모든 것들을 최대한으로 고정하고 확인하고 싶은 변수만 변경하면서 실험하는 방법입니다. 이 기법을 통해 무작위 배정으로 평균적인 효과를 측정할 수 있습니다.

이때 주의할 점을 Netflix의 클릭으로 예시를 들어 설명하자면, 단순히 Product A/B에 대해 클릭률로 판단하는 것이 아니라 통계적 방법을 통해 클릭률을 판단해야한다는 것입니다.

두 집단의 분포는 클릭을 했냐 vs 안했냐의 문제이기 때문에 이항분포를 따른다고 가정할 수 있습니다. 또한 두 집단을 무작위로 추출했기 때문에 같은 분포를 따른다고 할 수 있고, 데이터의 양이 충분하기에 이를 중심극한 정리를 통해 Z 검정통계량을 도출할 수 있습니다.

최종적으로 도출한 Z 검정통계량을 통해 P-value를 구하여 가설검정을 통해 두 집단의 차이가 있는지 확인할 수 있습니다.

따라서 A/B test를 할 때는 표면적인 결과만 해석하는 것이 아니라 어떠한 가설 검정을 통해서 유효성을 파악해야 한다는 것을 유념해야 합니다.

[Multi-Armed Bandit(MAB)]

Multi-Armed Bandit에서 Bandit는 카지노의 슬롯머신을 의미합니다.

기본적으로 카지노의 슬롯머신은 모두 당첨 확률이 다릅니다. 이때 이 MAB는 여럿 Bandit를 사용해서 어떤 수익률을 극대화하는 방법입니다.

A/B test는 탐색-수확 tradeoff가 존재하는데, MAB는 이를 강화학습 기반으로 해결하고자 하는 방법론입니다.

탐색-수확 tradeoff는 두 가지 관점에서 살펴볼 수 있습니다.

첫번째는 탐색 관점입니다. 모든 Bandit(A가 만약 더 좋아보이는데 혹시 몰라서 B도 테스트) $\to$ 예상대로 A가 더 좋았다. $\to$ 비용 발생!

두번째는 활용 관점입니다. 모든 Bandit를 한두번만 당겨보고 가장 수익률 높은 머신을 선택 $\to$ 신뢰성 문제 $\to$ 만약 테스트를 더 오래한다면??

이 MAB 알고리즘은 다시 세 가지 종류로 나뉩니다.

행동(Action) = MAB에서 선택된 제품 (ex. A안, B안) = 시점 $t$의 행동 = $A_t$ 보상(Reward) = 한번의 행동에 따른 수치화된 결과 (ex. 클릭, 구매) = $R_t$ 가치(Value) = 행동으로 인한 기대보상 = 시점 $t$에 추정된 가치 = $Q_t(a)$

위와 같이 Notation이 적용될 때 세 가지 알고리즘을 아래와 같이 설명할 수 있다.

1. Greedy 알고리즘

한번씩 해보고 Reward가 가장 좋은 알고리즘을 선택 $A_t = argmax_a Q_t(a)$ : 현재 시점 $t$까지 기대보상 $Q_t(a)$를 최대화하는 Action a 선택

2. Epsilon Greedy 알고리즘

$1-\epsilon$의 확률로 Greedy 알고리즘 $A_t = argmax_aQ_t(a), \epsilon$의 확률로 랜덤하게 선택

3. Upper Confidence Bound(UCB) 알고리즘

Epsilon Greedy는 최적값과 멀어지게 탐색을 과도하게 하는 문제 따라서, 일종의 신뢰구간인 $N_t(a)$ = 현재 시점까지 행동 a를 한 횟수, $c = Hyperparameter$일 때

$$ A_t = argmax_a[Q_t(a)+c\sqrt{\frac{ln t}{N_t(a)}}]$$

를 통해 Action을 취함 : 분모에 $N_t(a)$를 넣어서 탐험하지 않은 행동에 가중치 부여

즉, A/B test는 각각 독립적인 실험을 진행하고 결과가 나타나면 좋은 버전으로 쭉 진행하는 방법이지만, MAB 알고리즘은 시점마다 Action의 비중을 다양하게 조절해가면서 최적의 결과를 추출한다는 차이를 확인할 수 있습니다.

[Causal Graphical Models]

Randomization은 평균적인 인과 효과만 확인할 수 있을 뿐, 어떤 사람들에게 더 효과적인지 세부적인 정보 확인은 어렵다.

이때 인과 그래프 모형(Causal Graphical Models)은 인과 관계를 Directed Acyclic Grapg(DAG)라는 그래프로 표현하는 방식으로 명확한 인과관계를 파악 가능하게 해줘 Randomization의 문제를 해결할 수 있는 방법론이다.

Causal Graphical Models은 Bayesian Network라고도 불리며 변수들의 결합확률 분포를 DAG로 나타낸 모형으로 딥러닝과 달리 조건부 확률이 투명하게 공개되므로 "White-Box Model"라고도 한다.

Bayesian Network B는 아래 두 가지 요소로 구성됩니다.

$$ G = Directed \ Acyclic \ Graphs (DAG) \

\theta = 조건부 \ 확률\ (Conditional \ probability)의 \ 집합$$

$G$는 방향성은 있고, 순환성은 없는 그래프를 의미한다. 위 그림에서 A~G를 각각 Node라고 하며 화살표를 Edge라고 합니다.

이때 A를 B의 부모라고 하며, B를 자식이라고 합니다.

또한, A가 B의 원인이라고 합니다.

이어서, $\theta$는 조건부 확률의 집합으로 조건부 확률의 식(Y가 y로 주어졌을 때 X의 확률)은 다음과 같습니다.

$$ P(X|Y = y) = \frac{P(X,Y = y)}{P(Y=y)} = \frac{P(Y|X)P(X)}{\sum_{x\in X}P(Y|X=x)P(X=x)}$$

이때 $\theta$는 변수 $X_i$의 모든 가능한 값 $x_i$에 대해 $\theta_{x_i|\prod_{x_i}} = P_B(x_i|\prod_{x_i})$의 확률들 집합을 의미하며, $\prod_{x_i}$는 DAG에서 표현된 $X_i$의 직계 부모의 집합을 의미합니다.

그러므로 Beyesian Network B는 다음의 결합 확률 분포로 표현 가능합니다.

$$ P_B(X_1, ..., X_n) = \prod^n_{i=1}P_B(X_i|\prod{X_i}) = \prod^n_{i=1}({\theta_{X_i}|\prod X_i})$$

위 식만으로 이해하기는 어렵기에 예시를 들자면

만약 $X_1 \to X_2 \to X_3$라는 DAG가 있다고 하면 $X_1$의 직계 부모는 없고, $X_2$의 직계 부모는 $X_1$, $X_3$의 직계 부모는 $X_2$입니다.

그러면 각 $\theta_{x_i}|\prod_{x_i}$는 다음과 같이 나타낼 수 있습니다.

첫번째 확률: $\theta_{x_1}|\prod_{x_1}=P_B(X_1)$

두번째 확률: $\theta_{x_2}|\prod_{x_2}=P_B(X_2|X_1)$

세번째 확률: $\theta_{x_3}|\prod_{x_3}=P_B(X_3|X_2)$

따라서 Beyesian Network B의 결합 확률 분포 식을 이용하면 다음과 같이 DAG의 결합 확률 분포가 계산됩니다.

$$ P_B(X_1, X_2, X_3) \ = P_B(X_1)P_B(X_2|X_1)P_B(X_3|X_1, X_2) \ = P_B(X_1)P_B(X_2|X_1)P_B(X_3|X_2)$$

[Potential Outcome]

마지막 인과관계 분석 방법은 Potential Outcome(잠재적 결과)입니다.

인과관계는 모든 결과를 관측할 수 없는 근본적인 한계가 존재합니다.

이때 잠재적 결과 방법론은 관측되지 않은 "가상의 결과"를 고려해서 처리 효과를 계산하는 방식으로 "이렇게 했다면 어땠을까?"를 계산하는 방법론입니다.

그리고 그 처리 효과를 다음 식으로 나타냅니다.

*Treatment Effect(처리 효과): $\tau = Y(1) - Y(0)$ *

즉, 이처럼 인과추론은 Counterfactual(반사실)을 추정하여 인과효과를 추정하는 기술입니다.

만약 그림의 왼쪽 표와 같은 데이터가 주어진다면, "?"라는 빈칸을 그냥 머신러닝을 이용해서 예측해서 채워넣으면 위의 오른쪽 표와 같이 데이터가 채워지게 됩니다.

그러면 $\tau = Y(1) - Y(0)$을 이용해서 처리효과를 계산할 수 있고 각 처리효과의 평균을 구할 수 있습니다.

그 평균 값을 Average Treatment Effect(ATE)라고 하며 이는 평균적인 처리 효과를 측정할 수 있도록 해줍니다.

하지만, ATE를 바로 사용하는 것엔 문제가 존재한다.

이는 Simpson's Paradox 때문이다.

Simpson's Paradox는 각 변수를 고려하지 않고 전체 통계 결과를 유추하다 발생하는 오류다.

예를 들어 처리(Treatment)와 결과(Y)에 모두 영향을 주는 Confounder(교란변수)가 존재한다면 결과가 달라질수도 있다.

위 경우라면 문제가 없을 수 있다. 하지만 교란변수가 존재한다면 아래와 같이 결과가 달라질 수 있다.

그렇다면 교란변수를 고려해줄 수는 없을까??

그 방법이 바로 Conditional Average Treatment Effect(CATE)입니다.

[Meta learner]

"Meta-learners for Estimating Heterogeneous Treatment Effects using Machine Learning(2019)"를 보면 머신러닝을 통해 CATE를 추정할 수 있습니다.

Meta learner는 크게 T-learner, S-learner, X-learner가 있습니다.

T-learner

T-learner는 Two Model이기 때문에 T-learner라고 불리며 처리를 받지 않은 개체와 처리를 받은 개체를 각각 다른 모형 M을 사용해서 학습하고 이들의 차이로 CATE를 추정합니다.

S-learner

이어서 S-learner입니다. S-learner는 Single Model이기 때문에 S-learner라고 불립니다.

Y를 반응변수로 두고 처리여부를 같이 설명변수로 설정하여 모형 M을 학습시킨 후, W=1일 때의 추정값에서 W=0일 때의 추정값의 차이로 CATE를 추정합니다.

X-learner

마지막으로 X-learner입니다. X-learner는 Cross라는 의미에서 X-learner라고 불립니다.

방법론은 다음 4가지 과정을 통해 구성됩니다.

1. T-learner 처럼 처리를 받은 개체와 받지 않은 개체를 나누어 $\hat{u_0}$, $\hat{u_1}$을 계산 $\to$ first stage

2. 이 모델의 예측값을 다시 반사실로 사용하여 X와 차이를 학습 $\to$ CATE 0, CATE 1

3. 마지막으로 CATE에 가중평균 g(x)을 곱하여 CATE Final 계산

4. T-learner이 가지고 있는 대상군, 대조군 사이의 데이터 양의 차이를 해결

[Conclusion]

AI 모델은 데이터의 패턴을 파악하여 상관관계를 학습하는 task에는 뛰어난 성능을 보여주지만 왜 그런 결과가 나왔는지 원인을 밝히는 데에는 아직 많은 한계가 존재한다.

이를 위해서는 상관관계가 아닌 인과관계를 추론할 주 알아야 하며, 최근에는 ML/DL을 활용하여 인과를 추론하는 연구가 활발하게 진행되고 있다.

그 외에도 DID(이중차분법)이나 SCM(통제집단합성법)과 같은 통계적인 기법들도 많이 사용한다.

출처: 참고 유튜브 채널 링크

빅데이터 시대에 접어들면서 AI가 개발되고 많은 분들이 머신러닝을 배우고 있습니다. 그러면서 함께 떠오른 것이 상관관계의 중요성입니다. Prediction 중심 모델과 빅데이터라는 대수의 법칙은 인과관계보다 상관관계만 있어도 충분히 좋은 모델링을 할 수 있다는 생각이 퍼지게 만들었습니다.

물론 이는 부정할 수 없는 사실입니다. 하지만 모든 연구 주제에서 그렇다고 할 수 있을까요?

만약 어떠한 일에서 원인을 찾아야 한다면 상관관계에 있는 요인을 수정한다고 해서 해결할 수 있을까요? 당연히 아닙니다.

그래서 이번 시리즈는 인과관계를 다루는 분야이자 제가 생각하기에 현재 통계학이라는 분야에서 가장 트렌디한 분야, Causal Inference를 가지고 왔습니다. 재밌게 글을 읽어주셨으면 좋겠습니다.

[Potential Outcome Framework]

우리는 다음 게시물에서 무작위 실험(Randomized Controlled Trual)에 대해 다루고자 한다.

이때 무작위 실험과 같은 실험적 사고방식이 사실 Design-based approach의 가장 핵심이라고 볼 수 있다.

하지만 무작위 실험이 왜 인과추론에서 기준점이 될 수 있을까???

이 질문에 대답하기 위해서는 이번 게시물에서 다룰 Potential Outcome Framework(잠재적 결과 프레임워크)에 대한 이해가 필수적이다.

우리가 어떤 효과를 검증할 때 가장 많이 하는 것이 바로 비교다. 이때 문제는 "무엇과 비교하는냐"이다.

이런 관점에서 Potential outcome Framework는 우리가 인과관계를 정의하고 측정할 때 어떤 대상과 비교를 해야 하는지에 대한 명확한 가이드를 제시하는 역할을 한다고 이해할 수 있다.

여기서 가장 핵심이 되느 개념이 바로 반사실, Counterfactual("What if the treatment was not applied?")이다.

말그대로 반사실이란 개념은 Potential Framework, 잠재적 결과에 관한 것이다.

예를 들어 어떤 특정 Treatment, 특정 원인이 있다고 생각을 해보면 만약 "해당 Treatment가 없었다면? 있었다면?"과 같은 특정 Treatment의 인과적인 효과에 대해 잠재적인 결과의 차이로서 정의하고 측정할 수 있다고 보는 관점이 바로 이 Potential Outcome Framework다.

그러므로 만약 운동의 효과를 측정하고자 한다면 현재의 몸 상태나 내 친구도 아니고 내 과거도 아니고 바로 내가 만약 운동을 하지 않았더라면 있었을 잠재적인 나의 몸 상태와 비교를 해야만 우리가 제대로 된 비교를 할 수 있는 거고 운동의 인과적인 효과를 측정할 수 있다고 주장하는 것이다.

그리고 이때 이 잠재적인 결과를 우리는 "Counterfactual"이라고 하고 이 "Counterfactual" 개념이 바로 Potential Outcome Framework가 인과관계를 정의하는 방식이라고 볼 수 있다.

[Fundamental Problem of Causal Inference]

이때 다음과 같은 질문이 따라올 수 있다.

잠재적 결과와 비교하는 것도 이해되고, 직관적이며 인과적인 효과를 분석하는데에서도 굉장히 합리적인 것은 알겠는데, 문제는 현실에서는 그런 비교가 불가능하지 않나?

자, 어떤 Treatment에 대해서도 두 가지의 Potential Outcome Framework이 있을 것이다.

하지만 현실에서는 두 가지의 잠재적인 결과 중에 하나만 현실에서 나타나고, 한가지의 결과만 우리는 관찰가능하다.

이를 "Fundamental Problem of Causal Inference라고 부른다.

만약 Causal Inference 시리즈의 이전 게시물인 반려동물과 우울증의 관계 사례에서도 우리가 반려동물을 키우는 사람들과 키우지 않는 사람을 직접 비교할 때 만약 우울 성향이 높은 사람들이 반려동물을 키우는 경향성이 높다고 한다면 애초에 이 비교가 공정하지 않을 수 있다.

다시, Potential outcome 관점에서 생각해보면 반려동물 입양 후에 우울증 성향과 반려동물을 입양하지 않았을 경우의 Counterfactual을 비교를 할 때만 비로소 반려동물이 우울증 감소에 미치는 영향을 제대로 분석할 수 있다는 것을 이해할 수 있다.

왜냐하면 특정 사람에 대한 Counterfactual를 구하는 것은 굉장히 어렵기 때문이다.

하지만!

만약 어떤 Treatment 그룹(처치군: Subject 1, 2) 전체를 놓고 본다면 전체의 어떤 평균적인 특성을 생각할 수 있고 한 개개인의 Counterfactual를 구하는 것은 어렵겠지만 어떤 한 집단의 평균적인 특성에 유사한 Counterfactual은 상대적으로 용이하게 유추할 수 있다고 생각할 수 있다.

그렇기 때문에 우리는 이 평균적인 인과관계의 효과는 상대적으로 수월하게 추정해볼 수가 있다.

이런 관점에서 인과추론 분야에서 가장 기본이 되는 추정이 바로 Average Treatment Effect(ATE)다.

ATE는 처치군이 Treatment를 받지 않았다면 있었을 Counterfactual과 Controlled Group(대조군)에서 만약 Treatment를 받았다면 있었을 Counterfactual, 이것들을 모두 고려해서 이 처치군과 대조군 모두의 평균적인 효과를 ATE라고 한다. (즉 위 표의 모든 빈칸을 채웠을 때 비교)

그리고 이때 처치군의 효과만(처치군의 빈칸만) 구하면 ATT(ATE on the Treated), 대조군의 효과만 구하면 ATU(ATE on the Untreated)라고 한다.

이렇듯이 ATE로 평균적인 효과를 구할 수 있겠지만 사실 진짜 궁금하고 현실에서 더 유용할 수 있는 것은 개개인에 대한 인과적인 효과인 Individual Treatment effect(ITE)이다.

그래서 자연스럽게 인과추론의 최종 목표는 ATE에서 ITE로 가는 데에 있고 그래서 완벽하게 개인화된 건 아니더라도 몇 가지 특성에 따라서 인과적인 효과가 다른 거를 측정할 수 있는 방향으로 인과추론 분야가 발전해나가고 있다.

이때 이런 성별, 나이와 같은 특성에 따른 인과적인 효과를 Conditional ATE(CATE) 또는 Heterogeneous Treatment effect(HTE)라고 한다. 이 부분은 나중에 다룰 게시물에서 자세하게 설명하겠다.

정리하면 Potential Outcome Framework는 인과관계를 어떻게 정의할 지 명확한 틀을 제시함으로써 그것의 문제가 무엇인지 그리고 그걸 해결하기 위한 전략이 무엇인지를 명확하게 보여준다.

[Selection bias]

위 설명을 통해 개념적으로는 인과추론이 이해가 되었을 겁니다.

하지만 아직 몇가지 생각할 점이 더 있습니다

우리가 인과적인 효과를 추정하기 위해 필요로 하는 것은 Treatment에 따른 잠재적인 결과, Counterfactual이다. 하지만 현실에서 우리가 관찰가능한 건 실제 Treatment를 받지 않은 대조군 뿐이라는 것이다.

즉, 인과추론의 여러 고려사항 중 하나는 처치군과 대조군이 같지 않다는 것이다.

따라서 우리는 Counterfactual에 가장 가까운 대조군을 찾아야만 한다. 그리고 이렇게 처치군과 대조군이 다르다는 문제를 Selection bias(선택편향)라고 한다.

왜 선택편향이라는 이름으로 부르냐면 우리가 실험을 진행할 때 임의대로 배정을 하지 않는다면 개개인들은 각자의 이유로 Treatment를 받을지 말지를 선택한다. 이때 연구자 입장에서는 그 이유를 알 수가 없다.

즉,Treatment 여부 말고도 그 결정을 내리는 데에 있어서 여러 방면에서 특성이 다를 수 밖에 없고 그렇기에 이를 선택편향이라고 한다.

또한 이렇게 Treatment를 선택할지 말지 이런 선택이 다양한 요인에 얽혀서 내생적으로 결정된다는 측면에서 이를 endogeneity 라고 한다.

그러므로 선택편향이나 endogeneity에 따라서 처치군과 대조군에 있는 두 그룹에 있는 사람들의 특성이 다를 수 밖에 없다는 걸 선택편향이라고 하며 이런 선택편향 때문에 서로 차이가 크다면 단순 치환으로는 제대로 설명되지 않으며 비교가 불가능하다.

그래서 인과추론 문제를 위해서는 처치군과 대조군의 특성을 비슷하게 만들어서 결과적으로 이 선택편향을 없애야 한다. 이런 조건을 라틴어로 Ceteris Paribus 라고 한다.

다시 말해 대조군이 Treatment를 받지 않았다는 조건을 제외하고 나머지 특성에서 처치군과 모두 평균적으로 비교가능한 상태, 이를 Ceteris Paribus 라고 한다는 것이다.

이는 인과추론에서 매우 중요한 대원칙이라고 할 수 있다.

이 Ceteris Paribus 를 만족할 때만 비로소 우리는 이 Counterfactual로 대신할 수 있는 거고 그렇게 해야만 처치군과 대조군의 차이를 통해서 ATT를 구할 수 있게 되는 것이다.

[STUVA]

인과추론에서 Potential Outcome Framework가 성립하기 위한 기본 가정이지만 가장 많이 간과되는 것 중 하나가 바로 Stable Unit Treatment Value Assumption(SUTVA)이다.

이는 두 개의 가정을 하나로 합쳐놓은 가정으로 첫번째 가정은 Counterfactual Consistency이다.

Potential Outcome Framework에서 엄밀히 Causal effect는 이 Potential Outcome들의 차이로 정의된다. 다시 말해 Treatment가 있을 때 Potential Outcome하고 없을 때 Potential Outcome의 차이가 바로 Causal effect라고 정의된다는 의미입니다.

그런데 우리가 사실 Causal effect를 추정할 때는 다시 돌이켜보면 Treatment를 받은 실제 Outcome가 있고, 그리고 만약 Treatment를 받지 않았을 경우의 잠재적 결과가 있고 그 차이를 이용하여 우리가 인과적인 효과를 구할 수 있는 건데 우린 이 Counterfactual을 지금 구할 수가 없다.

그렇기 때문에 우리는 Ceteris Paribus를 만족하는 이 대조군을 통해서 대신 추정함으로써 인과적인 효과를 실질적으로 이제 추정을 할 수 있었다.

근데 이게 성립하려면 한 가지 조건이 더 필요하다.

그건 바로 Treatment가 있을 때의 잠재적 결과가 관찰된 Observed Outcome과 같아야 한다는 가정이고 이것을 이제 Consistency라고 한다.

앞에서 인과추론은 결국 원인에 대해 개입함으로써 결과를 내려고 하는 분야이기에 원인 변수가 manipulability 해야한다는 것이 중요하다고 언급했는데, manipulability가 없는 변수(ex. 비만 - 정도의 차이지, 1 or 0 상태로 명확하게 나눌 수 없음)를 원인변수로 고려한다면 특히 이 Counterfactual Consistency에서 문제가 발생할 수 있다.

예를 들어 비만의 경우 비만일 때의 건강 상태와 비만이지 않을 때 잠재적인 건강 상태를 비교해야 하는데, 사람들이 비만이 될 때는 다양한 원인이 존재할 수 있습니다. 야식을 먹는다거나 칼로리가 높은 식단을 먹는다거나 운동을 전혀 하지 않는다거나 그런 다양한 이유가 있을 수 있겠죠.

그렇게 서로 다른 이유로 비만이 된 사람들에게서 관찰되는 이런 Observed outcome, 그들의 건강 상태는 각각 다를 겁니다.

상식적으로도 야식을 먹어서 비만이 된 사람과 운동 부족으로 비만이 된 사람들의 건강 상태는 다르다는 것은 쉽게 예상이 가는 부분입니다.

다시말해 각자 다른 원인에 의해서 비만이 된 사람들이 있을 수 있기 때문에 그 원인에 따라서 그 사람들의 관찰되는 결과는 다를 수 밖에 없습니다.

그러므로 Counterfactual Consistency에 위배된다는 것이다. 따라서 manipulable하고 그에 따른 Counterfactual과 그리고 잠재적 결과를 명확하게 정의할 수 있는 이런 Treatment를 디자인을 하는 게 이 Counterfactual Consistency 측면에서 굉장이 중요하다.

두번째 가정은 No Interference이다.

이는 각자의 잠재적 결과가 서로 간섭과 영향이 없어야 한다는 것이다. 쉽게 말해 Treatment를 받은 사람의 결과와 Treatment를 받지 않은 사람의 결과는 전혀 관련이 없고 그들에게서 영향도 받지 않아야 된다는 거고 그 반대도 마찬가지라는 것이다.

그리고 Counterfactual Consistency와 No Interference를 합쳐서 Stable Unit Treatment Value Assumption(SUTVA)라고 한다.

이는 Potential Outcome Framework의 기본 가정이지만 간과하기 쉽기 때문에 주의할 필요가 있다.

[ATT, ATU and ATE]

앞에서 ATE, ATU, ATT의 차이를 개념적으로 한번 짚어봤습니다.

그러면 앞으로 인과추론을 배우면서 구하게 될 Causal effect, 인과적인 효과는 과연 ATE일까? ATT일까?

이 부분도 상당히 간과하는 부분이지만 굉장히 중요한 부분이다.

우리가 관찰 가능한 결과를 causal effect와 selection bias로 분리하면 이런 차이를 이해하는 게 훨씬 더 수월하다.

사실 우리는 이론적으로 필요한 것은 Counterfactual이다. 하지만 실제로 관측 가능한 건 처치받은 처치군과 처치 받지 않은 대조군의 결과이다. 하지만 해당 식을 정리하면 관찰되는 처치 효과는 Causal effect와 Selection bias의 합이라는 사실이 도출된다.

그런데 만약에 대조군과 처치군이 비슷하다면 선택편향 값이 무시할 수 있을 정도로 작아지고 그럼 우리가 관찰한 효과가 Causal effect와 같아지게 되는 것이다.

그럼 이제 우리가 여기서 구한 Causal effect란 무엇일까? 이게 ATE일까?

그 해답은 역시 위의 식에 있다.

위 식을 보면 그룹에서 Treatment를 받았을 때 결과와 Counterfactual의 차이를 지금 구할 수 있다. 그러니깐 여기서 사실 말하는 Causal effect는 처치군에서의 효과를 의미한다.

그러니깐 사실 우리가 구한 Causal effect는 사실상 ATE가 아니라 ATT라는 것이다.

결국 이 Potential Outcome Framework 하에서 우리의 어떤 추정 전략은 대조군의 결과를 가지고 처치군의 Counterfactual를 추론함으로써 이 처치군 내의 인과적인 효과를 추정하는 데에 국한 되어 있었다는 것을 의미한다.

그렇기 때문에 만약 반대 상황 즉, 대조군이 Treatment를 받았다면 어땠을지에 대해서 우리가 이 처치군에서의 결과를 활용할 수 있을지에 대해서는 사실 확신할 수 없다는 것이다.

그러면 우리가 구한 ATT는 언제 ATE와 같아질까요??

예를 들어 처치군 샘플이 $\pi$, 대조군이 $1-\pi$만큼 있다고 할 때 ATE는 다음과 같고 이를 ATT를 중심으로 정리하면 위의 두번째 식과 같이 결과가 나오게 된다.

여기서 보면 우리가 데이터에서 관측할 수 있는 효과는 ATE와 Selection bias 말고 추가로 하나의 항이 추가된 것을 확인할 수 있다. 즉 그래서 해당 텀은 ATT와 ATU의 차이에 따른 bias이고 해당 bias를 Differential treatment effect bias라고 한다.

그러니깐 우리가 비교가능한 대조군을 만들고 선택편향을 없애도 실제로 우리가 추정한 결과가 ATE가 되기 위해서는 Differential treatment effect bias에 대한 항까지 없앨 수 있어야 한다.

그러기 위해서 고려해야하는 건 우선 $\pi \neq 1$이라는 것이다. 이는 두 그룹이 존재해야 하기에 당연한 거고 그러므로 Differential treatment effect bias에 대한 항을 없애기 위해서는 $ATT = ATU$를 만족시켜야 한다.

그래서 결국 처치군과 대조군의 특성이 매우 유사해서 각 그룹에서 인과적인 결과가 같을 때에만 우리가 비로소 $ATT = ATU$를 만족시킬 수 있고 그럼 우리가 데이터에서 관찰한 처치효과가 ATE가 되는 것이다.

그러니깐 예를 들어 우리가 실험을 하다가 처치군과 대조군을 반대로 배정하는 경우에도 결과가 동일하게 나와야 한다는 의미이다. 그리고 이는 앞에서 다뤘던 Ceteris Paribus 를 의미하는 것이기도 하다.

그런데 사실 경우에 따라서는 ATT와 ATU가 같지 않을 수 있고 그러면 우리는 ATE를 구할 수가 없게 된다. 그럼 ATT 그 자체로는 의미가 없을까? 그건 사실이 아니다.

ATT만으로 의미가 있는 경우도 많다.

왜냐면 실무적으로 회사에서는 굳이 ATE를 구할 필요가 없을 수도 있다.

예를 들어 회사 입장에서는 모든 고객들에게 동일하게 쿠폰을 제공할 이유는 없다. 그리고 수익성을 극대화하기 위해서는 쿠폰을 활용해서 쇼핑할 의지가 있는 고객들에 대한 쿠폰을 뿌리면 사실 그걸로 충분하다고 할 수 있다. 그러니깐 이런 경우에는 회사의 목적을 생각했을 때 ATE가 아니라 ATT만 알아도 충분하다고 할 수 있다.

따라서 우리가 인과추론을 통해서 구할 수 있는 효과는 ATT이고, 또 경우에 따라서는 ATT면 충분하기에 하고자 하는 연구나 데이터 분석 목적에 따라서 필요한 게 ATT인지 ATE인지 분명히 하는 것이 굉장히 중요하다.

그리고 만약 ATE를 구해야하는 상황이라면 처치군과 대조군 사이 Exchange에 대한 추가적인 검증이 필요하다. 그리고 이는 Potential Outcome Framework 하에서 가장 중요하다고 강조했던 Ceteris Paribus 가 중요한 이유이기도 하다.

결론적으로 인과추론을 진행할 때 우리가 실제로 구한 효과가 무엇이고 그 효과가 어느 집단에 적용될 수 있고 또 우리의 분석 목적이 어떤 효과를 구하고 싶은 건지 이런 점들에 대해 목적과 데이터의 특성을 신중하게 고려하는 것이 중요하다는 것을 유의해야 한다.

출처: 참고 유튜브 채널 링크

빅데이터 시대에 접어들면서 AI가 개발되고 많은 분들이 머신러닝을 배우고 있습니다. 그러면서 함께 떠오른 것이 상관관계의 중요성입니다. Prediction 중심 모델과 빅데이터라는 대수의 법칙은 인과관계보다 상관관계만 있어도 충분히 좋은 모델링을 할 수 있다는 생각이 퍼지게 만들었습니다.

물론 이는 부정할 수 없는 사실입니다. 하지만 모든 연구 주제에서 그렇다고 할 수 있을까요?

만약 어떠한 일에서 원인을 찾아야 한다면 상관관계에 있는 요인을 수정한다고 해서 해결할 수 있을까요? 당연히 아닙니다.

그래서 이번 시리즈는 인과관계를 다루는 분야이자 제가 생각하기에 현재 통계학이라는 분야에서 가장 트렌디한 분야, Causal Inference를 가지고 왔습니다. 재밌게 글을 읽어주셨으면 좋겠습니다.

[Correlation vs Causation]

본격적인 인과추론에 대해 배우기 전에 상관관계(Correlation)과 인과관계(Causation)에 대해서 알아보겠습니다.

인과관계란?

원인과 결과의 관계로, 어떠한 일에 대해 한 방향으로 작용하며 원인이 결과를 직접적으로 유발하는 관계를 의미합니다.

상관관계란?

두 변수가 함께 변하는 정도를 나타내는 개념으로 양방향의 의미를 가지며 단순히 함께 증가하거나 감소한다는 의미만 있을 뿐 A가 B를 유발한다고는 할 수 없는 관계입니다.

인과관계와 상관관계는 현실에서는 파악하기 쉬울 수 있으나 데이터로 살펴볼 때는 구분하기 상당히 어렵습니다.

구분하기 어려운 이유는 크게 3가지가 있습니다.

1. 교란변수(confounder)

교란변수란 독립 변수와 종속 변수에 모두 영향을 미치는 변수로 통제할 수 있으면 문제가 되지 않으나 통제하기 힘든 변수(ex. 개인의 타고난 능력, 부모의 학구열) 등은 인과관계를 밝히는 데에 방해가 될 수 있다.

2. 매개변수

매개변수란 독립변수와 종속변수 사이의 관계를 더욱 잘 설명해주는 중간 변수이다. 예를 들어 대학교육과 소득의 관계를 파악하는 분석에서 자녀 수, 직업군 등이 있다.

3. 조절변수

조절변수란 두 변인간의 관계를 결정하는 제 3의 변인을 말하며 독립변수가 종속변수에 미치는 영향을 강화하거나 완화한다. 예를 들어 대학교육과 소득 간의 관계를 연구할 때 성별이나 생년월일 등이 영향을 미칠 수 있다.

이러한 요인들로 인해 데이터 상에서 인과관계와 상관관계를 구분하기는 매우 어렵다.

그럼 이제 상관관계와 인과관계의 차이와 구분이 어렵다는 점에 유의하며 인과추론에 대해 살펴보자

[인과추론의 역사: 신뢰성 혁명]

인과추론의 역사는 1983년 계량경제학 내지 통계학을 비판하는 논문인 E. LEAMER의 "Let's Take the con out of Econometrics"에서 시작한다.

*"One or several that the researcher finds pleasing are selected for reporting purposes"* (p.36)

위 논문에서는 통계학적 분석은 여러 가정을 수반하며, 어떤 모델을 사용하는지, 어떤 데이터를 사용하는지에 따라 결과가 달라진다고 주장하며 통계 모델의 현실 적용 가능성에 대한 신뢰성을 의심한다. 그러면서 통계 모델에 대한 민감도 분석을 대안으로 제시한다.

이에 대해 약 30년 후 Joshua D. Angrist et al.는 The Credibility Revolution in Empirical Economics: How Better Research Design is Taking the con out of Econometrics에서 반박했다.

LEAMER의 통계 모형 중심의 비판에는 동의하면서도 해결 방법이 통계 모형에 대한 민감도 분석이 아니라 잘 설계된 리서치 디자인에 있다는 것이다.

이를 Credibility Revolution이라고 하며 이 주장을 통해 연구가 통계 모델 중심에서 리서치 디자인 중심의 분석으로 패러다임 변화가 가속화되었다.

RCT(Randomized Controlled Trial)을 시작으로 Quasi-Experiments(준실험 방법론)가 발전하면서 실험 불가했던 상황을 실험할 수 있도록 하는 방법이 고안되었고 특히 준실험 방법론은 인과추론이라는 분야가 발전하는데 크게 기여했다.

David A. Freedman은 전염병 역학의 아버지인 존 스노의 콜레라 원인을 밝혀낸 사례를 이야기 하며 존 스노는 통계 모형이 아닌 기발한 논리로 고안한 자연 실험과 그에 적합한 데이터를 수집한 것이 그의 업적이라고 주장했다.

이를 비유적으로 Shoe Leather이라고 하며 인과 추론이 가능하게 한 건 리서치 디자인에 기반한 연구와 좋은 데이터를 수집하려는 노력이라고 주장했다.

이러한 과정으로 발전한 인과추론은 위와 같은 세 분야에서 적용되는 연구가 2010년대에 접어들며 급격히 증가 중이며, 이외에도 다양한 분야에서 현재 인과추론 기법들이 사용되기 시작하고 있다.

특히 2020년대부터 Synthetic control이라는 일명 SCM 방법론이 등장하며 이를 이용한 다양한 연구들이 진행되고 있다.

[Challenges in Causal Inference]

"Correlation does not imply causation"

상관관계는 인과관계를 암시하는 건 아니다.

이 한 문장이 인과추론 분야에서 어려움을 한 마디로 요약한다.

다시 말해, 데이터에 내재된 Correlation과 Causation을 구별하는 것은 어렵다는 것이다.

예를 들어 추천시스템이 있다.

만약 추천시스템이 없더라도 구매할 상품이었다면 이는 Correlation이라고 할 수 있다. 반면 원래 구매할 의향이 없었지만 인플루언서의 추천, 추천 시스템의 추천으로 구매하는 경우는 명확한 인과관계가 있는 Causation의 경우이다.

만약 추천시스템을 평가하는 데에 있어서 Causation 뿐만 아니라 Correlation까지 포함한다면 추천시스템의 성능이 과대평가될 수 있다. 하지만 Correlation과 Causation을 데이터에서 구별하는 것은 매우 어렵다.

또 다른 예시로는 반려동물과 우울증과 관련된 연구가 있다.

전체적으로 보면 왼쪽 그림과 같이 반려동물을 기르지 않는 집단은 78%의 우울 가능성을 보이지만 반려동물을 기르는 집단은 83%의 우울 가능성을 보인다.

하지만 우울증을 가지고 있는 집단과 그렇지 않은 집단으로 나눠서 반려동물을 기르기 전과 후의 우울 가능성을 조사하면 두 집단에서 모두 우울 가능성이 하락한 것을 볼 수 있다.

다음과 같은 연구는 사실 우울증에 걸린 사람들이 일반적으로 반려동물을 기르는 경우가 많기 때문에 전체적으로 볼 때 반려동물 기르는 사람들의 우울 가능성이 높게 나오는 것이라는 사실을 알려준다.

이를 심슨의 역설(Simpson's paradox)이라고 하며 이러한 현상은 같은 데이터임에도 리서치 디자인에 따라 다른 결과가 나온다는 것을 의미한다.

이어서 다른 예시도 살펴보자

다음과 같은 표가 있다고 하자 Total로 보면 A가 좋지만 경미한 집단과 중증인 집단으로 구분해서 보면 B가 좋다. 이를 심슨의 역설이라고 하는데, 이 경우 Causual Structure에 따라 어떤 treatment가 좋을 지가 달라진다.

만약 S(증상의 정도)가 Treatment와 사망률 사이의 교란변수라면 Treatment B가 더 좋은 결과를 가진다.

반면 S가 매개변수라면 Treatment A가 더 좋은 결과일 수 있다.

이러한 결과는 결국 Causal structure를 결정하기 위해선 주어진 데이터 이상의 도메인 지식이 필요하다는 것을 의미한다.

또한 도메인 지식이 인과적 의사결정으로 연결될 수 있도록 하는 체계적인 분석 툴이 필요하다고 볼 수 있다.

즉 정리하자면 데이터 내에서 상관관계와 인과관계를 구분하는 것은 매우 어려우며 이를 구분하기 위한 Causal structure를 결정하기 위해서는 주어진 데이터 이상의 도메인 지식과 도메인 지식이 인과적 의사결정으로 연결될 수 있도록 하는 체계적인 분석 툴이 필요하다는 것이다.

그리고 그 분석 툴이 바로 이번 시리즈에서 배울 Causal Inference이다.

[Can Big Data and AI be a Remedy for Causal Inference?]

Big data와 AI의 발전은 인과추론의 해결책이 될 수 있을까?

Big data 시대에서는 인과분석이 점점 어려워진다. Big data 시대일수록 도메인 지식이 더 많이 필요하고 이를 리서치 디자인으로 반영해야하기 때문이다.

위 슬라이드의 왼쪽 책에서는 Big Data의 등장으로 대수의 법칙과 같은 효과로 인해 Causation의 중요성이 점점 줄어들고 Correlation의 중요성이 점점 증가하고 있다고 주장한다. 하지만 Naumi and Westreich (2014)는 상관관계와 인과관계가 같지 않다고 비판한다.

또한 결국 ML/AI는 특정 패턴 예측에 특화된 Prediction 모델이기 때문에 Causal Machine의 중요성이 증가한다고 주장한다.

따라서 염두에 둬야할 것은 일반적인 ML/AI는 상관관계 기반의 Prediction 방법론이기 때문에 인과관계를 알기 위해서 필요한건 Big Data, ML 방법론, GPU 같은 게 아니라 Causal Model과 Causal Framework가 필요하다.

• 다만 머신러닝의 필요가 아예 없는 것은 아니며 인과추론 방법이 추가된 머신러닝 모델이 개발 중이다.

Causal inference tells us what we should estimate and whether we can (identification), whereas statistical models and machine learning models tell us how to estimate it with data (estimation).

기본적으로 인과추론이라는 분야는 통계에 뿌리를 두고 있으나, 통계는 데이터로 통계 모형을 추정하는 게 관심사라는 것에서 인과추론과 차이가 있다.

인과추론은 관심있는 인과적 효과를 명확히 정의하고 추정가능한지, 가능하다면 어떤 가정과 조건이 필요한 지를 정의한 후 이런 가정을 충족키시기 위하여 어떤 통계 모델이나 ML을 사용할 것인지를 결정해야 한다.

즉 인과추론의 핵심은 "인과추론이 어떤 조건에서 가능한지 여부를 결정하는 Identification과 실제 데이터로 이를 추정하는 Estimation 과정을 분리해서 생각하는 데에 있고 이런 인과추론의 조건을 이해하는 체계적 틀을 제공해주는 것이 바로 Causal Model이나 Causal Framework이다."

그래서 많은 경우 인과추론의 가능 여부는 데이터를 보기 전에 상당 부분 결정이 되고 이게 우리가 배울 Design based approach의 핵심이다.

[When is Causal Inference Necessary]

인과추론은 언제 필요할까?

인과추론에서 가장 중요한 점은 원인변수(Treatment)를 조작 가능해야 한다는 것이다.

예를 들어 위 그림에서 Gender와 같은 요소는 조절이 불가하다. 따라서 인과추론 관점에서 적절한 연구 디자인은 아닐 수 있다. (but 연구문제라고 하면 맞다.)

즉, 이럴 때에는 Picture Put in Resume나 Public Policies가 인과추론 관점에서 연구 디자인에 사용될 수 있다.

동일한 현상, 동일한 데이터를 분석하더라고 분석 목적에 따라서 연구가 달라진다는 것에 유의해야한다. 예를 들어 위 그림에서 Input에 집중하면 인과추론 중심의 연구가 되는 것이고 Output에 집중하면 예측 중심의 연구가 된다. 예측 중심의 연구에서는 굳이 원인을 알 필요가 없으며 예측에만 도움이 되면 되기 때문이다.

또한 분석의 목적에 따라서 필요한 데이터가 바뀌어야만 하는것도 아니다. 그저 방법론만 바뀔 뿐이다.

인과추론이 필요한 예시는 위와 같은 세 가지 주제가 있는데 이들의 공통점은 잠재적인 가정들에 답하기 위한 연구 주제로 Intervention의 여지가 될 수 있는 문제들이라는 것이다.

모든 연구 과제가 인과추론을 필요로 하는 것은 아니기에 예측 중심의 과제면 머신러닝이 더 좋을 수 있다. 그러므로 알맞은 주제에 적합한 방법론을 선택하는 것이 중요하다. 또한 여러가지 방법론을 알고 있어야 다양한 문제에 대응 가능하다는 점을 알아두어야 한다.

좋은 방법론은 좋은 연구에 있어 필요조건이지, 충분조건이 아니다. 좋은 연구, 데이터에 적합한 방법론이 있을 때 좋은 결과가 나오며 오히려 방법론에 너무 경도되면 해당 연구에 (-) 요소가 될 수 있다.

그러므로 인과추론은 원인변수를 조작 가능한 연구에서 분석 목적이 INPUT에 있는 Intervention-Oriented research에서 사용될 때 적합한 방법론이며 이 경우 인과추론을 사용한다면 연구에 대해 정확한 결과를 도출할 수 있다는 것이다.

그럼 여기까지 인과추론의 개괄적인 소개에 대해서 알아보았고, 2주차에서 다음 내용을 이어서 다뤄보도록 하겠습니다.

관련 링크: https://paperswithcode.com/method/gan

[초록]

우리는 "데이터 분포를 따라잡는 생성 모델(Generative model) G"와 "어떤 샘플이 G 모델이 생성한 데이터보다 실제 훈련 데이터에 속할 확률을 추정하는 판별 모델(Discriminative model) D"라는 두 가지 모델을 동시에 훈련시키는 적대적 과정을 통한 generative model을 추정하는 새 프레임워크를 제안한다.

G를 위한 훈련 절차는 D가 실수할 확률을 극대화하는 것이다. 이 프레임 워크는 minimax two-player game과 같다.

훈련 데이터의 분포를 밝혀내는 G가 있고 어디서든 $\frac{1}{2}$의 값을 가지는 D가 있는 G와 D의 임의의 공간에서, 유일한 해가 존재한다.

G와 D가 다층 퍼셉트론으로 정의되는 전체 시스템에서 역전파를 통해 학습된다. 이때는 Markov chain이나 unrolled approximate inference networks 와 같은 거는 필요없다.

최대최소 게임(minimax game)

1. 가짜와 진짜를 구별할 수 없게 만들기 vs 가짜와 진짜를 구별하기
2. 상대방이 자신의 이익을 최대화 하는 결정을 내릴 것이라고 행동을 예측하고 그 결과를 바탕으로 나의 이익을 최대화 하는 결정을 찾아야 함

[Introduction]

지금까지 딥러닝 분야에서 눈부신 발전은 Piecewise linear units을 활용한 역전파와 dropout 알고리즘에 기반하여 발전했다.

반면 Deep general models은 MLE(Maximum likelihood estimation) 과정에서 많은 상호작용의 확률적 계산에 대한 근사의 어려움과 Piecewise linear unit 활용의 어려움으로 인해 임팩트가 적었다.

이에 우리는 이러한 어려움을 회피할 수 있는 새로운 generative model 추정 절차를 제안한다.

제안된 adversarial nets 프레임워크에서 생성모델은 적으로 경쟁하게 한다. 판별 모델은 샘플이 생성모델에서 왔는지 실제 데이터에서 왔는지 결정하도록 배우게 한다.

예를 들면, 생성모델은 위조지폐를 생산하고 이를 걸리지 않고 사용하는 위조지폐범이다. 반면 판별모델은 위조지폐를 탐지해야하는 경찰이다.

이 게임에서 경쟁은 위조물건이 걸리지 않을 때까지 두 팀이 그들의 방법을 향상시키도록 이끌어준다.

이러한 프레임워크는 특정한 훈련 알고리즘을 보여준다.

생성 모델이 다층 퍼셉트론을 통해 랜덤 노이즈를 전달받아서 샘플을 생성하고 판별 모델도 다층 퍼셉트론을 이용하여 샘플이 진짜 데이터인지 생성 데이터인지 판별한다. 우리는 이러한 Special case를 adversarial nets라고 한다.

이 case에서 우리는 역전파와 드롭아웃 알고리즘을 활용하여 두 가지 모델을 훈련시킬 수 있다. 또한 오직 순전파만을 활용하여 생성모델에서 샘플을 생산하도록 할 수도 있다.

piecewise Linear Unit(PLU)

다음과 같은 ReLU 함수와 같은 활성화함수들이 모두 PLU에 해당한다.

[Adversarial nets]

adversarial modeling framework는 모델들이 이중 레이어 퍼셉트론일 때 똑바로 적용할 수 있다. 데이터 $x$의 생성자의 분포 $p_g$을 배우기 위해 우리는 입력 노이즈 변수 $p_z(Z)$를 정의할 수 있으며, $G(z;\theta_g)$라고 Data Space에 Mapping 하여 나타낼 수 있다. 이때, $G(z;\theta_g)$는 파라미터 $\theta_g$인 다중 퍼셉트론으로써 표현되는 미분가능한 함수 이다.

이어서, single scalar를 결과로 나타내는 $D(x;\theta_d)$라고 정의되는 다중 퍼셉트론도 정의할 수 있다. 이때 $D(x)$는 입력 데이터 $x$가 $p_g$가 아니고 실제 데이터일 확률을 표현한다.

이를 통해 모델을 정의했다면 다음은 모델을 훈련시키는 과정으로 넘어갑니다. 모델은 동시에 훈련시키며 각 모델의 학습 목표는 다음과 같습니다.

• D : 학습 데이터셋과 G에서 만든 데이터에 correct label을 할당할 확률을 최대값으로 만드는 것

• G : D가 correct label을 제대로 할당할 수 없을 정도로 학습 데이터셋과 유사한 데이터를 만드는 것. 논문에서는 이를 "$log(1-D(G(z)))$를 최소값으로 만들려는 것$(log 1 = 0)$"이라 말했습니다.

In other words,

$D$와 $G$는 two-player minimax game을 진행합니다. 이때 목적함수는 $V(G,D)$로 다음과 같이 정의합니다.

$$ \min_G\max_D V(G,D) = E_{x \sim p_{data}(x)}[log D(x)]+E_{z \sim p_z(z)}[log(1-D(G(z)))]$$

이어서, 이러한 training criterion이 non-parametic limit 등등에서 $G$와 $D$가 데이터 생성 분포를 밝혀내는데 충분한 능력이 있다는 이론적 분석(theoretical analysis)을 보여주겠습니다.

위 그래프를 보면 이 방법에 대한 formal하진 않지만 교육적인 설명을 제공한다. 실질적으로 우리는 반복적이고 수학적인 접근으로써 이 게임을 구현해야한다. 훈련 과정 중 내부 loop에서 완료하는 것은 D를 최적화하는 것은 산술적으로도 불가하고 제한된 데이터셋에서는 과적합이 발생할 수도 있다. 그 대신에 우리는 $D$를 $k$ step 최적화하고, $G$를 one step 최적화하는 걸 번갈아 할 수 있다.

이러한 알고리즘은 $G$가 충분히 천천히 바뀌는 한 $D$를 최적해 주변에서 유지시켜준다.

In practice,

$V(G,D)$는 $G$가 잘 학습하도록 충분한 gradient를 제공하지 않을지도 모른다. $G$가 만약 잘 학습되지 않았다면 $D$는 높은 신뢰도(Confidence)를 가지고 샘플을 reject할 수 있다. 왜냐하면 그렇게 생성된 샘플들은 명백하게 훈련셋이랑 다르기 때문이다.

이러한 case에서 $log(1-D(G(z))$는 포화될 수 있다. 따라서 이럴 때는 $G$를 훈련시켜 $log(1-D(G(z))$를 최소화하는 게 아니라 $log(D(G(z))$를 최대화하도록 $G$를 훈련시킬 수 있다.

• "$log(1-D(G(z))$는 포화될 수 있다." 의미: $G$에서 생성되는 Sample들이 명백하게 기존 데이터와 다르기 때문에 $D$에서는 이를 틀렸다고 판정하여 0에 가깝게 $D(G(z))$를 반환합니다.
• 하지만 D(G(z))가 0에 가까워지면, log(1−D(G(z)))는 0 근처에서 포화(saturate)되어 변화량이 작아지게 됩니다. 이 경우 기울기가 매우 작아지기 때문에 G는 효과적으로 학습되지 않습니다. 따라서, 대안 목적함수로 $log(D(G(z))$을 사용하여 학습을 진행합니다.

[figure 설명]

Generative adversarial nets는 Discriminative distribution($D$, blue, dashed line)를 업데이트 시킴과 동시에 훈련된다. 이는 $D$가 데이터 분포(black, dotted line, $p_x$)의 sample과 생성된 분포인 $p_g$(green, solid line)의 sample를 구별할 수 있도록 하면서 학습이 진행되기 때문이다.

figure에서 아래쪽 수평선은 $z$가 뽑히는 영역이고, 위 수평선은 $x$의 영역이다. 또한 화살표는 $x=G(z)$로 어떻게 매핑되는지를 보여준다.

$G$는 $p_g$의 고밀도 지역에서 수축하고, 저밀도 지역에서 확장된다. 그럼 단계별로 figure를 이해해보자.

(a): $p_g$와 $p_{data}$는 분포 자체는 비슷하고, $D$는 부분적으로 정확한 분류기이다.

(b) $D$의 내부 loop를 통해 $D$는 생성된 sample과 원본 data를 구별하고 $D$는 $D^*(x) = \frac{p_{data}(x)}{p_{data}(x)+p_g(x)}$에 수렴한다.

(c) $G$를 업데이트한 후, $D$의 gradient는 $G(z)$가 더 기존 data로 분류되어지는 방향으로 바뀌게 해준다.

(d) 많은 훈련 step 후, 만약 $G$와 $D$가 충분한 효과를 가진다면 그들은 더이상 향상될 수 없는 지점($p_g=p_{data}$)에 이른다. 이때 판별모델(discriminator)는 두 분포를 다르게 판별할 수 없다. (이때, $D(x)=\frac{1}{2}$)

추가적으로 너무 잘 정리된 그림이 있어서 가지고 왔다. 출처: https://juniboy97.tistory.com/8

[Theoretical Results]

이 파트에선 위에서 제시된 GAN의 minmax game이 제대로 작동한다면, minmax game이 global minimum에서 unique solution 을 가지고 어떠한 조건에 만족하면 그 solution으로 수렴한다는 사실이 증명되어야 한다는 것을 수학적으로 입증하고 있습니다.

생성모델 $G$는 $G(z)$의 샘플 분포가 $z \sim p_z$일때 얻어지는 확률분포 $p_g$를 정의한다. 그러므로, $p_{data}$의 좋은 추정량으로 모이는 Algorithm 1은 충분한 훈련시간과 용량이 있다면 좋은 아이디어이다. 우리는 확률밀도함수 공간에서 수렴을 학습하는 모델의 무한한 능력을 제시한다.

[Global optimality of $p_g$ = $p_{data}$]

우리는 어떤 주어진 생성모델 $G$가 있을 때 최적 판별모델 $D$가 있다고 생각해보자

Proposition 1

$G$가 고정되었을 때, 최적 판별 모델 $D$은 다음과 같다. $$ D^*G(x) = \frac{p{data}(x)}{p_{data}(x)+p_g(x)}$$

proof)

어떤 $G$가 주어졌을 때, 판별모델 $D$의 목적함수는 $V(G,D)$를 극대화하는 것이다.

$$ V(G,D) = \int_x p_{data}(x)log(D(x))dx + \int_z p_z(z)log(1-D(G(z)))dz$$

$$ = \int_x p_{data}(x)log(D(x)) + p_g(x) log(1-D(x))dx$$

이때 적분 속 식을, (a, b)가 (0,0)이 아닌 실수 순서쌍일 때 $alog(y)+blog(1-y)$라고 나타낼 수 있다. (즉, $p_{data}(x)$와 $p_g(x)$를 $a, b$로 상수 취급)

$alog(y)+blog(1-y)$을 미분하여 최댓값을 구하면 다음과 같다.

$$ (alog(y)+blog(1-y))' \to \frac{a}{y} - \frac{b}{1-y} = 0$$

$$ a - ay - by = 0 \to (a+b)y = a$$ $$ y^* = \frac{a}{a+b}$$

따라서, $y$가 $\frac{a}{a+b}$일 때 최대이므로 다음과 같이 나타낼 수 있다.

$$ D^*G(x) = \frac{p{data}(x)}{p_{data}(x)+p_g(x)}$$

이를 다시 $V(G,D)$에 대입하면 다음과 같이 식이 전개된다.

$$ C(G) = E_{x \sim p_{data}}[log D^G(x)] + E{x \sim p_g}[log(1-D^_G(x))]$$

$$ = E_{x \sim p_{data}}[log \frac{p_{data}(x)}{p_{data}(x)+p_g(x)}] + E_{x \sim p_g}[log\frac{p_g(x)}{p_{data}(x)+p_g(x)}]$$

Theorem 1

The global minimum of the virtual training criterion C(G) is achieved if and only if p_g = p_{data}. At that point, C(G) achieves the value $-log4$

proof)

For $p_g = p_{data}$, $D^*_G(x) = \frac{1}{2}$

그러므로, $D^*_G(x) = \frac{1}{2}$라면 위 식을 통해 다음과 같음을 파악할 수 있다.

$$ C(G) = -log2 + (-log2) = -log4$$

그러므로 $C(G)$의 가장 좋은 가능한 값을 보기 위해 우리는 다음과 같음을 관찰해야한다.

$$ C(G) = E_{x \sim p_{data}}[-log2] + E_{x \sim p_g}[-log2] = -log 4$$

이때 해당 식을 다음과 같이 바꿀 수 있다.

$$ C(G) = E_{x \sim p_{data}}[log \frac{p_{data}(x)}{p_{data}(x)+p_g(x)}] + E_{x \sim p_g}[log\frac{p_g(x)}{p_{data}(x)+p_g(x)}] + log4 - log4$$

$log4$를 반으로 나누어 각 항에 다음과 같이 더해준다.

$$ C(G) = (E_{x \sim p_{data}}[log \frac{p_{data}(x)}{p_{data}(x)+p_g(x)}] + log2) \+ (E_{x \sim p_g}[log\frac{p_g(x)}{p_{data}(x)+p_g(x)}] + log2) - log4$$

$$ = E_{x \sim p_{data}}[log \frac{p_{data}(x)\times2}{p_{data}(x)+p_g(x)}] + E_{x \sim p_g}[log\frac{p_g(x) \times2}{p_{data}(x)+p_g(x)}] - log4$$

이때 KL Divergence는 다음과 같은 식으로 구성되는데,

이를 위 식에 적용하면 $p(i) = p_{data}(x), Q(i) = \frac{p_{data}(x) + p_g(x)}{2}$과 같은 방식으로 첫 항과 두번째 항에 적용할 수 있다.

그럼 다음과 같은 식이 도출된다.

$$ C(G) = -log4 + KL(p_{data} ||\frac{p_{data}+p_g}{2})+KL(p_{g} ||\frac{p_{data}+p_g}{2})$$

이때 KL은 Kullback-Leibler divergence(쿨백 라이블러 발산)이다.

위 식에 다음 Jensen-Shannon divergence(JSD)을 적용할 수 있다.

따라서 최종적으로 다음과 같은 식으로 도출된다.

$$ C(G) = -log4 + 2 \times JSD(p_{data} || p_g)$$

이때 JSD는 두 distribution이 일치할 때 0이 된다. 따라서 $C(G) = -log4$가 $C(G)$의 Global minimum이고, unique Solution은 $p_g = p_{data}$일 때이다.

즉, two-player minimax game의 global optimality는 $p_g = p_{data}$뿐이다.

그러므로, data generating process를 완벽하게 복제하는 모델이 완성된다!

[정보이론 정리]

Kullback-Leibler divergence를 이해하기 위해선 부연 설명이 필요할 것 같아서 중간 단원을 나눴다.

정보량

통계학에서 정보량이란 "깜놀도"이라고 쉽게 이해할 수 있다. 많이 등장하는 변수의 경우 해당 정보의 희소성이 적다. 즉 정보량이 적다.

확률이 낮은 사건일수록 거의 일어나지 않을 일이기 때문에 정보량은 높다.

예를 들어 (1,1) 주변 점들이 많고, (10, 13)이라는 점이 하나 있는 산점도가 있을 때 (1,1) 주변 점들 각각의 정보량은 (10, 13)에 있는 점보다 적다는 의미이다. 이를 수학적으로 다음과 같이 나타낸다.

따라서, 정보량은 다음과 같이 나타낼 수 있다.

조금 더 구체적으로, 통계학에서 정보량은 다음과 같이 정의한다. 이산 랜덤변수 $X$에 대해, $$ I(x) = -log_b(P(X))$$ 이때, 로그의 밑 b는 응용 분야에 따라 다르게 쓸 수 있는데, 대게 b는 2, e, 10 중 하나를 사용할 수 있다. (각각을 사용했을 때의 정보량의 단위는 bit, nit, dit이다).

왜 로그를 통해 정보량을 정의하냐면 정보에 대한 아래의 개념들을 만족시킬 수 있는 수식이어야 하기 때문이다.

1) 확률값(혹은 확률밀도 값)에 반비례 해야 하기 때문.

2) 두 사건의 정보량을 합치면 각 사건의 정보량을 합친 것과 같아야 함.

그리고 음수인 것은 로그함수를 사용했기 때문에 반비례로 만들어주기 위해 사용하였다.

출처: https://angeloyeo.github.io/2020/10/26/information_entropy.html

Entropy

통계학에서 엔트로피란 평균 정보량을 얘기한다. 엔트로피는 "정보량이 생산되는 과정에서, 이를 표현하는데 필요한 최소 자원량의 기댓값"이다.

다음과 같은 수식으로 표현되는데,

이는 특정 정보량을 표현하는데, 특정 확률변수의 확률이 높으면 ($p_i$가 높으면), 해당 확률변수를 표현할 자원량($log (1/p_i)$) 이 줄어들게 된다는 것을 의미한다.

Cross Entropy

엔트로피에서 두 확률분포의 차이를 구하기 위해 사용되는 게 크로스 엔트로피다.

엔트로피 식과 비교했을 때 확률과 정보량이 서로 다른 분포라는 차이가 있다.

즉 entropy는 확률분포 P를 따르는 환경에서 정보량이 생산될 때, 이를 표현하는데 필요한 최소 자원량의 기댓값이며,

corss entropy는 확률분포 P를 각각 따르는 환경에서 정보량이 생산될 때, 확률분포 Q를 따르는 환경이라 생각하고 정보량을 표현하는데 필요한 자원량의 기댓값인 것이다.

Kullback-Leibler divergence

위키백과에서 Kullback-Leibler divergence은 어떠한 확률분포 P가 있을 때, 샘플링 과정에서 그 분포를 근사적으로 표현하는 확률분포 Q를 P 대신 사용할 경우 엔트로피 변화를 의미한다.

그렇다. 엔트로피 변화이므로, 엔트로피에서 크로스 엔트로피를 뺀 값이 바로 KL Divergence이다. 즉, 현재 분포에서 다른 분포로 바꾸기 위한 비용이 바로 KL Divergence다.

이렇게 KL divergence의 의미를 이해하고 나면, KL divergence의 두가지 대표적인 특징도 쉽게 이해할 수 있다.

1) KL divergence의 값은 0이상이다.

2) KL divergence의 값은 asymetric 하다.

우선, H(p) 값이 최소 자원량의 기댓값이므로, H(p)는 무조건 H(p, q)보다 작을 수 밖에 없다. 따라서 H(p, q) - H(p) 인 KL divergence 의 값이 항상 0 이상인 것이다.

또한, p와 q의 위치가 바뀌면 KL divergence의 값 또한 바뀌게 된다. 따라서 KL divergence의 값은 symetric 하지 않고, asymetric 하다는 것을 확인할 수 있다.

출처: https://ddongwon.tistory.com/118

Jensen-Shannon divergence

KL Divergence는 asymetric하다는 특징이 있기 때문에 "거리"의 개념으로 사용하기에는 부적절하다. 따라서 $p, q$의 평균을 사용하여 Symmetric한 JSD를 사용한다면 "거리"의 개념으로 사용할 수 있다.

최종적으로 도출된 $$ C(G) = -log4 + 2 \times JSD(p_{data} || p_g)$$

이때 JSD는 두 distribution이 일치할 때 0이 되므로, $p_g = p_{data}$일 때 따라서 $C(G) = -log4$가 $C(G)$의 Global minimum이 된다.

Proposition2

if $G$ and $D$ have enough capacity, and at each step of Algorithm 1, the discriminator is allowed to reach its optimum given G, and $p_g$ is updated so as to improve the criterion

$$ C(G) = E_{x \sim p_{data}}[log D^G(x)] + E{x \sim p_g}[log(1-D^_G(x))]$$

then $p_g$ converges to $p_{data}$

이는 Algorithm 1을 통해 생성자의 분포 $p_g$가 점차 실제 데이터 분포 $p_{data}$에 수렴하는지를 보장하는지에 대한 증명이다.

즉, GAN이 적절히 학습된다면 G(생성자)가 만들어낸 데이터 분포가 실제 데이터 분포와 같아질 수 있음을 증명하는 부분이다.

proof) $V(G,D) = U(p_g, D)$를 $p_g$의 함수로 생각해보자

$U(p_g, D)$는 $p_g$에서 convex, convex function의 편미분 값은 최댓값을 얻을 수 있는 지역을 포함한다.

만약 다음 식과 같고, $f_{\alpha}(x)$가 모든 $\alpha$에 대해 $x$에서 convex할 때 다음과 같다면,

다음 식이 성립한다.

이는 최적 판별모델 $D$가 $p_g$에 대해 경사하강법을 수행하는 것과 같다. 그러므로 Theorem 1에서 보았듯이 $\sup_D U(p_g, D)$는 $p_g$에 대해 convex하며, 유일한 global optimum을 가진다. 그러므로 $p_g$가 조금씩 충분하게 업데이트가 된다면 $p_g$는 $p_x$로 수렴한다.

In practice,

GAN은 $p_g$의 전체적인 분포를 학습하기 보다는 $p_g$의 limited family를 학습할 뿐이다. 즉 $p_g$보다는 $\theta_g$를 조정하여 최적화한다.

따라서 $G$를 정의하는 다층 퍼셉트론을 사용하는 것은 parameter space에서 여러 개의 임계점(critical point)를 발생시킬 수 있다. 즉, 학습이 제대로 안될 수 있다.

하지만, 실용적으로 다층 퍼셉트론은 뛰어난 성능을 보이고 있으므로 이론적으로 완벽한 보장이 없더라도 충분히 실용적인 모델임을 확인할 수 있다.

Clustering은 알지만 Text Clustering이면 단어의 뜻도 고려해야 할 필요가 있을 것이라고 생각했습니다. 그런데 이 논문은 사용자의 목표까지 고려하는 Text clustering 방법론이라길래 어떻게 단어의 뜻을 고려하여 사용자의 목표에 맞게 군집화를 하는지 그 방법이 궁금해서 공부해봤습니다.

서울대학교 산업경영공학과 DSBA 연구실의 이상민님의 영상을 참고하였으며 참고한 링크는 아래에 있습니다. DSBA 논문 리뷰 영상

해당 연구 논문 링크는 아래에 있습니다. 논문 링크

[Introduction]

기존 Text Clustering 방법론들은 text Sample을 Vector로 Encoding한 후 Clustering 알고리즘을 진행합니다. 하지만 이런 방법론들은 해석가능한 Cluster를 구축하지 못하며 사용자의 목표를 반영하지 못한다는 문제가 있습니다.

그래서 이를 해결하기 위해 설명을 포함하는 연구가 줄곧 있어왔습니다.

해당 논문의 저자인 Ruiqi Zhong이 참여한 논문들을 살펴보면 다음과 같은 관련 연구가 있습니다.

Explaning Text Clusters

• 저자: 전체 Cluster를 완전히 포괄하지 못함.
• 두 분포 간 차이점을 생성하는 방법론을 제안하였으나 사용자의 목표(Goal)를 반영하지 않음.

Explaining Patterns via Language

• 저자: 제안 방법론과 가장 비슷한 논문
• 사용자의 목표(Goal)를 반영하나, 두 분포(Corpus)간 차이점만을 생성

GoalEX(본 논문)

• 사용자의 목표(Goal)를 반영하고 차이점이 아닌 전체 Corpus에서 Clustering 진행 시 Clustering에 적합한 설명(Explanation)을 생성하는 방법론

[Method]

[PAS(Propose-Assign-Select)]

최종 Input-Output

• Input: 텍스트 집합(Corpus) + 목표(Goal)
• output: Corpus 하위 집합(Cluster) + Cluster에 대한 설명(Explanations)

Notation을 먼저 짚고 넘어가면 다음과 같습니다.

Input X: Corpus (Text 집합) g: Goal(문자열) K: Cluster 수 (정수)

Output $C_k$ : $k$번째 Cluster $e_k$ : $k$번째 Cluster에 대한 Explanation (텍스트)

이때 Output은 3가지 조건을 가져야 합니다.

** 1) Goal-Related: Explanations이 Goal과 관련이 있어야 한다는 것 **

사용자의 Goal이 Sentiment를 기반으로 Clustering 하는 것이라면 *"긍정적인 Sentiment를 가지고 있음"* 이라는 Explanation은 Goal과 관련이 있지만 *"스포츠에 관한 것"* 이라는 Explanation은 Goal과 관련이 없음

** 2) Accurate Explanation: 각 Cluster가 Explanations에 의해 정확하게 기술되어야 한다는 것 **

각 Explanations은 서술어이므로 해당 Cluster의 모든 Sample에 대해 Correct하고 다른 Cluster의 Sample에 대해 Incorrect 해야함.

** 3) Minimal Overlap and Maximal Coverage: Cluster 간 최소한으로 겹쳐야 하고, Cluster들이 전체 Corpus를 Cover할 수 있어야 한다는 것**

이상적으로는 모든 Sample이 각각 하나의 Cluster에 속하는 것이 좋음.

그래서 이러한 Output의 3가지 조건을 해결하기 위한 설계가 바로 PAS이다.

1) Goal-Related -> Propose 2) Accurate Explanation -> Assign 3) Minimal Overlap and Maximal Coverage -> Select

그럼 각 단계에서 어떠한 과정이 이뤄지길래 3가지 조건을 성립시킬 수 있는지 살펴보겠습니다.

[Propose]

목표: Proposer(LM)에 Corpus를 부여하여 Goal에 관련된 Explanations를 생성

Input: Corpus + Goal Output: Candidate Explanations

과정: LM에게 'In-context Clustering' 형태의 Prompt를 부여

Goal에 따라 Text를 Clusterinf 하기 위한 Category를 만들라는 Instruction + Category Example, Goal과 Explanation 예시, Corpus 부여 + Goal 설명 + 생성할 Explanation 개수 지정, 출력문 제어 등이 해당 과정이다.

이때 Prompt의 길이 제한으로 전체 Corpus를 반영할 수 없기에 다수의 Prompt를 구성해서 $J$개의 Explanations을 얻을 때까지 반복해야한다.

[Assign]

목표: 각 Sample에 적합한 Explanation 할당

Input: Explanation + Sample Output: Assignment Matrix (Sample[행]에 따라 Explanation[열]이 지정)

과정: 각 Sample이 각 Explanation에 적합한지 여부를 결정하기 위해 언어 모델에게 Text를주고 Explanation에 적합한지 Prompt를 구성

[Select]

목표: Cluster 간 중복 최소화, 전체 Corpus Coverage 최대화

과정: 각 Sample이 대략 하나의 Cluster에 속하도록 $J$개의 candidate clusters에서 K개의 Clusters를 선택하는 것

Assignment Matrix를 각 Sample이 대략 하나의 Cluster에 속하도록 근사화시키는 Selection Vector를 찾고자 함.

이때 목표 군집 개수인 $K$개를 맞추기 위해 $J$개의 군집을 줄이기 위해 단위행렬 1의 길이를 조절해준다.

또한 모든 $x$에 대해 $m_x$가 1이 되는게 이상적이므로 $f_{\lambda}$라는 loss function을 구성해준다.

이때 $\lambda$는 Penalty를 부여하는 하이퍼파라미터

$$ f_{\lambda}(m_x) = \begin{cases} (1-m_x),;if;m_x < 1, ; miss\ 0,;if;m_x = 1,; ideal\ \lambda(m_x - 1), ; if ; m_X > 1,; overlap \end{cases}$$

따라서 이 loss function으로 Selection Vector를 업데이트해나가는 것이다.

$m_x$가 1보다 작으면 Sample이 Cluster에 속하지 않는다는 것을 의미하며 1일 때는 이상적인 상황 1보다 클 때는 여러개의 cluster에 속함을 의미한다. 그러므로 miss이면 $m_x$를 높이기 위해서, overlap이면 $m_x$를 낮추기위해 loss function을 사용한다.

이때 Loss인 $f_{\lambda}(m)$이 열벡터니까 Scalar로 변환해주기 위해 $L(s) = f_{\lambda}(m) \cdot 1$을 적용한다.

하지만 실수 $\lambda$가 곱해지게 되면 loss가 실수가 되는데 Cluster에 속한 여부는 1 or 0으로 판단하기에 loss update를 적용하는 것이 어렵기에 정수 값만을 가지도록 loss function $f_{\lambda}(m)$를 a로 치환하여 계산한다.

그래서 $f_{\lambda}$를 a로 치환한 후에 최종적으로 Loss function을 구성한다.

최종적으로 찾은 Selection vector를 통해 J개의 Candidate Clusters에서 K개의 clusters를 선택하게 된다.

[PAS 이후 단계]

Multiple Iteration: 전체 Corpus를 커버하기 위해 5번의 반복을 진행하고, Commit to a Single Cluster: 필요할 때 각 Sample을 단일 Cluster에 Commit하는 보조 절차를 진행한다.

Multiple Iteration

• Assigner의 Context 길이가 전체 Corpus를 포함할 수 없어 PAS를 5번 반복 진행
• 이전 반복 결과들에서 Explanation이 Assign 되지 않는 Sample을 바탕으로 새로운 Explanation을 생성하는 형태

Commit to a Single Cluster

• PAS가 끝날 때, 일부 Sample은 여러 Explanation에 할당될 수 있음
• 그러나 사용자나 벤치마크는 각 Sample를 가장 적합한 하나의 Cluster에 Commit하도록 요구할 수 있음 LM을 활용해서 각 Sample을 단일 Cluster에 Commit하는 절차를 추가

최근 시계열분석에 대해 관심을 많이 가지고 있는데, SCINet이라는 모델이 워낙 유명하고 Dacon 공모전에서 우수한 성적을 거둔 분들이 활용했던 모델이고 코드도 잘 나와있어서 한번 공부해보고 싶은 마음에 가지고 오게 되었습니다.

개인적으로는 SCINet을 통해 처음 최신 AI 논문을 접하게 되어 제게 의미가 큰 논문입니다. 그때 당시엔 지금보다 공부가 미흡하여 제대로 공부하지 못했는데, 지금도 완벽히 이해하기엔 부족하겠지만 다시 한번 복습해보고 싶어서 가지고 오게 되었습니다.

자료는 서울대학교 산업공학과 DSBA 연구실 소속 이정호 님의 유튜브 영상을 참고하였으며 링크는 아래와 같습니다. DSBA SCINet 논문 리뷰 영상

또한 본 논문은 SOTA에서도 Star가 엄청난 논문이고 코드도 잘 구현되어 있습니다. 본 연구에 대한 논문과 깃허브 링크는 아래 링크를 통해서 확인할 수 있습니다. SCINet 논문 & 깃허브

[Introduction]

[시계열 데이터의 특징]

시계열 데이터는 Cyclical, Trend, Seasonal한 특징을 가지고 있으며 그 과정에서 Irregular fluctuation(불규칙한 파동)이 있다. 그래서 시계열 모델은 이러한 특징이 고려되어야 하지만 대개 모델들은 이를 잘 고려하지 않는다.

이에 대해 SCINet의 저자들은 부분적으로 Sampling을 취해서 Sequence를 만들었을 때 부분적인 sequence를 뽑더라도 전체적인 Cyclical, Trend, Seasonal한 특징은 보존되어야 한다고 생각했다.

따라서 저자들은 부분적으로 뽑아낸 Subsequence에 대해 학습을 진행하기로 했다.

Subsequence를 반복적으로 정보를 뽑더라도 Subsequence는 시계열에 대한 특징을 가지고 있을 것이고, 반복적으로 뽑는다면 다양한 Cyclical, Trend, Seasonal한 특징을 뽑아낼 수 있을 것이라고 생각하였다. 이를 통해 Subsequence 사이의 관계를 학습하고자 했다.

[기존의 시계열 딥러닝 모델]

(1) RNN Model: 잘못된 예측이 중첩되어 Long-term에 대해 매우 취약함

(2) Transformer: 모든 시점에 대한 상관성을 학습 $\to$ Long Sequence를 다루기에 비용($O(m^2)$)이 매우 큼

(3) TCN: Long Sequence를 효율적으로 다루지만 Look back (반복되는 정보의 활용)이 부족함 $\to$ 위 그림을 보면 TCN은 Input에서 Conv.Layer 1로, Conv.Layer2, Output과 같이 반복되며 Look back이 되는데, 따라서 TCN 모델은 Conv.Layer의 수만큼만 Look back이 된다는 한계를 가지고 있다.

또한, TCN 모델에서 다뤄지는 부분 중 앞 부분은 많이 다뤄지지도 않는다는 한계 역시 존재

[시계열 예측 Setting]

Time Series Forecasting Setting에 대해 먼저 설명을 드리면, Input이 Input window로 들어가고 이 데이터로 next steps에 따라 Pred를 제공한다.

이때 Step의 수에 따라 multi-step forecasting으로 정의한다.

[SCINet]

SCINet은 크게 3가지 구조로 구성되어 있는데, Stacked 상태로 SCINet이 있으며 각 SCINet에선 SCI-Block들이 Tree 모형으로 구성되어 있다. 또한 각 SCI-Block은 Split과 Interactive Learning이라는 특징을 가지고 있다.

SCI-Block부터 상세하게 설명을 드리면, Input에 대해 Split을 통해 짝수, 홀수로 분할하고 Interact를 통해 나눠진 Sequence의 정보 교환이 이뤄집니다. 이를 통해 얻어지는 $F'{odd}, F'{even}$이 나오고 이렇게 분할되는 과정을 트리 모양으로 쌓은 게 SCINet, 이를 Stacking 한게 모델의 구조이다. (* 논문에서는 일반적으로 Stack을 1, 2개 쌓아서 활용했다고 언급)

[SCINet-Block]

SCINet-Block을 직관적인 예시로 다시 보여드리자면 다음과 같이 나타낼 수 있습니다.

이에 대해 설명하자면,

1, 2, 3, 4, ......, 16으로 구성된 Sequence가 있었다면 홀,짝으로 나눠서 Split을 한 후 재배열 한다. 이후 2-level(그림의 2-layer은 오타)에서 다시 Split하고 재배열 하는 등 이 과정을 각 level에서 반복한다.

기존 커널이 3인 1D-conv가 있다고 할 때 1, 2, 3까지의 영역을 활용하므로 Long-term을 잡아내는데에 한계가 있었다. 이에 SCINet은 2, 4를 제외하고 홀수인 1, 3, 5만 가지고 Split한 후 1D-conv를 함으로써 Dilated Conv를 활용하는 효과와 동일하게 Receptive field가 넓어져 똑같이 커널이 3인 1D-Conv를 활용하더라도 Long-term 학습에 뛰어난 효과를 보임을 알 수 있다.

이때 각 1D-Conv가 파라미터를 공유하지 않는 이유는 1, 3, 5와 2, 4, 6을 구성하는 각 Down Sample들이 Trend, Seasonality와 같은 정보를 각각 내포하고 있을 것이고 이에 대한 Interaction을 고려해준다면 더욱 많은 Representation을 만들 수 있을 것이라고 생각했기 때문이다.

이를 각 Level에서 반복적인 Look-Back 구조를 가져준다면 Long-Term에 대한 정보를 한번에 학습할 수 있다. 또한 커널 사이즈가 고정된 상태에서도 Split을 통해 Long-Term에 대한 정보를 그대로 가져올 수 있다는 큰 특징도 가지고 있다.

그럼 이제 Split을 왜 하는지에 대한 의문이 풀렸다면 이번엔 Interaction하는 이유에 대해 알아봅시다.

Interaction이 일어난다고 할 때 빨간색 1D-Conv로 구한 값을 지수 변환 해주고, 파란색 1D-conv도 EXP변환을 해준 후 각 값을 곱연산함으로써 1st Interaction을 구해줍니다.

이렇게 나온 Gradation 값을 똑같이 Conv을 통해 Representation을 변환하여 2nd Interaction을 구해줍니다. 이후 앞서 나왔던 1st Interaction과 2nd Interaction을 합차연산(논문의 코드에선 (+)를 사용)을 통해 두개의 연산 값을 이용하여 최종적으로 representation을 만들어줍니다.

[SCINet-Tree]

위와 같은 과정을 통해 구해진 최종적인 Sequence를 모두 Concat한 후 재배열 후 Original Sequence와 더하는 연산을 해줍니다. 추가적으로 Fully Connect Layer를 이용해서 차원을 맞춰서 예측 Sequence를 구해줍니다.

[SCINet-Stack]

Tree를 통해 얻은 Pred 값을 실제 정답인 1720의 Sequence와 MAE Loss를 활용하여 Loss를 구해줍니다. 이후 다시 한번 이런 식으로 Stack의 2번째에서 처음 예측한 Pred 값을 합쳐 120 Sequence를 모두 활용하여 SCINet의 과정을 반복하며 이 과정 반복은 Stack의 수만큼 진행되게 됩니다.

이를 통해 최종적인 예측결과를 산출하게 됩니다.

[Experiment]

다변수 시계열 예측 데이터셋에서 성능을 살펴보면, Horizon(시계열 예측 기간) 길이가 720과 같이 길어지게 되면 RNN, LSTM 기반 모델의 성능이 매우 떨어짐을 알 수 있다. TCN 모델은 Long-Term forecasting에서 좋은 성능을 가지고 있으나, SCINet의 성능이 더 우수함을 알 수 있다.

Univariate 데이터셋으로 해당 방법론들과도 비교해보면, 이런 방법들은 Seasonality나 Trend를 활용하는데 SCINet은 이러한 정보를 직접적으로 활용하진 않지만 SCINet이 해당 방법론보다 더 우수함을 알 수 있다.

이는 결국 Split을 해도 Seasonality나 Trend 특성이 보존될거고 그러한 정보에서 뽑아냈으니 그 과정에서 이러한 시계열적인 특성을 가진 것으로 파악됩니다.

[Ablation Study]

MAE loss 기준으로 Interaction이나 가중치 공유를 해버리게 되면 오차가 급격하게 증가합니다. 또한 마지막에 기존 시계열 데이터를 더해주는 ResCon을 안했을 때도 오차가 급격히 증가했음을 알 수 있습니다.

이때 저자들은 ResCon을 해야하는 이유에 대해 Original data에서도 정보가 있을텐데 Split한 데이터만 사용하게 되면 그 과정에서 Bias가 많이 발생할 수 있다고 생각한다고 합니다.

[Conclusion]

일반적인 시계열 데이터를 수집하고 시간 순서로 정리가 된 데이터에 대해 SCINet을 제한적인 사용을 했을 때 성능이 좋았습니다.

즉, 어느정도 실제 시계열적 특징(계절성, 트렌드 등)이 반영되는 데이터셋에서 좋았지만 불규칙한 시계열 데이터(ex. 이상치)에 대해서는 성능 보장이 힘들다는 것입니다. 심지어 불규칙한 시계열 데이터에선 LSTM보다 성능이 좋지 않았습니다.

그러므로 SCINet은 (1) Long-term 예측이나 (2) 시계열적인 특성이 존재하는 데이터에서 사용하기에 적절하다는 것을 알 수 있습니다.

이러한 성능 저하는 본 논문의 가정이 Down sampling(ex. Split)을 진행해도 전반적인 시계열 특징을 보장하는 것으로 하기 때문에 이와 반대로 Noise가 존재한다면 Down sampling 과정에서 잘못된 편향에서 영향을 받을 수 있기 때문인 것으로 파악된다.

그래서 이 논문에 대한 추후 연구로,

SFINet이라 해서 Noise가 있는 Real Data에서도 강건한 모델을 구현하는 연구를 진행했고, 공간적 정보를 함께 활용하는 SCINet 구조 모델인 Spatial-Temporal Interactive Dynamic Graph Convolution Network for Traffic Forecasting이라는 연구도 함께 살펴보시면 좋을 듯 싶습니다.

본 논문에서 제안하는 시계열 모델은 비정상성을 가진 시계열 데이터의 예측을 주목적으로 하는 모델입니다.

항상 시계열 공부를 하면서 정상성을 만족해야만 하는 모델들이 너무 많았고, ARIMA와 같은 기존 통계적 모델이 예측 성능 면에서 월등한 것도 아니기 때문에 정상성 가정을 넘어서는 최신 시계열 모델에 대해 공부하고 싶었는데 마침 잘 소개된 영상이 있어서 가지고 왔습니다.

또한 시계열 예측을 필요로 하는 데이터의 경우 항상 들었던 생각이 "시계열 데이터의 경우 모델을 검증할 때 Train/Test로 분리하는 과정에서 상반기/하반기로 분리하게 되면 Distribution Shift, 즉 시간에 따라 데이터의 분포가 달라지는 걸 고려해야 올바른 분석이지 않을까"하는 생각이었는데 마침 이 연구에서 그에 대한 답을 얻을 수 있을 것 같아서 더 맘에 드는 연구인 것 같습니다.

따라서 제안 모델에 대해 다루는 부분이 어렵다면 (1)편에서 시계열 데이터 특성을 다루는 부분이라도 읽어보시면 시계열 분석에 도움이 될 듯 합니다!

자료는 서울대학교 산업공학과 DSBA 연구실 소속 박진우 님의 유튜브 영상을 참고하였으며 링크는 아래와 같습니다. DSBA KNF 논문 리뷰 영상

또한 본 논문은 구글 클라우드 AI 분들이 직접 연구하신 논문이여서 더 좋은 것 같고, SOTA에서도 Star가 엄청난 논문입니다. 논문과 깃허브 링크는 아래 링크를 통해서 확인할 수 있습니다. KNF 논문 & 깃허브

(1)편에서 시계열 데이터의 특성과 모델 setting, 모델 아키텍처 중 Leveraging Predefined Measurement functions을 살펴 보았습니다.

따라서 이번 (2)편에서는 모델 아키텍처 설명 중 Global and Local Koopman Operators에서부터 이어서 설명드리겠습니다.

[Method]

[Model architecture]

Global and Local Koopman Operators

전통적인 Koopman thoery는 무한 차원을 유한 차원으로 근사하자는 게 기본 Concept이므로 전통적인 Koopman thoery을 따르면 measurement vector $G(V_t)$는 infinite dimension을 가지므로 학습이 불가능합니다.

하지만 제안 연구에서는 Encoder에서 finite한 approximate를 학습을 하고 있기 때문에 $G(V_t)$ 역시 finite Koopman-invariant subspace를 형성한다고 가정하여 이론적인 문제를 해결합니다.

다음으로 이상적으로 찾아야 하는 Koopman operator은 시간이 지나에 따라 measurements를 시간적으로 가장 잘 forwading 시키는 finite matrix를 의미합니다.

즉 아래 식에서 $g(x_t)$를 g(x_{t+1})로 잘 forward시키는 Koopman operator $K$를 찾는 것

$$ Kg(x_t) = g(F(x_t)) = g(x_{t+1})$$

이때 Koopman matrix는 time-step과 feature에 따라 달라져야 하지만 시계열의 전역적인 행동 또한 포착할 수 있어야 합니다.

따라서 전체적인 경향성과 dynamics를 모두 모델링 하기 위해 Global operator $K^g$와 Local operator $K^l_t$를 따로 나눠서 사용합니다.

$$ Kg(V_t) = (K^g + K^l_t)g(V_t) = g(V_{t+1}), \quad t \leq 0$$

• Global operator $K^g$는 nd $\times$ nd의 학습이 가능한 matrix로 전체 시계열에서 공유함으로써 Trend와 같이 전체적으로 공유되는 동작 학습이 목적

• Local operator $K^l_t$는 Lookback window 내 샘플에 특화된 local dynamics 포착이 목적 $\to$ Lookback window 내에서 Autoregressive하게 지속적으로 학습하여 window 내의 distribution shift에 적용하게 하는 것이 목표

Global operator와 Local operator를 어떻게 도출할건지에 대해선 제안 연구에서는 Single-head Transformer encoder에서 attention matrix(1)를 바탕으로 Local operator를 계산하며 Global operator은 Linear layer를 통하여 도출합니다.

Feedback Loop

Lookback window 중간에 갑작스런 Distribution shift가 발생한다고 가정하면 데이터 기반 모델 특성 상 발생한 변화의 이전과 이후 두 가지 distribution에 fitting 하고자 할 것이나 기존 연구에서는 단일 행렬만을 사용하기에 여러 분포를 모델링하기 충분하지 않았습니다.

이에 해당 연구에선 Lookback window 내부에서 발생한 Prediction error를 기준으로 하여 adjustment operator $K^c_t$를 사용하여 추가적인 feedback loop를 진행하여 이를 해결하고자 했습니다.

adjustment operator $K^c_t$은 Lookback window 내에서 Prediction을 지속적으로 도출하여 얻어진 예측값과 실제값 차이를 MLP에 입력 데이터로 넣음으로써 구해집니다.

따라서 최종 예측 시에는 세 가지 Operator의 합을 사용합니다.

$$ \hat{X_{t+i}} = \phi((K^g+K^l_t+K^c_t)^iG(V_t)), \quad i \gt0$$

즉, feedback loop는 lookback window 내부에서의 distribution shift가 발생할 경우 이를 감지하고, Global 및 local operator를 lookback window 내의 마지막 분포에 맞추기 위하여 설계된 것이라고 할 수 있습니다.

Loss function

해당 연구의 모델은 3가지 Loss를 바탕으로 학습이 진행됩니다.

1) $L_{rec} = l(X_t, \phi(G(\psi(X_t)X_t))), \quad t \geq0$ Reconstruction loss로 Decoder $\phi$가 measurements로부터 시계열 데이터를 올바르게 구성하기 위함

2) $L_{back} = l(X_{t-q/k+i}, \phi((K^g+K^l_t)^iG(\psi(X_{t-q/k})X_{t-q/k}))), \quad 0 \lt i \le q/k$ Lookback window에서의 Prediction loss로, global/local operator의 합이 lookback window에서 가장 적합한 propagation matrix가 되도록 하기 위함

3) $L_{forw} = l(X_{t+i}, \phi((K^g+K^l_t+K^c_t)^iG(V_t))), \quad i \gt 0$

Prediction window에서의 Prediction accuracy를 위한 loss term으로, Feedback loop가 Koopman operator에 올바른 adjustment를 학습하게 하기 위함.

[Experiment]

해당 단원은 성능을 검증하는 파트로 중요한 부분만 가지고 왔습니다.

Data 설명 지표

1) Forecastability: 시계열의 푸리에 분해의 엔트로피를 이용하여 계산되며 계산된 값을 1에서 빼준 값으로 정의

2) Lyapunov exponent: dynamical system이 초기 조건에 얼마나 민감한지를 측정하는 지표

3) Trend: 시계열에 선형 회귀를 fitting 시킨 후 기울기를 해당 시계열의 크기로 scaling 시킨 지표

4) seasonality: ACF test 사용

Interpretability Results

KNF는 Koopman operator의 spectral analysis를 제공한다는 것이 또 다른 장점! $\to$ 이를 통해 설명력을 확보 가능함

학습된 KNF 내의 $K^g+K^l_t$에 eigen-decomposition을 통하여 개별 eigen-function이 무엇을 학습했는지 확인할 수 있으며 각 eigen-function은 서로 다른 역할(어떤 경우는 trend, 어떤 경우는 seasonality에 강점)을 함. 따라서 종합적으로 학습에 유의미하게 작용함을 확인 가능하다.

[Conclusion]

KNF는 분포 변화가 심한 시계열 데이터셋에서 가장 좋은 예측 성능을 보이며 해석 가능한 결과를 제공하기 때문에 큰 장점을 보임

• Perdefined measurement function을 활용하여 Neural network가 학습하기 어려운 비선형적이고 비정상성을 가지는 특성을 포착

• Global operator를 통해 전체 시계열에서 공통되는 특성을 학습하고 Local operator를 통하여 변화하는 temporal dynamics를 포착

• 학습된 operator를 시간에 따라 지속적으로 업데이트하기 위하여 feedback loop 사용

(1) : 추후 다룰 예정

[데이터 불균형성의 문제]

이진분류와 같은 분류문제에서는 종속변수의 Class끼리 수가 너무나도 다를 수 있다.

예를 들어 반도체 공정 불량품을 맞추는 AI가 있다면, 정상/불량이라는 종속변수의 두가지 Class 중에 정상에 해당하는 데이터는 많은 반면 불량에 해당하는 데이터는 1% 정도일 수도 있다.

이때 모델은 이러한 데이터의 불균형성이 존재할 경우 적은 수의 Class 분포를 제대로 학습하지 못해 과대적합이 발생할 수 있다.

따라서 SMOTE나 최근엔 CTGAN과 같은 데이터 증강기법을 통해 데이터의 불균형성을 해소하여 이 문제를 해결할 수 있다.

[GAN]

테이블 데이터를 증강하는 모델은 크게 베이지안 네트워크(Bayesian Network)를 활용한 방법(CLBN, PrivBN 등)과 딥러닝 모델인 생성적 적대 생성망(GAN)을 활용한 방법 (MedGAN, VeeGAN, TableGAN, CTGAN 등)이 있다.

그러나 베이지안 네트워크기반 방법은 고차원 데이터와 같은 복잡하고 비선형적인 데이터 패턴을 모델링하기 어렵다는 한계가 있어, 최근에는 GAN을 활용한 딥러닝 기반의 데이터 증강 모델 연구가 활성화되고 있다.

GAN은 생성자(Generator)와 판별자(Discriminator)의 구조를 가져 다양한 유형의 데이터를 생성할 수 있다. 생성자는 랜덤한 노이즈나 입력 데이터를 받아 실제 데이터와 유사한 데이터를 생성한다.

이렇게 생성된 데이터는 처음에는 랜덤하고 무질서하지만 훈련 과정을 통해 실제 데이터와 더욱 유사한 패턴을 학습하게 된다.

판별자는 생성자에서 만들어진 데이터와 실제 데이터를 구분하려고 노력하며 입력된 데이터가 실제인지 생성된 데이터인지 판별하는 역할을 한다.

생성자는 더욱 실제와 유사한 데이터를 생성하려고 노력하고, 판별자는 생성자가 만든 합성 데이터와 실제 데이터를 구분하려고 노력한다. 이 경쟁 과정에서 생성자는 점차적으로 더 나은 데이터를 생성하게 된다.

즉, GAN의 핵심 아이디어는 생성자와 판별자가 서로 경쟁하며 학습하는 것이다.

그래서 GAN, Generative Adversarial Network에 Adversarial가 이러한 모델에 정의에 포함된 이유이기도 하다.

특히, 이런 Tabular data(테이블 데이터)에 뛰어난 성능을 가진 딥러닝 모델이 CTGAN이다.

[CTGAN]

조건부 적대적 테이블 생성망(Conditional Tabular GAN, CTGAN)은 GAN을 기반으로 하는 딥러닝 모델로, 연속과 불연속 데이터가 혼재되어있는 테이블 데이터에서 데이터를 생성하는 테이블 데이터 증강 모델이다.

일반적인 적대적 생성망은 다수의 클래스 데이터 위주로 학습되기 때문에 그 희소한 값을 잘 학습하지 못해, 데이터 재현 시 다수의 클래스만 재현하는 문제가 발생하게 된다.

그러나 조건부 적대적 생성망은 이러한 문제에 대응할 수 있다. 조건부 적대적 생성망을 통해 희소한 클래스를 생성하도록 범주형 열을 조건으로 넣어주어, 생성자가 학습 과정에서도 조건으로 희소한 범주형 속성값에 노출되도록 조절 가능하기 때문이다.

데이터 증강 모델을 사용하여 합성 데이터를 만들어 데이터를 증강하는 것과 희소 데이터를 단순히대량으로 복제하여 수를 늘리는 것(오버샘플링)은 차이가 있다. 오버샘플링은 기존 데이터의 특성만 반영하여 과적합 모델로 이어질 수 있다는 한계가 있다.

CTGAN 데이터 증강 모델은 이웃 정의(Defining Neighborhoods)를 통해 희소한 데이터 사이의 일반적인 공통점을 식별하여 실제자료와 유사한 분포를 가진 맥락있는 합성 데이터를 생성할 수 있다는 장점이 있다.

[실험]

실험은 테이블 데이터의 증강 시나리오에 따라 구분하였다. 먼저 시나리오 1인 원본 데이터의 사이즈가 작은 경우에는, 합성 데이터를 원본 데이터의 0.5배, 1배, 2배, 3배, 5배로 각각 증강하여, 원본 데이터와 합성 데이터의 5가지의 비율(1:0.5, 1:1, 1:2, 1:3, 1:5)을 구성하였다.

다음으로 원본 데이터에서 이상 데이터(소수 Class)만 증강하는 시나리오 2에서는, 정상 데이터와 이상 데이터의 비율을 기존의 1:0.001에서 다음과 같도록(1:0.005, 1:0.01, 1:0.05, 1:0.1) 이상 데이터를 각각 5배, 10배, 50배, 100배 증강하였다.

학습된 모델을 실제 데이터와 합성 데이터의 각 테스트 데이터에 적용하여 각각의 F1_Real과 F1_Fake 점수, 그리고 자카드 유사도를 구하여 적절한 증강 비율을 확인하였다.

[실험 결과]

시나리오 1에서 전체 데이터를 늘리는 경우, 실제 데이터와 합성 데이터의 비율별로 |F1_Real-F1_Fake|의 점수와 자카드 유사도의 평균 점수를 비교하면 (그림 2)와 같다.

증강 비율별 |F1_Real-F1_Fake|의 평균 점수를 보면, 합성 데이터를 원본 데이터의 2배로 증가시켰을 때 그 차이가 가장 작아 합성 데이터와 원본 데 이터의 유사도가 가장 높고, 0.5배로 증가시켰을 때는 가장 낮은 유사도를 보였다. 자카드 유사도의 평균 점수의 경우에도 마찬가지로 합성 데이터를 원본 데이터의 2배로 늘렸을 때 유사도가 가장 높게 나왔으며, 0.5배로 늘렸을 때 가장 낮게 도출되었다.

그러나 |F1_Real-F1_Fake|의 경우 최고와 최저 성능의 차이가 0.03 미만이며, 자카드 유사도의 경우 0.01 미만으로 그 차이가 근소하여 본 실험의 시나리오 1에서는 합성 데이터를 실제 데이터의 5배까지 증강한다 하더라도 데이터의 특성에 큰 변화를 발생시키지 않는 것을 확인할 수 있다.

시나리오 2의 경우, 원본 이상 데이터가 충분하지 않아 두 데이터 간 유사성을 평가하기 어려웠다. 따라서 실험에서 설정한 정상 데이터와 이상 데이터의 비율 별로 합성한 각 이상 데이터 F를 전체 데이터 R에 더하여 RF 데이터를 만들었으며, R과 RF의 유사성을 비교하였다.

|F1_R–F1_RF|의 평균 점수를 보면 이상 데이터를 기존의 5배로 합성하여 전체 데이터와의 변화가 가장 적은 1:0.005의 경우가 가장 유사도가 높고, 이상 데이터를 100배 늘린 1:0.01의 경우가 유사도가 가장 낮게 나왔으나 그 차이는 근소하다.

자카드 유사도의 경우에도 비슷한 결과가 도출되었다. 그리고 |F1_R–F1_RF|의 평균과 자카드 유사도의 평균 점수 모두 전반적으로 이상 데이터의 합성 배율을 최대 100배 가까이 증강시킨다 하더라도 데이터의 특성 변화에 유의미한 영향을 미치지 않는것을 확인하였다.

본 논문에서 제안하는 시계열 모델은 비정상성을 가진 시계열 데이터의 예측을 주목적으로 하는 모델입니다.

항상 시계열 공부를 하면서 정상성을 만족해야만 하는 모델들이 너무 많았고, ARIMA와 같은 기존 통계적 모델이 예측 성능 면에서 월등한 것도 아니기 때문에 정상성 가정을 넘어서는 최신 시계열 모델에 대해 공부하고 싶었는데 마침 잘 소개된 영상이 있어서 가지고 왔습니다.

또한 시계열 예측을 필요로 하는 데이터의 경우 항상 들었던 생각이 "시계열 데이터의 경우 모델을 검증할 때 Train/Test로 분리하는 과정에서 상반기/하반기로 분리하게 되면 Distribution Shift, 즉 시간에 따라 데이터의 분포가 달라지는 걸 고려해야 올바른 분석이지 않을까"하는 생각이었는데 마침 이 연구에서 그에 대한 답을 얻을 수 있을 것 같아서 더 맘에 드는 연구인 것 같습니다.

따라서 제안 모델에 대해 다루는 부분이 어렵다면 (1)편에서 시계열 데이터 특성을 다루는 부분이라도 읽어보시면 시계열 분석에 도움이 될 듯 합니다!

자료는 서울대학교 산업공학과 DSBA 연구실 소속 박진우 님의 유튜브 영상을 참고하였으며 링크는 아래와 같습니다. DSBA KNF 논문 리뷰 영상

또한 본 논문은 구글 클라우드 AI 분들이 직접 연구하신 논문이여서 더 좋은 것 같고, SOTA에서도 Star가 엄청난 논문입니다. 논문과 깃허브 링크는 아래 링크를 통해서 확인할 수 있습니다. KNF 논문 & 깃허브

[Overview]

KNF(Koopman Neural Forecasting)은 한마디로 다음과 같습니다. Non-Stationary timeseries를 분석하고자 동역학의 Koopman이론을 바탕으로 시계열 예측을 수행하는 모델!

Non-stationary 하다는 것은 Distribution Shift가 발생한다는 것입니다.

이때 우리는 머신러닝과 딥러닝에서 일반적으로 Test Data와 Train Data의 분포가 일치한다고 가정하고 모델을 사용하는데, Distribution Shift가 존재한다면 이 가정을 위배하는 상황이 생긴다는 의미입니다.

따라서 Distribution Shift 문제를 해결하는 건 어렵지만 중요한 문제라는 의미이고, 이에 본 논문에서는 Koopman 이론을 활용하여 이 문제를 해결하였습니다.

[Background]

[Timeseries data 특성]

정상성(Stationary)

시간의 흐름에 따라 평균이나 분산 등의 통계적인 특성이 변하지 않는 데이터로, 정상성이 보장되기 위해선 추세나 계절성이 존재하지 않아야 합니다.

정상성이 존재한다면 데이터의 시점이 어떻게 바뀌든 간에 데이터의 분포는 같습니다. 하지만! 현실의 데이터는 대부분 정상성을 가지지 못합니다.

이는 실제 데이터엔 Seasonality, Concept drift, Change point 등과 같이 변동성을 가지는 특성들이 많기 때문입니다.

• Concept Drift: 독립변수에서 부터 예측하려고 하는 "종속변수"의 의미/개념/통계적 특성(즉 데이터와 라벨의 관계성, 데이터의 해석 방법)이 모델 훈련때와 비교하여 변화가 있음을 의미함.

•  Data Drift: 모델의 훈련시 "독립변수"의 통계적 분포와 테스트 시/ 실제 배포 환경에서의 "독립변수"의 통계적 분포가 어떠한 변화에 의해 차이가 발생하고 있는 것을 의미한다. Feature drift나 Covariate shift라고 불림.

Distribution Shift

Distribution Shift는 시계열 데이터가 Non-Stationary 하면서 발생하는 기본적인 문제로, 시계열 데이터는 수집되는 특성 상 시간에 따라 특정 간격으로 순차적으로 수집되는데, 대체로 시간 변화에 따라 분표가 변화하며 이에 따라 발생하는 문제입니다.

이러한 분포의 차이는 Train Data와 Test Data 사이의 분포 차이가 발생하게 되므로 시계열 모델의 Generalization이 잘 되지 않는 결과를 초래하여 낮은 성능을 야기합니다. 따라서 시계열 데이터를 잘 다루기 위해서는 시간에 따른 분포 변화로 인한 통계적인 특성 변화를 잘 포착하는 것이 중요합니다.

Distribution Shift의 원인

1. Train data, Test Data 사이에서 발생하는 Distribution Shift
2. 시간이 지남에 따라 분포 변화가 지속적으로 발생하는 경우 $\to$ Concept Drift 및 Non-stationary process와 관련

대부분의 딥러닝 기반 접근 방식은 Stationary 시계열 데이터에서는 좋은 성능을 보이지만, 다양한 분포 변화를 보이는 데이터에 대해서는 약한 모습을 보입니다.

Keyword description

(1) Linear vs Nonlinear

모델의 출력결과와 입력값이 선형조합으로 표현될 수 있는지 없는지에 대한 차이입니다.

Linear 모형은 선형회귀, ARIMA 모델이 있으며 일반적으로 모델의 입력과 출력을 수식적으로 명확하게 보여줄 수 있어 설명력이 확보되는 모델이며, Non-linear 모형은 대표적으로 딥러닝 모형이 있고 이는 Black box 모델로 수식적으로 관계를 명확하게 설명할 수 없습니다. 대신 일반적으로 Linear 모형보다 예측력이 높다는 특징을 가지고 있습니다.

(2) Time-variant vs Time-invariant

Time-invariant란 시간이 지남에 따라서도 특성이 변하지 않는 시스템으로 입력 $X(t)$에 대한 출력이 $Y(t)$인 모델이 존재할 때 입력이 $r$만큼 늦어진 $X(t+r)$에 대해서도 동일하게 $r$만큼 늦어진 $Y(t+r)$의 출력이 도출됨을 보장할 수 있다는 의미입니다.

반면 Time-variant는 시간이 지남에 따라 특성이 변화하는 모델입니다.

Koopman theory

Koopman theory는 Nonlinear dynamic system 의 분석 및 예측을 특정한 Linear operator 를 바탕으로 수행하는 것이 목적입니다.

• Nonlinear dynamic system 은 특정 task에서 뛰어난 성능을 보일 수 있지만 매우 복잡한 구조를 가짐

• Linear operator은 비교적 간단하지만 다양한 수학적 도구와 기법으로 쉽게 분석할 수 있다는 장점 존재

• 즉, Koopman theory의 핵심 아이디어는 Nonlinear dynamic system을 묘사할 수 있는 Linear operator를 찾는 것!!

이를 바탕으로 Nonlinear dynamic system의 복잡성을 linear하게 변형하여 보다 직관적으로 이해하고 분석할 수 있습니다.

시계열 데이터는 위와 같이 해당 데이터가 가지는 내재적인 변동성(koopman 이론에선 Dynamic)을 바탕으로 이상적인 궤도(Trajectory)를 구성할 수 있는 function F로 표현할 수 있습니다.

이때 Discrete-Time dynamical system 가정에서는 이를 $x_{t+1} = F(x_t)$로 수식화가 가능합니다.

Non-stationary timeseries data $x_t$는 Time-variant dynamics를 가지기에, 이를 선형 연산이 가능하게끔 더 높은 차원의 공간으로 변환하고자 Measurement function $g$이용하여 비선형 함수를 더 높은 차원 공간에서 다룸으로써 선형 함수로 근사 하고자 합니다.

이때 Koopman operator K는 고차원 공간에서의 선형 연산자로, $g(x_t)$를 $g(x_{t+1})$로 선형 변환할 수 있으며 결국 찾고자 하는 것은 $Kg(x_t) = g(x_{t+1})$를 가능하게 하는 Koopman operator K이다.(우리는 $F(x_t)$를 찾을 수 없기 때문)

• *"비선형 함수를 더 높은 차원 공간에서 다룸으로써 선형 함수로 근사"* 예시

위와 같은 비선형 데이터를 고차원 공간에서 다루면 아래와 같이 선형 함수를 통해 나눌 수 있음.

[Method]

[Contribution]

(1) Leveraging Predefined Measurement functions

• Predefined Measurement function을 Learned coefficients와 함께 사용하여 Timeseries를 functional space로 mapping

(2) Global and Local Koopman Operators

• Global Koopman Operators를 사용하여 공유되는 특성을 학습하고, Local Koopman Operators를 통하여 지역적인 변화 dynamics를 포착

(3) Feedback loop

• Forecasting error 에 기반하는 Feedback loop를 통합하여, 학습된 operator를 시간이 지남에 따라 재학습함으로써 long-term forecasting 성능을 유지

[Model setting]

우리는 과거의 값을 바탕으로 미래 값을 예측할 수 있는 functional map $f$를 찾는 것이 목적으로 다음과 같이 수식으로 나타낼 수 있습니다.

$$ f: (x_{t-q+1}, \dots , x_t) \to (x_{t+1}, \dots, x_{t+h})$$

여기서, $q$는 얼마만큼의 데이터를 모델의 입력 데이터로 사용할 것인지에 대한 하이퍼파라미터인 Window length라 하며, $h$는 얼만큼 예측할 것인지에 대한 하이퍼파라미터인 forecasting horizon를 의미합니다.

Koopman theory는 어떠한 Nonlinear dynamic system이 가능한 모든 measurement function의 공간 안에서 작동하는 infinite-dimensional linear Koopman operator로 모델링될 수 있다는 것을 보여준다.

$$ Kg(x_t) = g(F(x_t)) = g(x_{t+1})$$

[Model architecture]

Leveraging Predefined Measurement functions

먼저, Koopman Space를 이루는 Measurement function의 Set 정의 $$ G = [g_1, \dots , g_m]$$

어떠한 Measurement function을 사용해도 상관없지만 제안 연구에서는 Canonical nonlinear function 사용

Canonical nonlinear function이란

• polynomials, exponential functions, trigonometric functions 등이 존재
• Duffing oscillator, 유체역학 등의 분야에서 복잡한 dynamic system 모델링에 흔히 이용되며 DNN으로는 학습하기 어려운 high-nonlinear action을 표현 가능
• Canonical nonlinear function은 전통적으로 성능이 보장되는 case가 많았고, 이들은 모델에 학습 과정 중 일반화 성능을 얻기 위해 추가적으로 도입되는 편향인 inductive bias를 잘 반영하며 nonlinear 동작도 잘 포착할 수 있음

다음으로, 코딩 과정에서 데이터를 고차원의 데이터로 바꾸기 위해 Embedding을 하게 됩니다.

이때 만약 우리가 데이터를 8개의 dimension으로 Embedding하고 4개의 Predefined measurement function을 사용하게 된다면, 4개의 dimension에 대해서만 Predefined measurement function의 Coefficient로 구성이 되며 나머지 4개의 부분은 파라미터로써 추후 모델에서 역할을 하게 됩니다.

• Embedding: 일반적으로는 범주형인 값을 연속적인 숫자로 구성된 벡터로 변환하는 것으로, 특히 인공신경망에서는 임베딩은 원래 차원보다 저차원의 벡터로 만드는 것을 의미

• 원래 차원은 매우많은 범주형 변수들로 구성되어있으나 학습방식(인근에 모여있는 것들끼리 그룹화)을 통해 저차원으로 대응되며 인공신경망의 임베딩은 수천 수만개의 고차원 변수들을 몇백개의 저차원 변수로 만들어 주고, 또한 변형된 저차원 공간에서도 충분히 카테고리형 의미를 내재하기 때문에 차원축소 관점에서도 유용함

이는 뒤에서 다시 다루도록 하겠습니다.

이제 모델에 입력 시계열 데이터가 들어온다면 모델이 어떻게 작동하는지 알아봅시다. 중요한 부분입니다!

어떠한 입력 시계열 데이터가 들어온다면 Encoder의 입력으로 사용하여 Measurement function의 계수 $\Psi(X_t)$로 사용합니다. $\Psi : \mathbb{R}^{d \times k} \to \mathbb{R}^{n \times d \times k}$

이 입력 시계열 데이터가 Encoder를 통해서 나온 결과를 그대로 이용하는 게 아니라 Measurement function의 계수를 향후 모델링 과정에서 사용하게 됩니다.

• $\Psi(X_t)$는 사전에 정의된 Canonical nonlinear function의 계수를 의미하며, 해당 계수들은 각 Measurement function이 어떻게 입력데이터의 특정 부분(변수, 시점)에 어떻게 적용될지 결정하게 된다.

이때 하나의 Window 내에서도 Distribution shift가 발생할 수 있기 때문에 하나의 Window 내에서도 다양한 구간으로 나누어 모델링을 진행합니다.

위 과정을 통해 Encoder의 output인 계수를 구하고나선, 원본 데이터의 값을 함께 고려함으로써 최종적인 계수 $V_t = [V_t^{(1)}, V_t^{(2)}, \dots, V_t^{(n)}] \in \mathbb{R}^{n \times d}$를 도출합니다.

이때 원본 데이터의 값을 함께 고려하는 과정을 아래와 같이 이뤄집니다.

$$ V_t[i,j] = \sum_l \psi(X_t)[i,j,l] X_t[j,l], \quad 1\leq i \leq n, 1\leq j \leq d, 1 \leq l \leq k$$

• $V_t[i,j]$ $\to$ encoder를 거친 후 Representation과 원본 시계열 데이터의 Linear transformation. 즉, 해당하는 시계열 데이터가 가지는 동역학적인 특성을 measurement function의 계수로 변환한 것

• $\psi(X_t)[i,j,l]$ $\to$ encoder를 바탕으로 입력 시계열 데이터에서의 각 시간 스텝, 특성, 측정함수에 대응하는 가중치 값을 생성

• $X_t[j, l]$ $\to$ $t$ 시점에서의 입력 시계열 데이터

이어 다음 과정을 살펴봅시다.

앞에서 구한 $V_t$를 활용하여 Predefined measurement function을 적용하여 Measurement를 도출합니다. 이때 $g_1$은 Polynomial function, $g_2$는 trigonometric function 등 앞에서 정의한 함수를 사용하며 각 함수는 다른 종류일 수 있습니다. Measurement 수식적인 과정은 아래와 같습니다.

$$ G(V_t) = [g_1(V_t^{(1)}), g_2(V_t^{(2)}), \dots, g_n(V_t^{(n)})] \in \mathbb{R}^{n \times d}$$

구해진 Measurement를 flatten한 후, 최종적인 decoder $\phi$: $\mathbb{R}^{n \times d} \to \mathbb{R}^{k \times d}$를 통하여 observation을 Reconstruction합니다.

$$ \hat{X_t} = \phi(G(V_t))$$

제안 연구에서 Encoder과 Decoder은 MLP layer를 이용하였으며, Encoder 모델은 non-stationary 특성을 직접적으로 학습할 필요 없이 오직 measurement function의 parameter만을 근사하는 것이 목적이다.

• predefined measurement function은 학습된 measurement function을 사용하는 것보다 더 좋은 성능을 보임

[Next]

이어서, (2)편에서 Global and Local Koopman Operators부터 다루도록 하겠습니다!

[Output / Loss function]

우리가 이해하기 가장 쉬운 이진분류 문제(Binary Classification)를 예시로 Output function or Loss function 에 대해서 알아보자

만약에 MLP를 활용해 모델을 구성하여 출력층에서 다음과 같이 결과가 도출되었다. 이때 MLP 결과는 우리가 원하는 0 or 1이 아니라 위 왼쪽 행렬과 같이 출력층 결과가 도출된다.

따라서 우리는 출력층 결과를 결과 값인 각 Class에 mapping 을 해야한다.

이를 위한 function*으로 기존엔 *argmax 값을 사용하고자 하였다.

만약에 위와 같이 출력층의 결과가 도출된다면 1.37을 class 1에 매핑했다. 하지만 이 방식은 스코어값이 천차만별로 튀어나오고 이진분류에선 크게 도움이 안된다.

왜냐면 argmax function을 사용한다면 $(1.37, 0)$이든 $(1.37, 1.36)$이든 큰 값을 1로 매칭한다는 것인데, 이는 거의 비슷한 값일 수 있음에도 0과 1로 확 구분된다는 문제점을 가지고 있기 때문이다.

즉, argmax function은 출력값 결과 자체는 비슷한데도 class가 나뉘므로 분류 성능이 낮다.

그래서 등장한 게 softmax function이다.

softmax function은 위와 같은 식으로 구성되며, 장점은 0과 1사이로 출력값이 나오고 이 출력값의 합이 1이 된다는 것이다.

왜냐하면 출력값의 합이 1이 되기 때문에 찾고자 하는 정답인 1과 0에 가깝게 나눠질 수 있고, Good case엔 1과 0으로 명확하게 나눠질 수도 있는 함수이기 때문이다. 따라서 실제로 Softmax function 을 많이 사용한다고 한다.

또한 결과값을 정규화시킨다는 특징이 있으며 지수함수를 사용함으로써 미분을 가능케하고, 입력값 중 큰 값은 더 크게 작은 값은 더 작게 만들어 Classification 이 더 명확해진다는 특징도 있다.

출력층에 자주 사용되는 Softmax function은 입력으로 사용되는 벡터의 차원은 분류하고자 하는 Class의 개수가 되어야 하므로 만약 위의 그림처럼 4개의 변수로 구성된 경우 4차원 벡터가 입력되는데, 이때는 어떤 가중치 연산을 통해 3차원 벡터로 바꿔줘야 한다.

따라서 4차원 데이터 벡터를 Softmax function의 입력 벡터로 차원을 축소하려면 위와 같이 입력 벡터 $Z$의 차원수만큼 결과값이 나오도록 가중치 곱을 진행하여 위 그림처럼 총 12(3 x 4)개의 화살표가 다른 가중치를 가지며 학습 과정에서 점차적으로 오차를 최소화하는 가중치로 값이 업데이트되도록 바꿔주면 된다.

그렇다면 오차를 줄이는 방향으로 가중치를 어떻게 업데이트시키냐?

바로 Cross-entropy를 활용한다.

만약 위와 같이 3개의 Class가 있을 때 각 실제값마다 다음과 같은 원-핫 벡터가 존재할 것이다.

만약 데이터의 실제 Class*가 setosa라면 위와 같이 setasa의 원-핫 벡터와 예측값 간의 차이를 오차로 정의하여 그 오차를 이용하여 *Cross-entropy 를 손실함수로 사용하여 손실함수가 최소화되는 방향으로 가중치를 업데이트한다.

$$ H(P,Q) = - \sum P(x)logQ(x)$$

Cross-entropy는 위 식과 같이 구성되는데, 만약 3개의 클래스 $c_1, c_2, c_3$가 존재하는 분류 문제에서 어떤 데이터의 출력값이 다음과 같다면

$$ softmax(input) = \begin{pmatrix} 0.2 \ 0.7 \ 0.1 \end{pmatrix}$$

모델이 나타내는 확률분포 $Q(x)$는 다음과 같이 나타낼 수 있다.

$$ Q(X=c_1) = 0.2 \ Q(X=c_2) = 0.7 \ Q(X=c_3) = 0.1 $$

만약 데이터가 실제로 2번 Class에 해당한다면 데이터의 실제 확률분포 $P(x)$는 아래와 같이 나타난다.

$$ P(X=c_1) = 0 \ P(X=c_2) = 1 \ P(X=c_3) = 0 $$

따라서 위의 $Q(x)$와 $P(x)$를 통해 Cross-entropy를 계산한다면 다음과 같은 결과가 도출된다.

$$ \begin{aligned} &H(P, Q) = - \sum P(x)logQ(x) \ &= -(0 \cdot log0.2 + 1 \cdot log0.7 + 0 \cdot log0.1) \ & = - log0.7 \approx 0.357 \end{aligned}$$

이때 $H(P,Q)$를 최소로 만들도록 가중치를 업데이트한다.

예를 들어 $Q(x)$가 $[0.4, 0.4, 0.2]$라면 $H(P,Q)$값이 더 커지게 되고 이는 분류가 제대로 되지 않았을 확률이 높다는 것과 직관적으로 같다는 것을 확인할 수 있다.

[역전파]

이제까지 딥러닝 모델의 시작인 퍼셉트론부터 MLP, 모델의 오차 계산까지 다뤄보았다. 사실 여기까지의 내용만 보면 딥러닝의 성능이 탁월하게 좋은 이유가 부족하다고 생각할지도 모른다.

하지만 딥러닝의 성능이 탁월히 좋은 이유는 바로 이제 다룰 딥러닝의 학습에 있다.

그리고 딥러닝 학습에서의 핵심이 바로 이번 단원의 역전파(Backpropagation)이다.

역전파란 실제 값과 모델의 예측 값 사이 얼마나 차이가 나는지 확인하고 그 오차를 바탕으로 가중치와 편향을 뒤에서부터 앞으로 갱신해가는 것을 의미한다.

그리고 역전파는 경사하강법을 통해 오차가 최소화되는 방향으로 최적화(Optimization)되고 미분의 연쇄법칙(Chain Rule)을 통해서 그 값이 계산된다.

[경사하강법]

가중치를 최적화하는 방법은 일반적으로 경사하강법 즉, Gradient Descent 기반의 최적화 기법이 사용된다.

따라서 경사하강법 알고리즘에 대해 먼저 살펴보자.

경사하강법은 함수의 기울기(Gradient)를 이용하여 독립변수 값들을 어디로 옮겼을 때 함수가 최소가 되는지를 알아보는 방법이다. 기울기가 양수라는 것은 독립변수 $x$ 값이 커질수록 함수 값이 커진다는 것을 의미하고, 반대로 기울기가 음수라면 $x$값이 커질수록 함수의 값이 작아진다는 것을 의미한다.

또한 기울기의 값이 크다는 것은 단위당 변화가 큰 지점이라는 것을 의미하기도 하지만 또 한쳔으로는 $x$의 위치가 최소값 혹은 최댓값에 해당되는 $x$ 좌표로부터 멀리 떨어져있는 것을 의미하기도 한다.

우리는 경사하강법을 통해 함수의 최소값을 구해야 하므로 특정 값 $x$에서 기울기가 양수이라면 음의 방향으로 $x$를 옮겨야 하고 반대로 기울기가 음수라면 양의 방향으로 $x$로 옮겨야 함을 파악할 수 있다.

이를 다음과 같이 수식으로 나타낼 수 있다.

$$ x_{i+1} = x_i - 이동 거리 \times 기울기의 부호$$

여기서 $x_i$와 $x_{i+1}$은 각각 $i$번째, $i+1$번쩨 계산된 $x$의 좌표를 의미한다.

즉 기울기의 부호를 통해 가중치를 최소화하는 방향을 파악할 수 있다.

그럼 이동 거리는 어떻게 계산할 수 있을까?

미분 계수(기울기)값은 극소값에 가까울 수록 그 값이 작아진다. (극대값에 가까울 때에도 미분 계수는 작아지지만 극대값에 머물러 있는 경우는 극히 드물기 때문에 이 문제에 대해서는 고려하지 않음)

따라서, 이동거리에 사용할 값을 gradient의 크기와 비례하여 이동 거리를 설정하면 현재 $x$의 값이 극소값에서 멀 때는 많이 이동하고, 극소값에 가까워졌을 때는 조금씩 이동할 수 있게 된다.

즉, gradient 값을 직접 이용하되, 이동 거리를 적절히 사용자가 조절 할 수 있게 수식을 조정해 줌으로써 상황에 맞게 이동거리를 맞춰나갈 수 있게 하면 된다.

이때, 이동 거리의 조정 값을 보통 step size라고 부르고 기호는 $\alpha$로 사용한다.

따라서 최종 수식은 다음과 같이 계산할 수 있다.

$$ x_{i+1} = x_i - \alpha \frac{df}{dx}(x_i)$$

그리고 이를 다변수 함수로 확장하면 다음과 같은 식으로 나타난다.

$$ x_{i+1} = x_i - \alpha \nabla f(x_i)$$

($\nabla$가 뭔지 궁금하다면: 미분함수와 편미분 함수 단원 참고)

그리고 이를 가중치 업데이트 식으로 변환하면 아래와 같다. $$ w_{new} \leftarrow w_{old} - \nabla w\cdot\alpha$$

• 학습률(learning rate): $\alpha \to$ hyper-parameter

[경사하강법 참고 링크!] (https://angeloyeo.github.io/2020/08/16/gradient_descent.html)

[미분의 연쇄법칙]

그럼 이번엔 미분의 연쇄법칙, Chain Rule을 알아보자.

연쇄법칙(Chain Rule)이란 "합성함수의 미분은 합성함수를 구성하는 각 함수의 미분의 곱으로 나타내어진다." 라는 의미다.

식으로 나타내면 다음과 같이 나타낼 수 있다.

$$ \frac{\partial L}{\partial w_i} = \frac{\partial L}{\partial y} \times \frac{\partial y}{\partial h} \times \frac{\partial h}{\partial w_i}$$

위 식을 통해 가중치 $w_i$ 변화에 따른 Cost function $L$의 변화량을 계산할 수 있다.

[역전파 계산]

그럼 이제 경사하강법과 미분의 연쇄법칙을 적용하여 역전파를 계산하는 문제를 한번 해결해보자.

다음과 같이 입력층, 은닉층, 출력층 총 3개의 층으로 구성된 딥러닝 모델이 있다고 하자. 이때 은닉층과 출력층의 활성화 함수는 앞에서 다룬 Sigmoid function을 사용하며 인공 신경망에 존재하는 모든 가중치 $w$에 대해 역전파를 통해 업데이트 하며 편향 $b$는 고려하지 않는다.

위와 같이 값들이 주어졌을 때 역전파를 진행하기 전 순전파 과정부터 계산해보자.

각 입력은 입력층에서 은닉층 방향으로 향하면서 각 입력에 해당하는 가중치와 곱해지고, 결과적으로 가중합으로 계산되어 은닉층 뉴런의 시그모이드 함수의 입력값이 된다. 아래에서 $z_1$과 $z_2$는 시그모이드 함수의 입력으로 사용되는 각각의 값이다.

$$ z_1 = w_1x_1 + w_2x_2 = 0.3 \times 0.1 + 0.25 \times 0.2 = 0.08 \ z_2 = w_3x_1 + w_4x_2 = 0.4 \times 0.1 + 0.35 \times 0.2 = 0.11$$

$z_1$, $z_2$가 각각의 은닉층 노드에서 시그모이드 함수를 거친 최종 출력값은 $h_1$, $h_2$가 되며 아래의 결과와 같다.

$$ h_1 = sigmoid(z_1) = 0.51998934 \ h_2 = sigmoid(z_2) = 0.52747230$$

또다시 $h_1$, $h_2$는 출력층의 노드로 가며, 이때 다시 각각의 값에 해당하는 가중치와 곱해진 후 가중합 되어 출력층 뉴런의 시그모이드 함수의 입력값이 된다. 식에서는 각각 $z_3$과 $z_4$에 해당한다.

$$ z_3 = w_5h_1 + w_6h_2 = 0.45 \times h_1 + 0.4 \times h_2 = 0.44498412 \ z_4 = w_7h_1+ w_8h_2 = 0.7 \times h_1 + 0.6 \times h_2 = 0.68047592$$

$z_3$, $z_4$는 출력층의 뉴런에서 시그모이드 함수를 지나 $o_1$, $o_2$가 되고 이 값들이 이 인공 신경망에서 최종적으로 계산한 출력값 즉, 예측값이 된다. 수식으로 계산한 결과는 아래와 같다.

$$ o_1 = sigmoid(z_3) = 0.60944600 \ o_2 = sigmoid(z_4) = 0.66384491$$

이제 예측값과 실제값 사이의 오차를 계산하여야 한다.

여기서 오차를 계산하기 위한 손실함수로는 평균제곱오차(MSE)를 사용하였으며 식에서 실제 값을 $target$으로, 예측 값을 $output$로 표현했다. 그리고 각 오차를 모두 더한 전체 오차가 $E_{total}$이 된다.

$$ E_{o_1} = \frac{1}{2}(target_{o_1} - output_{o_1})^2 = 0.02193381 $$ $$ E_{o_2} = \frac{1}{2}(target_{o_2} - output_{o_2})^2 = 0.00203809 $$ $$ E_{total} = E_{o_1} + E_{o_2} = 0.02397190$$

순전파가 입력층에서 출력층으로 향한다면 역전파는 반대로 출력층에서 입력층 방향으로 계산하면서 가중치를 업데이트한다. 출력층 바로 이전의 은닉층을 N층이라고 하였을 때, 출력층과 N층 사이의 가중치를 업데이트하는 단계를 역전파 1단계, 그리고 N층과 N층의 이전층 사이의 가중치를 업데이트 하는 단계를 역전파 2단계라고 해보자.

역전파 1단계에서 업데이트해야할 가중치는 $w_5, w_6, w_7, w_8$ 총 4개이다. 원리 자체는 동일하게 적용되므로 $w_5$를 예시로 업데이트를 진행해보자.

경사하강법을 수행하여 가중치 $w_5$를 업데이트하기 위해선 $\frac{\partial E_{total}}{\partial w_5}$를 계산해야한다.

이를 위해 미분의 연쇄법칙에 따라 아래와 같이 풀어서 계산할 수 있다.

$$ \frac{\partial E_{total}}{\partial w_5} = \frac{\partial E_{total}}{\partial o_1} \times \frac{\partial o_1}{\partial z_3} \times \frac{\partial z_3}{\partial w_5}$$

위의 식에서 우변 각 항에 대해 첫번째 항부터 계산해보면 $E_{total}$이므로 아래와 같다.

$$ E_{total} = \frac{1}{2}(target_{o_1} - output_{o_1})^2 + \frac{1}{2}(target_{o_2} - output_{o_2})^2$$

이에 $\frac{\partial E_{total}}{\partial o_1}$은 다음과 같다.

$$ \frac{\partial E_{total}}{\partial o_1} = 2 \times \frac{1}{2}(target_{o_1} - output_{o_1})^{2-1} \times (-1) + 0$$

$$ \frac{\partial E_{total}}{\partial o_1} = -(target_{o_1} - output_{o_1}) = -(0.4-0.60944600) = 0.20944600$$

이제 두번째 항을 살펴보자.

$o_1$이라는 값은 시그모이드 함수의 출력값이며, 시그모이드 함수의 미분은 아래 식에 따라 $f(x) \times (1-f(x))$이다.

따라서 두번째 항의 미분 결과는 다음과 같다.

$$ \frac{\partial o_1}{\partial z_3} = o_1 \times (1-o_1) = 0.60944600(1-0.60944600) = 0.23802157$$

마지막으로 세번째 항은 $h_1$과 동일하므로 다음과 같다.

$$ \frac{\partial z_3}{\partial w_5} = h_1 = 0.51998934$$

그럼 이제 우변의 모든 항을 곱하면 다음과 같은 결과가 도출된다.

$$ \frac{\partial E_{total}}{\partial w_5} = 0.20944600 \times 0.23802157 \times 0.51998934 = 0.02592286$$

이제 앞서 배웠던 경사하강법의 가중치를 업데이트할 수 있다. 하이퍼파라미터에 해당하는 학습률 $\alpha$를 0.5라고 가정하면 다음과 같은 식이 계산된다.

$$ w_5^+ = w_5 - \alpha \frac{\partial E_{total}}{\partial w_5} = 0.45 - 0.5 \times 0.02592286 = 0.43703857$$

이와 같은 원리로 $w_6^+, w_7^+, w_8^+$을 계산할 수 있다.

$$ \frac{\partial E_{total}}{\partial w_6} = \frac{\partial E_{total}}{\partial o_1} \times \frac{\partial o_1}{\partial z_3} \times \frac{\partial z_3}{\partial w_6} \to w_6^+ = 0.38685205$$

$$ \frac{\partial E_{total}}{\partial w_7} = \frac{\partial E_{total}}{\partial o_2} \times \frac{\partial o_2}{\partial z_4} \times \frac{\partial z_4}{\partial w_7} \to w_7^+ = 0.69629578$$

$$ \frac{\partial E_{total}}{\partial w_8} = \frac{\partial E_{total}}{\partial o_2} \times \frac{\partial o_2}{\partial z_4} \times \frac{\partial z_4}{\partial w_8} \to w_8^+ = 0.59624247$$

그럼 이제 역전파 2단계로 넘어가보자.

이때 유의할 점은 현재 인공 신경망은 은닉층이 1개밖에 없으므로 이번 단계가 마지막 단계이지만 은닉층이 더 많은 경우라면 입력층 방향으로 한 단계씩 계속해서 계산해가야 한다.

그럼 이제 가중치 $w_1, w_2, w_3, w_4$를 업데이트 해보자. $w_1$도 미분의 연쇄법칙에 따라 아래와 같이 풀어서 사용할 수 있다.

$$ \frac{\partial E_{total}}{\partial w_1} = \frac{\partial E_{total}}{\partial h_1} \times \frac{\partial h_1}{\partial z_1} \times \frac{\partial z_1}{\partial w_1}$$

위 식에서 우변의 첫번째 항인 $\frac{\partial E_{total}}{\partial h_1}$은 다음과 같이 다시 풀어서 쓸 수 있다.

$$ \frac{\partial E_{total}}{\partial h_1} = \frac{\partial E_{o_1}}{\partial h_1} + \frac{\partial E_{o_2}}{\partial h_1}$$

따라서 첫번째 항을 분해 및 계산하면 아래와 같이 나타낼 수 있다.

$$ \frac{\partial E_{o_1}}{\partial h_1} = \frac{\partial E_{o_1}}{\partial z_3} \times \frac{\partial z_3}{\partial h_1} = \frac{\partial E_{o_1}}{\partial o_1} \times \frac{\partial o_1}{\partial z_3} \times \frac{\partial z_3}{\partial h_1}$$

$$ =-(target_{o_1}-output_{o_1})\times o_1\times (1-o_1)\times w_5 $$ $$ = 0.20944600 \times 0.23802157 \times 0.45 = 0.02243370$$

이와 같은 원리로 $\frac{\partial E_{o_2}}{\partial h_1}$도 구합니다. $$ \frac{\partial E_{o_2}}{\partial h_1} = \frac{\partial E_{o_2}}{\partial z_4} \times \frac{\partial z_4}{\partial h_1} = \frac{\partial E_{o_2}}{\partial o_2} \times \frac{\partial o_2}{\partial z_4} \times \frac{\partial z_4}{\partial h_1} = 0.00997311$$

$$ \frac{\partial E_{total}}{\partial h_1} = 0.02243370 + 0.00997311= 0.03240681$$

$\frac{\partial E_{total}}{\partial w_1}$을 구하기 위한 첫 항의 계산을 했으니, 이제 다른 두 항도 구하면 다음과 같다.

$$ \frac{\partial h_1}{\partial z_1} = h_1 \times (1-h_1) = 0.51998934(1-0.51998934) = 0.24960043$$

$$ \frac{\partial z_1}{\partial w_1} = x_1 = 0.1$$

즉, $\frac{\partial E_{total}}{\partial w_1}$은 다음과 같다.

$$ \frac{\partial E_{total}}{\partial w_1} = 0.03240681 \times 0.24960043 \times 0.1 = 0.00080888$$

이제 앞서 배웠던 경사하강법을 이용해 가중치를 업데이트할 수 있다.

$$ w_1^+ = w_1 - \alpha \frac{\partial E_{total}}{\partial w_1} = 0.3 - 0.5 \times 0.00080888 = 0.29959556$$

이와 같은 원리로 $w_2^+, w_3^+, w_4^+$을 계산할 수 있다.

$$ \frac{\partial E_{total}}{\partial w_2} = \frac{\partial E_{total}}{\partial h_1} \times \frac{\partial h_1}{\partial z_1} \times \frac{\partial z_1}{\partial w_2} \to w_2^+ = 0.24919112$$

$$ \frac{\partial E_{total}}{\partial w_3} = \frac{\partial E_{total}}{\partial h_2} \times \frac{\partial h_2}{\partial z_2} \times \frac{\partial z_2}{\partial w_3} \to w_3^+ = 0.39964496$$

$$ \frac{\partial E_{total}}{\partial w_4} = \frac{\partial E_{total}}{\partial h_2} \times \frac{\partial h_2}{\partial z_2} \times \frac{\partial z_2}{\partial w_4} \to w_4^+ = 0.34928991$$

이렇게 가중치를 업데이트 했으니 다시한번 순전파시켜 오차가 줄어들었는지 확인해보겠습니다.

$$ z_1 = w_1x_1 + w_2x_2 = 0.29959556 \times 0.1 + 0.24919112 \times 0.2 = 0.7979778$$

$$ z_2 = w_3x_1 + w_4x_2 = 0.39964496 \times 0.1 + 0.34928991 \times 0.2 = 0.10982248$$

$$ h_1 = sigmoid(z_1) = 0.51993887$$ $$ h_2 = sigmoid(z_2) = 0.52742806$$ $$ z_3 = w_5x_1 + w_6x_2 = 0.43703857 \times h_1 + 0.38685205 \times h_2 = 0.43126996$$

$$ z_4 = w_7x_1 + w_8x_2 = 0.69629578 \times h_1 + 0.59624247 \times h_2 = 0.67650625$$

$$ o_1 = sigmoid(z_3) = 0.60617688$$

$$ o_2 = sigmoid(z_4) = 0.66295848$$

$$ E_{o_1} = \frac{1}{2}(target_{o_1}-output_{o_1})^2 = 0.02125445$$

$$ E_{o_2} = \frac{1}{2}(target_{o_2}-output_{o_2})^2 = 0.00198189$$

$$ E_{total} = E_{o_1}+E_{o_2} = 0.02323634$$

기존 전체 오차 $E_{total}$가 $0.02397190$였으므로 1번의 역전파로 오차가 감소한 것을 확인할 수 있다.

이처럼 인공신경망의 학습은 오차를 최소화하는 가중치를 찾는 목적으로 순전파와 역전파를 반복하는 것을 의미한다.

[최적화 함수]

위 과정에서는 최적화 함수 즉, Optimizer로 경사하강법(아래 그림에서 GD)을 사용했지만 다음과 같이 다양한 Optimizer가 존재한다.

경사하강법을 기반으로 하여 방향성과 스텝 크기 두 관점을 바탕으로 Optimizer가 발전했으며 현재 주로 Adam이 자주 Optimizer로써 사용된다.

[Plus]

여기까지 기본적인 딥러닝의 내용을 개괄적으로 훑어보았다. 하지만 언급된 내용 외에도 규제화와 같이 일부 포함되지 않은 내용도 있으며, 간단하게 언급만 한 부분도 존재한다. 따라서 Deep Learning 시리즈에서는 MIT의 Deep learning이라는 책을 참고하여 이를 공부하며 추후 자세하게 다루고자 한다.

[Deep Learning]

딥러닝이란 무엇일까요??

딥러닝은 머신러닝과 Deep Neural Network 모델을 합친 것이라고 이해할 수 있습니다. 딥러닝은 결국 머신러닝의 일부이고 따라서 머신러닝의 개념들이 모두 딥러닝에서도 사용됩니다.

train/test, parametic learning, weight update.. 등등의 머신러닝 개념을 똑같이 사용하지만 Deep Neural Network라는 것이 딥러닝의 특징이라고 할 수 있습니다.

그럼 딥러닝을 왜 사용할까요?

결국엔 딥러닝이 성능이 좋기 때문에 사용하는 거고, 딥러닝이 성능이 좋은 이유는 딥러닝 모델이 내재적으로 가지고 있는 Feature extraction 때문입니다.

머신러닝은 Feature engineering*을 분석가가 직접 수행해야 하기 때문에 한계가 있는 반면, 딥러닝은 모델이 직접 *Feature extraction 하기 때문에 일반적으로 성능이 좋습니다.

하지만 이러한 특징 때문에 주의할 점도 있습니다.

바로 딥러닝은 ML보다 더 많은 학습 데이터를 필요로 한다는 것입니다. 딥러닝은 데이터가 충분하지 않으면 바로 오버피팅되어버립니다.

또한 딥러닝은 ML보다 더 많은 computing resource(GPU, TPU)를 필요로 합니다.

따라서 정형 데이터의 경우 머신러닝 특히 lightGBM이 더 좋은 성능을 보이기 때문에 굳이 현업에서도 가성비를 생각하여 라이트한 머신러닝을 쓰지 헤비한 딥러닝을 쓰려고 하지 않습니다.

다만 딥러닝은 컴퓨터 비전, 자연어처리, 음성파트 등 비정형 데이터 처리에서 매우 뛰어납니다. 이미지, 텍스트, 음성 데이터 분석의 경우 딥러닝이 좋기 때문에 위 분야에서 딥러닝을 많이 사용하고 이런 사례의 경우 굳이 white box일 필요가 없기 때문에 더욱 일반적으로 사용됩니다.

[Perceptron]

AI 즉, Artificial Intelligence 라는 단어 그 자체의 의미처럼 사람의 뇌를 본떠 인공지능을 만들자는 생각에서 출발한 Deep Neural Network 모델의 시작은 Perceptron이라는 모델이었습니다.

Perceptron은 프랑크 로젠블라트(Frank Rosenblatt)가 1957년에 제안한 초기 형태의 인공 신경망으로 뉴런의 구조에서 영감을 받아 다수의 입력으로부터 하나의 결과를 내보내는 알고리즘입니다.

뉴런은 *수상돌기(입력) -> 신경세포체(처리) - 역치를 넘어가면 처리해줌 -> 축삭돌기(출력) *라는 과정으로 데이터를 처리하는데요.

퍼셉트론의 구조도 이와 비슷합니다.

$x_1, x_2, x_3$는 데이터를 의미하고, $w_1, w_2, w_3$는 가중치를 의미합니다. 그리고 이들이 선형결합 즉 $f(w_1x_1+w_2x_2+w_3x_3+bias)$ 형태로 $f$의 입력으로 들어가게 됩니다.

이때 만약 $bias$가 없다면 이 선형결합이 계속 원점을 지나기 때문에 $bias$도 함께 입력하여 다른 곳도 돌아다닐 수 있도록 해줘야한다.

그리고 이때 위 선형결합 식에서 $f$를 activation function(활성함수)이라고 한다.

또한 이와 동시에 처음 등장한 활성함수는 step function으로 $w_1x_1+w_2x_2+w_3x_3+bias$라는 식의 값이 0을 넘으면 1, 아니면 0을 반환한다

하지만 퍼셉트론과 같은 Single Neural Network는 $XOR$ 문제를 해결하지 못한다는 단점을 가지고 있다!

예를 들어 위와 같이 빨간 점과 파란 점 데이터를 분류하는 문제를 해결할 때 Single Neural Network은 하나의 선만으로 분류해야하는데 위 데이터에선 어떤 선을 그어도 올바르게 분류할 수 없다. 즉 비선형 데이터의 경우 해결할 수 없다는 특징을 가지고 있다.

[Multi Layer Perceptron(MLP)]

퍼셉트론의 위 단점을 해결하기 위해 또다시 사람의 뇌에서 영감을 받아 퍼셉트론들로 층을 구성한 다음 나열한 MLP 모델이 등장했다.

즉, MLP는 퍼셉트론을 쌓아서 구조적으로 위 문제를 해결하고자 하였다.

MLP에선 각 퍼셉트론을 동그라미로 나타내며 노드라고 한다.

각 노드들의 쌓이는걸 layer*라 하고, 각 레이어들을 여기서 입력층, 은닉층, 출력층이라고 하고 각 노드는 *fully connected 되어 있습니다.

또한 각 노드에는 앞에서 다뤘듯 활성함수가 정의되어있다.

이렇게 하면 뭐가 좋냐면 $z_1$에서 합친 선형결합한 값을 $z_3$에서 한번 더 계산하기 때문에 다음과 같이 선을 그릴 수 있다.

이렇게 $XOR$ 문제를 풀 수 있고 좋은 nonlinear classification 이 된다.

하지만! 선형문제를 두번 푼다고 해서 비선형문제를 풀 수 없겠죠? 그래서 활성함수를 nonlinear function으로 설정해서 이 문제를 해결해야 한다.

여기서 나온 활성함수가 바로 시그모이드 함수이다.

이 시그모이드 함수의 특징은 $x$에 입력되는 애들이 무슨 짓을 하더라도 결과값이 0과 1사이로 나온다는 것이다.

따라서 굉장히 많은 가중치가 합쳐져도 0과 1사이 값이 나오니깐 수치적으로 안정화되서 학습이 잘된다.

두번째 특징은 나중에 최적화를 배우면 최적화를 위해 미분을 써야하는데 시그모이드 함수는 미분을 하기 쉽다는 특징이 있습니다.

하지만 최근에는 여기서 더 발전한 활성함수인 ReLu function(Recified Linear Unit)을 사용합니다.

이 함수도 역시 미분할 경우 0보다 작으면 0, 0보다 크면 1의 값을 가져서 미분도 되게 쉽고 음수 부분을 모두 0으로 제거하기 때문에 업데이트 관점에서 되게 좋습니다.

시그모이드 함수의 경우 양 끝의 기울기가 거의 0에 가깝기 때문에 이 부분에서 업데이트가 안되는데 ReLu 함수는 이 문제를 해결할 수 있습니다.

[feed forward]

feed forward의 예시는 위와 같은데, 예를 들어 위 식에서 $g$가 앞에서 살펴본 ReLu 함수라면 노드 3에선 다음과 같이 계산된다.

$$ Node_3 = max(0, W_{1,3} \ a_1+W_{2,3} \ a_2 + bias)$$

이때 $W_{1,3} \ a_1+W_{2,3} \ a_2 + bias$가 0보다 크면 해당 값이, 0보다 작으면 0이 결과로 도출된다.

그리고 마지막 출력층에서 Node5에서는 다음과 같이 식으로 정리된다.

$$ Node_5 = max(0, W_{3,5} \ a_3+W_{4,5} \ a_4 + bias)$$

이 방식처럼 입력층->히든층->출력층으로 활성함수를 지나면서 값이 업데이트 되는 게 feed forward입니다.

그래서 MLP의 feed-forward는 선형 식의 결과가 선형 식에 들어가고 또 다시 선형 식으로 들어가며 진행되는 방식에, nonlinear 한 활성함수를 씌우는 것입니다.

최종적으로 feed forward를 통해 "합성합수"의 형태로 결과가 도출되게 됩니다.

그리고 이런 모델을 Neural network 라 하고, 은닉층이 2개 이상이면 Deep Neural network(DNN) 이라고 합니다.

여기까지 딥러닝과 머신러닝의 차이, 퍼셉트론, $XOR$ Problem, MLP, 활성화함수, feed forward까지 간략하게 다뤄보았습니다. 2편에서는 Output / Loss function과 역전파, 딥러닝 학습방법에 대해 다뤄보도록 하겠습니다.

1. 대신증권 계좌 개설 & 회원가입 후 공동인증서 & Cybos5 설치 (아래는 Cybos5 설치 링크) https://www.daishin.com/g.ds?m=1101&p=12294&v=11949

2. Cybos5 로그인 화면에서 Cybos plus로 바꿔서 로그인 (좌측 상단 Cybos 클릭해서 바꿀 수 있음)

Cybos plus 실행시키면 작업 표시줄에 아래 사진처럼 보라색 아이콘이 생김

해당 아이콘을 우클릭 후 주문오브젝트 사용 동의 필요

3. anaconda 설치 후 anaconda prompt 열기

https://www.anaconda.com/download

이후 프롬프트 창에 아래 코드 입력해서 가상환경 만들기(가상환경 이름을 py36_32로 설정하는 코드임)

conda 프롬프트에서 아래 코드 실행

conda create -n py36_32
conda activate py36_32
conda config --env --set subdir win-32
conda install python=3.6
conda info
# conda info 실행 후 플랫폼에서 win-32인지 확인하기

다음과 같이 platform이 win-32면 성공(대신증권 API가 32 bit 가상 환경에서만 돌아감)

아래 주소 참고 https://koos808.tistory.com/2

4. pycharm 설치 설치하면 아래 화면처럼 나옴

위 화면에서는 Create New Project, 만약 이미 다른 프로젝트 창이 있다면 왼쪽 위 삼선 아이콘 - 파일 - 새 프로젝트

그러면 다음과 같이 창이 나옴

이때 인터프리터 타입을 사용자 지정 환경 - 환경: 기존항목 - 타입: Conda - 환경: 위에서 만든 가상환경(32bit 환경) 설정 후 생성

여기서 가상환경 파일 경로는 C드라이브 사용자 폴더, 아나콘다 폴더에 들어가서 py36_32 폴더 설정하면 됨

5. 아래 코드 파일 다운로드 아래 깃허브 주소의 py 파일과 ui파일 모두 다운로드 해서 바로 위 새 프로젝트 만드는 사진 속 위치에 해당하는 폴더에 옮기기(위 사진에서는 pythonProject2 폴더) https://github.com/gyusu/Creon-Datareader 대신증권(Creon) PLUS API를 이용한 주가 데이터 수집 프로그램.

다음으로 anaconda prompt 창에 아래 코드를 실행해서 가상환경을 활성화 시킨 뒤 모듈을 다운로드

conda activate py36_32 # 32bit 파이썬 설치된 가상환경 활성화
pip install pandas
pip install tqdm
pip install PyQt5
pip install pypiwin32

6. SQLite 설치

https://www.sqlite.org/download.html

위 주소에서 아래 사진 속 파란색 상자에있는 주소 파일 다운로드(이때 32비트 운영체제면 파란색 상자 위 32비트 파일과 파란색 상자 속 아래 tool 파일 다운로드)

압축파일을 해제하고 sqlite3.exe 실행

그럼 이런 창이 뜰건데, .open (지정하고픈 db파일명) 쓰기 아래 사진 참고

그러면 db 파일이 만들어집니다. (만약 안된다면 다음 주소 참고해서 환경변수 추가해야함) https://blog.naver.com/rickman2/222850909657

그럼 얼추 준비가 모두 되었습니다.

Cybos plus와 pycharm을 관리자 권한으로 실행(아이콘 우클릭시 표시됨) pycharm에서 py 파일 하나 만들어서

다음과 같은 코드로 Cybos plus 연결여부 확인(1이 출력되면 연결 성공)

이후 Creon_datareader.py 파일 실행

그럼 위와 같이 창이 뜨는데 DB 경로를 보면 ./db/~~ 라고 되어있음 그래서 5단계에서 py파일 옮겼던 폴더에 'db'라는 이름의 폴더 새로 만들어줘야함

그리고 DB 경로 옆 연결 누르면 1분봉/5분봉/일봉/주봉/월봉 데이터를 다운 받을 수 있으며, 1분봉은 최근 2년, 5분봉은 최근 5년 다운로드 가능. 이때 DB 경로 파일의 db명은 py 파일 옮겼던 폴더에 이미 존재하는 db 이름이면 안됨.

종목리스트 경로는 여러 종목의 분봉 데이터를 가져오고 싶을 때 연결하는 경로로, csv 파일만 사용할 수 있으며 csv 파일에 종목코드나 종목명을 써놓으면 됨.(만약 하나만 가져오고 싶거나 전체 가져오고 싶으면 필요 x)

이후 검색결과만 다운로드 or 전체 다운로드를 다운받고 싶은만큼 누르면 됨.

다음으로, db경로로 설정한 db 파일을 SQLite로 열면 다음과 같은 창이 뜸

그럼 파일 - 내보내기 - csv 파일로 내보내기를 통해 각 종목별 봉차트를 얻을 수 있습니다.

참고하기 좋은 글

1) https://wikidocs.net/3681

2) https://koos808.tistory.com/3

[Introduction]

Dimensionality Reduction, 차원 축소.

대체 무슨 의미일까?

차원축소라는 용어는 매우 어려워보이지만 쉽게 말하면 독립변수를 줄이는 과정을 의미한다. 데이터 프레임의 관점으로는 열의 개수를 줄인다는 의미이다.

차원축소는 일반적으로 데이터 전처리 과정에서 수행되며 '문서 분류', '추천시스템', '유전 군집화' 등에서 사용된다.

그러면 왜?? 우리는 차원 축소 알고리즘을 사용해야할까?

바로 차원의 저주때문이다.

[차원의 저주(Curse of Dimensionality)]

차원의 저주는 변수의 수가 증가할 때 같은 설명력을 계속해서 확보하기 위해서는 데이터의 수가 기하급수적으로 증가해야 한다는 의미이다. ($n$차원에서 동일한 설명력을 확보하기 위해서는 $2^n$개의 데이터가 필요하다.)

또한, 오컴의 면도날이라는 원칙에선 "어떤 현상을 설명하기 위한 여러가지 방법이 있다면 가장 간단한 게 가장 최적의 방식"이라고 말한다.

이를 머신러닝의 관점에서 살펴보면,

$$ f(x_1, \cdots, x_{10}) \to R^2 = 0.95 \ f(x_1, x_2, x_3) \to R^2 = 0.95$$

위와 같이 변수 10개로 $R^2$가 0.95인 것보다 변수 3개로만 $R^2$가 0.95인 것이 더 최적의 설명이라는 것을 의미한다.

다음으로, 오리지널 데이터의 차원 수보다 데이터에 내재된 차원의 수가 상대적으로 더 낮은 경우가 있을 수도 있다.

예를 들어 아래와 같은 MNIST Dataset의 경우

차원축소 기법인 PCA나 ISOMAP을 통해 아래와 같이 차원을 줄일 수 있다.

이처럼 $16 \times 16 = 256$ 차원의 데이터를 5차원으로 줄여도 데이터를 설명하는 데에는 크게 부족함이 없음을 알 수 있다.

고차원의 데이터로 인해 야기되는 문제들은 다음과 같다.

1) 모든 데이터는 $y = f(x) + \epsilon$로 구성되어 있다. 따라서 Noise($\epsilon$)가 포함된 데이터의 경우 과적합으로 모델의 예측 능력을 저해시킬 수 있다.

2) 계산 시간이 증가

3) 동일한 설명력을 확보하기 위한 더 많은 데이터 필요

이 문제를 해결하기 위해선 아래와 같은 방법들이 사용된다.

1) 현업에서는 여전히 도메인을 활용하여 문제를 해결한다.

2) 목적함수에 규제항이 사용된다.

3) 정량적인 변수 감소 방법을 활용한다.

[정리]

이론적으로 모델의 수행능력은 변수의 수가 증가할수록 증가하지만, 이는 모든 변수가 독립적일 때로 한정된다. 따라서 실제로는 모델의 변수들끼리 Dependence가 있으며 Noise가 존재하므로 오히려 변수가 많을수록 모델의 수행능력이 저해된다.

따라서, 우리는 모델이 가장 Best fit이 되는 변수들의 Subset을 찾아보자는 목적으로 차원축소를 수행한다.

결과적으로 변수 사이 상관관계가 감소하고, 사후 과정이 단순화되며(ex. 전처리 공정의 경우 센서의 수를 줄여도 된단 의미), 시각화가 수월해지고 마지막으로 불필요한 변수가 제거된다.

[차원 축소 방법]

1) Supervised VS Unsupervised

• Supervised Dimensionality Reduction

Supervised Dimensionality Reduction는 $X$에서 $X'$로 데이터를 축소시킨다고 할 때 Learning Algorithm(선형 회귀 or 로지스틱 회귀) 등을 통해 더 나은 Subset을 찾는 방식으로 일종의 Loop가 존재한다.

• Unsupervised Dimensionality Reduction

Unsupervised Dimensionality Reduction의 경우 Loop가 없고, 한번에 정량적인 방법을 통해 차원을 축소하는 것을 의미한다.

2) Selection VS Extraction

Variable/feature selection은 기존 데이터 변수 중 Subset을 뽑아내는 방식이다. 반면 Variable/feature Extraction의 경우 새로운 변수를 뽑아내는 것을 의미한다.

왼쪽처럼 Selection은 변수가 그대로 줄어드는 것이고, 오른쪽인 Extraction은 어떠한 함수 $f(x)$와 같이 원래 $x$들의 조합으로 $y$가 만들어진다.

여기까지 전반적인 차원축소 분야에 대해 살펴보았고, 다음 글에서 자세히 다뤄보도록 하겠습니다. 이번 글에선 차원축소의 의미, 차원의 저주 등을 잘 기억해주시면 좋을 것 같습니다.

[Why Evaluate?]

[과적합]

분류 모델의 학습을 위해선 보유하고 있는 데이터를 Train data, Validation data, Test data 3개로 분리하여 Train data만을 사용한다.

이때 위와 같이 웃음 표시인 데이터와 화난 표시의 데이터가 있을 때 파랑색 점선인 Predictive model overfit처럼 모델을 학습한다면 Train data에서는 성능이 좋겠지만 Test data에서는 좋지 않을 수 있다.

왜냐하면 모든 실제 데이터들은 다음과 같은 식을 따르기 때문이다. $$ y = f(x) + \epsilon$$ 여기서 $\epsilon$은 데이터에 내재된 변동성을 의미한다. 따라서 만약 Train data만으로 파란 점선과 같이 분류 기준을 정한다면 $f(x)$가 아닌 $f(x)+\epsilon$ 을 추정하여 Test data에서는 결과가 나쁠 수 있다.

예를 들어 모의고사 기출 문제를 복습하면서 100점 맞는 거는 아무 의미가 없고, 새롭게 치르는 수능을 100점 맞아야만 의미가 있다는 것이다.

[성능 평가]

분류 문제나 회귀 문제에 있어서 다양한 모델 중 최적의 모델을 찾기 위해서이다.

[하이퍼파라미터 최적화]

신경망 모델에서 은닉층의 개수나 활성화함수 설정 등 하이퍼파라미터 설정이 필요한 모델에서 Validation data만을 이용하여 Best parameter를 탐색하는 역할을 한다.

정리하면, 모델 학습을 위해 Train data, 하이퍼파라미터 설정을 위해 Validation data, 그렇게 찾은 최적의 모델 중 어떤 모델이 좋은 지를 판단하기 위해 Test data를 사용한다는 것이다.

[Classification Performance Evaluation]

그럼 분류를 위한 평가 기준은 어떤 기준들이 있을까?

첫번째는 정확도(accuracy)가 있다.

정확도는 모델이 전체 문제 중에서 정답을 맞춘 비율로 0 ~ 1 사이의 값을 가지며, 1에 가까울수록 좋다.

하지만 데이터가 불균형할 때(ex) positive:negative=9:1)는 Accuracy만으로 제대로 분류했는지는 알 수 없기 때문에 Recall과 Precision을 사용한다.(범주 0과 1이 있으면 불균형 데이터의 경우 많은 수의 범주를 모두 맞추고 적은 수의 범주를 모두 틀려도 정확도가 높게 나옴.)

[Confusion Matrix]

Recall과 Precision을 이해하기 전에 혼동행렬(Confusion Matrix)에 대해 우선 살펴보아야 한다.

여기서 각 용어는 다음과 같다.

T(True): 예측한 것이 정답 F(False): 예측한 것이 오답 P(Positive): 모델이 positive라고 예측 N(Negative): 모델이 negative라고 예측 TP(True Positive): 모델이 positive라고 예측했는데 실제로 정답이 positive (정답) TN(True Negative): 모델이 negative라고 예측했는데 실제로 정답이 negative (정답) FP(False Positive): 모델이 positive라고 예측했는데 실제로 정답이 negative (오답) FN(False Negative): 모델이 negative라고 예측했는데 실제로 정답이 positive (오답)

이를 통해 범주별 정확도를 비롯한 다양한 평가지표로 계산이 가능하다.

두번째 평가지표인 Recall(재현율)은 실제로 정답이 positive인 것들 중에서 모델이 positive라고 예측한 비율이다. 해당 평가지표는 실제 정답이 positive인 데이터를 negative라고 잘못 예측하면 안 되는 경우에 중요한 지표가 될 수 있다. 재현율이 유용한 분야는 예를 들어 암 검진 기기 등의 분야가 있다.

Recall를 높이기 위해선 FN(모델이 negative라고 예측했는데 정답이 positive인 경우)을 낮추는 것이 중요하다. 식은 다음과 같다.

$$ Recall = \frac{TP}{TP+FN}$$

세번째 평가지표는 Precision(정밀도)입니다.

모델이 positive라고 예측한 것들 중에서 실제로 정답이 positive인 비율이다. 이는 실제 정답이 negative인 데이터를 positive라고 잘못 예측하면 안 되는 경우에 중요한 지표가 될 수 있다.

Precision을 높이기 위해선 FP(모델이 positive라고 예측했는데 정답은 negative인 경우)를 낮추는 것이 중요하다.

$$ Precision = \frac{TP}{TP+FP}$$

네번째 평가지표는 Balanced correction rate(BCR)로 이는 범주별 정답의 비율을 고르게 반영시켜주는 평가지표이다. 식은 다음과 같다.

$$ BCR = \sqrt{\frac{TP}{TP+FN} \cdot \frac{TN}{TN+FP}}$$

다섯번째 평가지표는 F-1 Score이다.

F-1 Score은 Recall과 Precision의 조화평균으로 Recall과 Precision은 상호 보완적인 평가 지표이기 때문에 F1 score를 사용한다. Precision과 Recall이 한쪽으로 치우쳐지지 않고 모두 클 때 큰 값을 가진다. 식은 다음과 같다.

$$ Score = \frac{2 \times Precision \times Recall}{Precision+Recall}$$

[Cut-off]

위의 평가지표들은 모두 이 Cut-off의 영향을 받는다.

Cut-off란 말 그대로 "분류 기준"을 의미한다.

예를 들어 다음과 같이 BFS에 따라 Gender를 구분하는 문제가 있다고 하자. 이때 Cut-off 기준을 24로 한다면 위의 3개의 행은 F(female)로, 나머지는 M(male)로 구분된다.

따라서 오른쪽 혼동행렬과 같은 표가 구해진다.

이때 만약 Cut-off 기준을 22로 수정하면 다음과 같이 결과가 달라진다.

즉, 정확도(Accuracy)와 BCR, f-1 score은 Cut-off 기준에 Dependent하다는 것을 의미한다.

이때 Model Selection & Model comparison 과정에서 Cut-off 기준에 따라 평가지표가 Dependent하다면 분석가의 주관에 따라 결과가 달라질 수 있다.

따라서 이때 Cut-off와 독립적인 평가지표가 바로 ROC courve이다.

[ROC Curve]

우리는 이때 이를 이해하기 위해 생산품의 불량 판단 문제를 풀어보고자 한다.

교수님이 사용하신 데이터는 100개의 생산품 중 20개가 불량품인 데이터이며 1일 때 불량, 0일 때가 정상이다. 그리고 이때 평가지표로 AUROC(Area Under Receiver Operating Characteristic Curve)를 사용한다.

데이터 셋은 위와 같으며 P(NG)는 로지스틱 회귀분석 결과로 나온 불량품일 확률, Label은 실제 레이블을 의미한다. 따라서 Best Model은 20까지 모두 실제 레이블이 1이고 그 아래는 0이겠지만 실제 분석은 그럴 가능성이 매우 적다.

그러므로 우리는 최대한 Cut-off 위에는 label 1이 많고 아래에는 0이 많게 설계해야한다. 이때 역시 Cut-off에 따라 정확도는 아래와 같이 달라질 수 있다.

1) Cut-off가 0.9

2) Cut-off가 0.8

이렇게 정확도가 달라진다면 이는 Performance를 측정하는 기준으로 옳지 않을 수 있다.

따라서 ROC Curve를 사용한다면 이를 해결할 수 있다.

그럼 ROC Curve가 무엇이냐.

P(NG)를 내림차순으로 정렬하고 Cut-off를 다르게 바꿔가며 TPR(True Positive ratio)을 Y축, FPR(False Positive Ratio)을 X축으로 함께 보며 이를 차트로 시각화하는 것이다.

이때 $TPR = \frac{TP}{TP+FN}$, $FPR=\frac{FP}{FP+TN}$으로 계산된다.

다시 이어가서, 만약 데이터가 100개 있다면 총 101개의 Cut-off 기준이 존재한다.

따라서 첫 Cut-off 기준은 다음과 같이 혼동행렬이 구성되어 (0,0)에서 시작된다.

-> TPR = $\frac{0}{20}$, FPR = $\frac{0}{80}$

다음 두번째 Cut-off 기준은 다음과 같이 혼동행렬이 계산된다.

-> 이때 TPR = $\frac{1}{20}$, FPR = $\frac{0}{80}$

다시 4번째 Cut-off 기준을 살펴보면 다음과 같이 혼동행렬이 계산된다. -> 이때 TPR = $\frac{2}{20}$, FPR = $\frac{1}{80}$

따라서 다음과 같이 결과가 구해진다.

그럼 결국 마지막 Cut-off는 (1,1)로 계산되고 다음과 같이 시각화할 수 있다.

이때 만약 좋은 분류기면 아래의 보라색 선과 같고, Random 즉, 아무 의미 없는 분류기의 경우 아래 빨간 점선과 같은 ROC curve가 나타난다. 따라서 모든 ROC Curve는 Perfect Classifier와 Random Classifier 사이로 지나가게 된다.

이때 사람들은 ROC Curve를 보고 이해할 수 있지만 컴퓨터는 그렇지 못하다. 그래서 등장한 개념이 바로 AUROC이다. 이는 ROC Curve 아래 면적을 계산하는 것이다. 따라서 대부분의 분류기는 1과 0.5 사이의 AUROC 값이 나오게 된다.

[이론적 배경]

로지스틱 회귀 1편에 이어서 Gradient descent의 이론적 배경부터 다뤄보도록 하겠습니다.

• 1편 링크) https://velog.io/@withs-study/DSBA-ITS504-Logistic-Regression#logistic-regression

[Learning]

[Taylor expansion]

Taylor expansion(테일러 전개)는 $\Delta w$가 매우 작은 값일 때 다음과 같은 식으로 나타낼 수 있음을 의미합니다. $$ f(w+\Delta w) = f(w)+\frac{f'(w)}{1!} \Delta w+ \frac{f''(w)}{2!}(\Delta w)^2 + \ \cdots \quad (1)$$

이때 $\Delta w$가 매우 작다면 2차항을 포함한 그 이상의 고차항들은 0으로 수렴하게 됩니다.

만약 1차 도함수가 0이 아니면, 아래를 통해 가중치를 업데이트할 수 있습니다. $$ w_{new} = w_{old}-\alpha f'(w), \quad where ; 0<\alpha<1 \quad (2)$$

여기서 $-f'(w)$는 "방향"을 의미하고 $\alpha$는 "크기"를 의미합니다.

따라서 (1)식에 (2)를 대입하면 다음과 같이 나타납니다.

$$ f(w_{new}) = f(w_{old}-\alpha f'(w_{old})) \simeq f(w_{old})-\alpha |f'(w)|^2 < f(w_{old}) $$

조금 더 상세히 설명하자면 $-\alpha f'(w_{old})$를 (1)의 $\Delta w$라고 생각할 수 있습니다.

따라서 $f(w_{old}-\alpha f'(w_{old}))$가 $f(w_{old})-\alpha |f'(w)|^2$로 다음과 같은 과정을 통해 근사하게 됩니다.

$$ f(w_{old}-\alpha f'(w_{old})) \simeq f(w_{old}) \ + \ \frac{f'(w_{old})}{1!} \cdot -\alpha f'(w_{old}) = f(w_{old})-\alpha|f'(w)|^2$$

[로지스틱 회귀에서의 적용]

이를 독립변수가 2개인 로지스틱 회귀에 적용하면 다음과 같습니다.

여기서, $x_i$가 3개인 이유는 $x_0$은 상수항 즉, 1을 의미하기 때문이며 $h$와 $y$는 다음과 같습니다.

$$ h = \sum^2_{i=0}w_ix_i \ y = \frac{1}{1+exp(-h)} = σ(X∣w)$$

• $h$의 $w_i$는 사실상 로지스틱 회귀분석의 $\beta_i$를 의미하며, $y$는 로지스틱 회귀식임을 알 수 있습니다. $\to$ 쉽게 말해, 그냥 독립변수 2개로 로지스틱 회귀분석한 것!

이때 Cost function을 아래와 같다고 가정해보자 $$ L=\frac{1}{2}(t-y)^2$$ 여기서 $t$는 종속변수인 0 or 1이고, $y$는 $p(y=1)$로 $t=1$인 경우에는 $p(y=1)$이 1에 가깝게 나오면 좋고, $t=0$인 경우에는 $p(y=1)$이 0에 가까울수록 좋은 비용함수입니다.

그럼 우리는 위 Cost function을 활용하여 가중치를 업데이트를 해야하고, 그러기 위해선 $\frac{\partial L}{\partial w_i}$를 계산해야합니다.

Cost function $L$에는 $w$에 관한 식이 없지만 다음과 같은 Chain rule를 통해 계산할 수 있습니다.

$$ \frac{\partial L}{\partial w_i} = \frac{\partial L}{\partial y} \times \frac{\partial y}{\partial h} \times \frac{\partial h}{\partial w_i}$$

여기서 각 $\frac{\partial L}{\partial y}, \frac{\partial y}{\partial h}, \frac{\partial h}{\partial w_i}$의 계산 과정은 아래와 같습니다.

$$ \begin{aligned} &L = \frac{1}{2}(t-y)^2 \ \to \ \frac{\partial L}{\partial y} = y-t \ \end{aligned}$$

몫의 미분법에 따라, $$ \frac{\partial y}{\partial h} = \frac{exp(-h)}{(1+exp(-h))^2} = \frac{1}{1+exp(-h)} \cdot \frac{exp(-h)}{1+exp(-h)} = y(1-y) $$

$$ h = w_ix_i \ \to \ \frac{\partial h}{\partial w_i} = x_i$$

따라서, 우리는 다음과 같은 식을 도출할 수 있습니다. $$ \frac{\partial L}{\partial w_i} = \frac{\partial L}{\partial y} \times \frac{\partial y}{\partial h} \times \frac{\partial h}{\partial w_i} = (y-t) \cdot y(1-y) \cdot x_i$$

그러므로 우리는 가중치 $w_i$를 다음과 같이 업데이트를 할 수 있습니다.

$$ w_{new} = w_{old}-\alpha \frac{\partial L}{\partial w_i} = w_{old}-\alpha \times (y-t) \cdot y(1-y) \cdot x_i$$

여기서, $(y-t)$는 예측값인 $y$과 실제값인 $t$로 이루어진 항으로 예측값과 실제값의 차이를 나타내는 항입니다. 이때 만약 그 차이가 작다면 가중치 업데이트의 양 역시 줄이는게 합리적이라고 생각할 수 있습니다.

그러므로 Update the coefficient more if the current output $y$ is very different from the target $t$

즉 조절할 가중치의 변화량을 의미합니다.

다음으로 $x_i$항은 Update the coefficients more if the value of corresponding input variable is large

즉, 가중치 조절에서 연관된 독립변수의 값만 영향을 미친다는 것입니다. 예를 들어 로지스틱 회귀식에서 $\hat{\beta_2}$를 추정하는데 있어서, $x_1$이나 $x_3$는 영향을 주지않고 $x_2$만이 영향을 준다는 의미입니다.

[Prediction]

성공확률 $p$는 로지스틱 회귀식에 따라 다음 식을 통해 예측됩니다.

$$ p= \frac{1}{1+e^{-(\hat{\beta_0}+\hat{\beta_1}x_1+\hat{\beta_2}x_2 \cdots \hat{\beta_d}x_d)}}$$

따라서 새로운 데이터가 들어왔을 때 위 식을 통해 두 범주 중 한 범주에 속할 확률을 구할 수 있습니다.

여기서 위 그림의 $x$축은 $\hat{\beta_0}+\hat{\beta_1}x_1+\hat{\beta_2}x_2 \cdots \hat{\beta_d}x_d$을 의미하며, $y$축은 $p$를 의미합니다.

이때 현실에서는 어떤 변수에 대해 항상 선형적으로 증가하는 것이 아닌 특정 구간에 대해서만 선형성을 가지는 경우가 빈번합니다.

예를 들어 위 그림을 보면 초록색 구간보다 왼쪽에서는 $x$축의 값이 증가하더라도 $y$축의 값이 많이 상승하지 않습니다. 이는 소득이 적은 구간에서는 아무리 소득이 증가하더라도 집을 구매하기가 어렵다는 것을 의미합니다.

하지만 초록색 구간에서는 소득이 증가하는 만큼 집을 소유할 확률도 함께 올라가는 선형성을 보입니다. 또한 초록색구간보다 오른쪽은 소득이 많은 구간으로 이미 그 구간의 대부분이 집을 소유하고 있을 확률이 높기 때문에 $x$축의 값이 떨어진다고 해도 $y$축의 값이 크게 떨어지지는 않는 모습을 보입니다.

[Cut-off]

로지스틱 회귀를 통해 한 범주에 속할 확률 $p$를 계산한 후에는 $p$값에 따라 한쪽 범주로 할당해줘야 합니다.

즉, 0.76과 같이 확률값으로 산출되는 결과를 0 or 1로 나타내줘야한다는 의미입니다. 이를 Cut-off 또는 threshold라고 합니다.

일반적으로는 0.5로 기준을 정의해주지만, 제조업과 같은 분야에서는 정상/불량 판단에 있어서 불량이 매우 적습니다.

이러한 경우 0.5를 cut-off 기준으로 사용하면 불량으로 너무 많이 판단됩니다. 따라서 그 기준을 옮길 필요가 있습니다. 보통은 우리가 관심있는 범주를 "1"범주로 지정을 하는데, 제조업의 경우 불량 범주가 "1"범주가 됩니다.

이 경우 대부분 현실 문제에서는 관심있는 범주에 속하는 수가 적은 경우가 많습니다. 따라서 Cut-off 기준을 0.5보다 낮은 값으로 정하여 이를 해결합니다.

이때 정확한 Cut-off 기준에 대해 정답은 없지만 Classification accuracy가 최대가 되거나 Sensitivity와 같은 값이 최대화가 되도록 하는 값을 기준으로 사용합니다.

[Interpretation]

위 과정들을 거쳐 회귀 계수를 추정했으니 그러면 회귀 계수가 무엇을 의미하는지에 대해서도 알아봐야겠죠??

선형 회귀 식 $$ \hat{y} = \hat{\beta_0} + \hat{\beta_1}x_1+\hat{\beta_2}x_2+\cdots+\hat{\beta_d}x_d$$ 에서 $\hat{\beta}$는 설명변수가 한 단위 증가했을 때 변화하는 종속변수($\hat{y}$)의 양입니다.

반면, 로지스틱 회귀식 $$ log(Odds)=log(\frac{p}{1-p}) = \hat{\beta_0}+\hat{\beta_1}x_1+\hat{\beta_2}x_2+\cdots+\hat{\beta_d}x_d$$ 은 좌변이 $log(Odds)$이기 때문에 회귀계수의 의미를 직관적으로 파악하기 어렵습니다.

그래서 로지스틱 회귀에선 Odds ratio라는 개념이 사용됩니다. 예를 들어 $x_1$ 한 단위가 증가할 때 Odds ratio 식은 아래와 같습니다. $$ \frac{Odds(x_1+1, \cdots, x_d)}{Odds(x_1, \cdots, x_d)} = \frac{e^{\hat{\beta_0}+\hat{\beta_1}(x_1+1)+\hat{\beta_2}x_2+\cdots+\hat{\beta_d}x_d}}{e^{\hat{\beta_0}+\hat{\beta_1}x_1+\hat{\beta_2}x_2+\cdots+\hat{\beta_d}x_d}} = e^{\hat{\beta_1}}$$

의미를 알아보면, $x_1$ 한 단위가 증가할 때 Odds는 $e^{\hat{\beta_1}}$만큼 증가한다는 뜻입니다.

이때 만약 $\hat{\beta} >0$이라면 $e^{\hat{\beta}}>1$를 만족하고, 이는 결국 Odds ratio가 커진다는 것을 의미하며 이는 성공확률 $p$가 증가한다는 의미입니다.

따라서, $\hat{\beta} >0$인 경우는 "성공" 범주와 회귀계수 간에 양의 상관관계가 있음을 의미합니다. 또한 만약 반대로 $\hat{\beta} <0$인 경우에는 $e^{\hat{\beta}}<1$이며 이는 위와 같은 과정을 통해 "성공"범주와 회귀계수 간에 음의 상관관계가 있다는 것을 의미하게 됩니다.

그럼 예시를 통해 다시 이해해보도록 하겠습니다.

만약 파란색 동그라미는 Not Default, 주황색 십자표시는 Default한 사람들의 데이터라고 할 때, 산점도와 Boxplot을 살펴보면 Balance 변수는 Default 판단에 있어 매우 유용한 변수이지만 Income 변수는 두 범주를 명확하게 구분할 수 없기 때문에 유용하지 않은 변수인 것을 파악할 수 있습니다.

위 변수들과 Student 변수(학생이면 1, 아니면 0인 범주형 변수)로 로지스틱 회귀분석을 실시한 결과가 다음과 같다면, balance 변수만 유의수준 5%하에소 유의한 것을 확인할 수 있습니다.

다음으로 독립변수에 따른 확률값 추정을 예로 확인하기 위해 유의한 변수인 balance 변수만을 활용하여 로지스틱 분석을 실시하면 다음과 같은 결과가 나옵니다.

이를 통해 만약 balance변수가 1000$이면 아래와 같이 Default 확률을 계산할 수 있습니다.

$$ \hat{p(X)} = \frac{e^{\hat{\beta_0}+\hat{\beta_1}X}}{1+e^{\hat{\beta_0}+\hat{\beta_1}X}} = \frac{e^{-10.6513+0.0055\times 1000}}{1+e^{-10.6513+0.0055\times 1000}} = 0.006$$ 위 결과에 따라 만약 balance 변수가 1000$라면 0.6%의 확률로 Default가 발생함을 알 수 있습니다.

또한 만약 2000$의 값을 가진다면 다음과 같이 계산할 수 있습니다.

$$ \hat{p(X)} = \frac{e^{\hat{\beta_0}+\hat{\beta_1}X}}{1+e^{\hat{\beta_0}+\hat{\beta_1}X}} = \frac{e^{-10.6513+0.0055\times 2000}}{1+e^{-10.6513+0.0055\times 2000}} = 0.586$$

따라서 이 경우에는 58.6%로 Default가 발생함을 알 수 있으며 변수는 2배 증가했지만, default 확률은 58%나 증가함을 확인할 수 있습니다.

[Geometric interpretation]

만약 2가지 변수를 통해 로지스틱 회귀분석을 한다면,

위 결과처럼 결과를 얻을 수 있습니다. 이때 만약 분류 기준이 초록색 선이라면 회귀계수에 따라 파란색 방향으로 가면 "1"로 라벨링된 범주일 확률이 1에 가까워지고 빨간색 방향에 데이터가 있을수록 확률이 0에 가까워진다는 것을 알 수 있습니다.

[Multinomial Logistic Regression]

위에선 종속변수의 범주가 2개인 경우만을 살펴보았지만 범주값이 2개보다 더 많은 경우가 존재할 수 있습니다. 이 경우에는 Multinomial Logistic Regression를 통해 해결할 수 있습니다.

Multinomial Logistic Regression의 과정을 설명드리자면,

우선 일명 Baseline으로 사용할 변수를 하나 정해줍니다. (이 글에서는 예시로 범주가 3개인 로지스틱 분석에서 $y=3$일 경우를 baseline으로 정해서 사용하겠습니다.)

이후 Baseline 범주를 분모로 하여 다른 범주들 각각 $log(Odds)$값을 통해 회귀식 2개를 계산해줍니다.

$$ log(\frac{p(y=1)}{p(y=3)})=\hat{\beta_{10}}+\hat{\beta_{11}}x_1+\cdots \hat{\beta_{1d}}x_d = \beta_1^T X$$

$$ log(\frac{p(y=2)}{p(y=3)})=\hat{\beta_{20}}+\hat{\beta_{21}}x_1+\cdots \hat{\beta_{2d}}x_d = \beta_2^T X$$

이때 위에서 살펴본 이항 로지스틱 회귀분석에서 $\frac{p}{1-p} = \frac{p(y=1)}{p(y=0)}$인 점을 생각하면 이 과정을 이해하기가 쉬울겁니다.

다음으로 위 과정을 통해 얻은 회귀식은 아래와 같이 표기할 수 있습니다.

$$ \frac{p(y=1)}{p(y=3)}=e^{\beta_1^TX}, \ \frac{p(y=2)}{p(y=3)}=e^{\beta_2^TX}$$

이때 각 범주가 될 변수의 확률들을 합하면 1이 되어야 하므로 $p(y=1)+p(y=2)+p(y=3)=1$라는 식을 만족해야하고 이는 위 두 식을 통해 다음과 같이 나타낼 수 있습니다.

$$ e^{\beta_1^TX} \times p(y=3)+e^{\beta_2^TX} \times p(y=3)+p(y=3)=1 \ \therefore p(y=3)=\frac{1}{1+e^{\beta_1^TX}+e^{\beta_2^TX}}$$

정리하면 종속변수가 K개의 범주로 구성되어 있을 때 K-1개의 로지스틱 회귀식을 얻을 수 있고, 이를 통해 위와 같이 다항 로지스틱 회귀식을 얻을 수 있다는 것입니다.

또한 범주가 3개인 다항 로지스틱 회귀분석을 실시하면 위와 같은 결과를 얻을 수 있고 결과를 살펴보면 Baseline인 "3"범주에 대해 1 vs 3, 2 vs 3으로 비교할 수 있음을 확인할 수 있습니다.

이때 중요한 점은 Ash 변수나 Proanthocyannins 변수와 같이 "1" 범주와 "3" 범주를 판단할 때는 두 변수 모두 $p-value$가 0.05 이상으로 유의수준 5% 이내에서 유의하지 않은 변수이지만 "2" 범주와 "3" 범주를 판단할 때는 $p-value$가 0에 가까운 변수로 매우 유의한 변수임을 확인할 수 있습니다.

따라서 범주 각각을 판단할 때 중요한 변수가 달라질 수 있다는 점을 유의하면 다항 로지스틱 분석을 잘 활용할 수 있을 것이라고 기대됩니다.