Abtract

• 이 논문은 모델에 관계 없이 적용 가능한(model-agnostic) meta-learning 알고리즘을 제안한다.

• 이 알고리즘은 Gradient descent로 훈련된 모든 모델과 호환되며 분류, 회귀, 강화 학습 등 다양한 학습 문제에 적용될 수 있다.

  meta-learning의 목표

  다양한 task에 대해 모델을 훈련시켜 소수의 training sample만으로 새로운 task를 해결할 수 있도록 하는 것

• 해당 논문에서는 모델의 파라미터들을 명시적으로 학습시켜, 새로운 task에서 _적은 양의 학습 데이터_로 _소수의 gradient steps_를 통해 해당 task에서 좋은 일반화 성능을 내도록 하는 방법론을 소개한다.

  성능

• 두 개의 few-shot 이미지 분류 벤치마크에서 SOTA 성능을 보임.

• few-shot 회귀 task에서 좋은 결과를 도출해냄.

• 신경망 policies로 policy gradient 강화 학습을 위한 fine-tuning을 더 빠르게 진행할 수 있게 함.

1. Introduction

AI 에이전트는 인간처럼 몇 가지 예문만으로 빠르게 학습하고 데이터가 확보됨에 따라 계속해서 적응할 수 있어야 한다. 이러한 빠르고 유연한 학습은 쉽지 않다.

• 에이전트는 새로운 데이터에 과적합되지 않으면서 이전 경험을 소량의 새로운 정보와 통합해야 하기 때문이다.
• 또한, 이전 경험과 새로운 데이터의 형태는 task에 따라 달라질 것이기에 다루기 까다롭다.

따라서 학습(또는 meta-learning) 메커니즘이 task와 task 수행에 필요한 계산 형태에 general하게 적용되도록 해야 한다.

• gradient descent 과정으로 훈련되는 모든 모델에 적용할 수 있는 방법론을 제안한다. 우선, 이 논문의 초점은 심층 신경망 모델에 맞춰져있지만, 최소한의 수정으로 분류, 회귀, 정책 그래디언트 강화 학습과 같은 다양한 문제도 쉽게 다룰 수 있음을 설명할 수 있다.

The key idea

모델의 초기 파라미터들을 훈련하여 새로운 task에서의 소량의 데이터로 계산된 하나 이상의 gradient steps를 통해 매개 변수를 업데이트 한 후, 모델이 최대 성능을 발휘하도록 하는 것.

• 업데이트 함수 도는 학습 규칙을 학습하는 이전의 meta-learning 방법과 달리, 이 논문에서 소개하는 알고리즘은 학습된 매개변수의 수를 늘리거나 모델 구조에 제약을 두지 않는다.
• 이는 fully connected, convolutional, or recurrent neural networks와 쉽게 결합할 수 있다.

적은 수의 gradient 업데이트만으로도 새로운 task에 대한 빠른 학습이 가능하도록 모델의 매개변수를 학습하는 것.

• $m\times n$ 행렬 $A$
• n개의 열벡터에 의해 생성되는 $\mathbb{R}^m$의 부분 공간을 A의 열공간(column space)이라고 한다.
• m개의 행벡터에 의해 생성되는 $\mathbb{R}^n$의 부분 공간을 A의 행공간(row space)이라고 한다.

ex) $$ A_{3\times4} = \begin{pmatrix} -1 & 0 & 1 & 2 \ 2 & 5 & 3 & -2 \ 3 & 0 & 0 & 1 \end{pmatrix} $$

column space와 row space는 아래와 같다. $$\mathrm{column \space space}={\alpha_1 \begin{pmatrix} -1 \ 2 \ 3 \end{pmatrix} +\alpha_2 \begin{pmatrix} 0 \ 5 \ 0 \end{pmatrix} +\alpha_3 \begin{pmatrix} 1 \ 3 \ 0 \end{pmatrix} + \alpha_4 \begin{pmatrix} 2 \ -2 \ 1 \end{pmatrix} } $$ $$\mathrm{row \space space}={\beta_1 \begin{pmatrix} -1 & 0 & 1 & 2 \end{pmatrix}^{\prime} +\beta_2 \begin{pmatrix} 2 & 5 & 3 & -2 \end{pmatrix}^{\prime} +\beta_3 \begin{pmatrix} 3 & 0 & 0 & 1 \end{pmatrix}^{\prime} } $$

2. 행렬의 계수, rank

$rank(A) = r(A) =$ 행공간의 차원 $=$ 열공간의 차원

• 즉, 행 벡터들(또는 열 벡터들) 중에서 선형 독립(linearly independent)하는 벡터들의 갯수를 행렬의 계수(rank)라고 한다.
• 행렬 $A$가 $n\times n$ 정사각행렬이고 $dim(A)=n$ 일 때, $A$를 정칙행렬(regular matrix), 완전 계수 행렬(full rank matrix), 또는 비특이행렬, 가역행렬(nonsingular matrix)이라고 한다.

  nonsingular, singular, inverse

• nonsingular matrix (가역행렬, 비특이행렬): 역행렬이 존재하는 행렬 A nonsingular matrix $A$ has a unique inverse, denoted by $A^{-1}$, with the property that $$AA^{-1}=A^{-1}A=I $$
• singular matrix (특이행렬): 역행렬을 갖지 않는 행렬 If $A$ is square and less than full rank, then it does not have an inverse and is said to be singular.

Theorem

$A$ : $m\times n$ 행렬 ① $rank(A) = rank(A^{\prime})$ ② $rank(A) \le min(m,n)$ ③ $rank(AB) \le min(rank(A), rank(B)) \quad$ for any $n \times p$ matrix $B$

④ $rank(AB) = rank(A) \quad$ for any $n\times n$ nonsingular matrix $B$

⑤ If $A$ is an $m\times m$ matrix, then $|A| = 0 \Leftrightarrow rank(A) < m$

• $A$의 행렬식이 0이 아니라면, $rank(A)=m$

⑥ $rank(AA^{\prime})=rank(A^{\prime}A)=rank(A)$ ⑦ If $A$ is idempotent ($A^2=A$), then $rank(A)=trace(A)$

• 행렬 $A$가 멱등행렬이라면, $A$의 계수는 $A$의 대각합과 같다.

벡터 공간 S에 있는 벡터의 집합 ${x_1,x_2,\dots,x_n}$에 대하여 다음을 만족하면 ${x_1,x_2,\dots,x_n}$은 S의 기저(basis)이다.

1. ${x_1,x_2,\dots,x_n}$ spans the vector space S.
2. ${x_1,x_2,\dots,x_n}$ is linearly independent.

• 즉, S에 속하는 모든 벡터는 ${x_1,x_2,\dots,x_n}$의 선형 결합으로 표현되며, ${x_1,x_2,\dots,x_n}$ 중 어느 벡터도 다른 벡터의 선형 결합으로 표현되지 않으면, S의 기저라고 할 수 있다.
• 이 기저에 속하는 벡터들의 갯수를 차원(dimension)이라고 한다. $$dim(S) = n $$
• 벡터 공간의 기저는 unique하지 않지만, 모든 기저는 벡터들의 갯수 즉, 차원은 동일하다.

  Theorem

1. 벡터 공간 S의 기저에 포함된 벡터의 수는 일정하다.
2. 벡터 공간 S의 차원이 m이고 벡터 집합 $B={x_1,x_2,\dots,x_m}$ ($B \subset S$) 가 독립이면, B는 S의 기저이다.
3. 벡터 집합 $B={x_1,x_2,\dots,x_m}$가 벡터공간 S의 생성 집합이고 S의 차원이 m이면, B는 선형 독립이고 S의 기저이다.

• 생성 집합: 벡터 공간 S에 포함되는 m개의 벡터로 이루어진 집합 ${x_1,x_2,\dots,x_m}$에 대하여 S에 포함되는 모든 벡터가 ${x_1,x_2,\dots,x_m}$의 선형 결합으로 표현될 때, 이 집합을 S의 생성 집합(spanning set)이라고 한다.

4. 벡터들의 집합 $B={x_1,x_2,\dots,x_m}$가 벡터 공간 S의 기저이면, S에 속하는 모든 벡터 s에 대하여 $s=\alpha_1 x_1 + \cdots + \alpha_m x_m$을 만족하는 벡터 $\alpha=(\alpha_1, \dots,\alpha_m)$가 존재한다.

기저(basis)와 좌표(coordinates)

${x_1,x_2,\dots,x_m}$이 벡터 공간 S의 기저라면, S에 속하는 임의의 벡터 x는 다음과 같이 고유한 표현을 가진다. $$x=\alpha_1 x_1 + \alpha_2 x_2 + \cdots + \alpha_n x_n $$ 여기서 $\alpha_1, \alpha_2, \dots , \alpha_n$는 스칼라 계수이며, 이를 ${x_1,x_2,\dots,x_m}$라는 기저에 대한 x의 좌표(coordinates)라고 부른다.

• 예시) 2차원 벡터 공간 $\mathbb{R^2}$에서 기저 ${(1,0), (0,1)}$가 주어진 경우, 벡터 $(3,4)$는 다음과 같이 유일하게 표현된다. $$(3,4) = 3 \cdot (1,0) + 4\cdot (0,1) $$ 여기서 3과 4가 바로 $(1,0), (0,1)$에 대한 $(3,4)$의 좌표이다.

  정규 직교 기저, orthonormal basis

• Definition 1. 두 벡터 $x$, $y$에 대하여 다음 두 조건을 만족한다면, 이 두 벡터는 정규 직교 벡터(orthonormal vector, orthogonal+normal)라고 한다. $$|x|=|y|=1 $$ $$x^{\prime}y=\space <x,y> \space=0 $$

• Definition 2. 벡터 공간 S의 기저 B를 이루는 벡터들이 다음의 조건을 만족할 때, B를 정규 직교 기저(orthonormal basis)라고 한다.

$$|x|=1, \quad |y|=1, \quad x^{\prime}y=0, \quad \forall x, y \in B $$ 다르게 표현하면 아래와 같다.

• 벡터 공간 S의 기저 B를 이루는 벡터 $x_1, \dots, x_n$가 아래의 조건을 만족한다면, 정규 직교 기저이다. $$ <x_i, x_j> = \begin{cases} 0 & \mathrm{if} \space i \neq j \ 1 & \mathrm{if}\space i = j\end{cases}$$

Theorem

${x_1, \dots, x_n}$를 벡터 공간 S의 정규 직교 기저라고 할 때, 모든 $x \in S$에 대하여 아래가 성립한다. $$x = \space <x,x_1>x_1+<x,x_2>x_2+ \cdots+<x,x_n>x_n $$ $$|x|^2=\sum_{i=1}^n<x,x_i>^2 $$

그람-슈미트 정규직교화 (Gram-Schmidt orthonormalization)

일반적인 기저로부터 정규 직교 기저를 만드는 방법이다.

• ${x_1, \dots, x_n}$를 벡터 공간 S의 기저라고 한다면, S의 직교 기저(orthogonal basis) $y_1, y_2, \dots y_n$는 다음과 같이 구할 수 있다. $y_1 =x_1$ $y_2=x_2-\frac{<x_2,y_1>}{<y_1,y_1>}y_1$ : $x_2$를 $y_1$에 정사영한 벡터 $\vdots$ $y_n=x_n-\frac{<x_2,y_1>}{<y_1,y_1>}y_1-\cdots-\frac{<x_n,y_{n-1}>}{<y_{n-1},y_{n-1}>}y_{n-1}$
• 이 $y_i$으로 아래의 정규화 식을 이용하여 정규 직교 기저 ${z_1, \dots,z_n }$를 구할 수 있다. $$z_i=\frac{1}{|y_i|}y_i $$

벡터들을 포함하는 집합 S가 다음을 만족할 때 이를 벡터 공간(vector space)라고 한다. (ⅰ) O ∈ S : 영벡터를 포함한다. (ⅱ) x ∈ S, y ∈ S 이면 x+y ∈ S. (closed for addition) (ⅲ) x ∈ S 이면, 임의의 실수 α에 대하여 αx ∈ S. (closed for scalar multiplication)

선형 결합, linear combination

벡터들의 집합 S에 있는 k개의 벡터 $x_1, x_2, \dots , x_k$에 대하여, 각 벡터 $x_i$에 스칼라 $\alpha_i$를 곱하여 이들을 합해서 얻은 벡터 $v=\sum_i\alpha_i x_i$를 벡터 $x_1, x_2, \dots , x_k$의 선형 결합(linear combination)이라고 한다.

생성 집합, spanning set

벡터 공간 S에 포함되는 m개의 벡터로 이루어진 집합 ${x_1, \dots, x_m}$에 대하여 S에 포함되는 모든 벡터가 ${x_1, \dots, x_m}$의 선형 결합으로 표현될 때, 이 집합을 S의 생성 집합(spanning set)이라고 한다.

• 즉, S에 속하는 모든 벡터 s에 대해 $s=c_1x_1 + \cdots+ c_mx_m$을 만족하는 벡터 $c=(c_1,\dots, c_m) \in \mathbb{R^m}$가 존재할 때, ${x_1, \dots, x_m}$을 S의 생성 집합이라고 한다.

내적, inner product

• $S \in \mathbb{R^m}$에 속한 두 벡터 $a, b$의 내적은 다음과 같이 정의된다. $$a\cdot b = \sum_{k=1}^{n}a_kb_k =a^{\prime}b=b^{\prime}a= <a,b> $$
• 두 벡터 사이의 거리 $$|a-b|=\sqrt{\sum_{i=1}^{n}(a_i-b_i)^2}=\sqrt{(a-b)^{\prime}(a-b)}=\sqrt{(a-b)\cdot(a-b)} $$
• 자기 자신과의 내적: 벡터 $a$의 원점으로부터의 길이(크기) $$a\cdot a=a^{\prime}a=|a|^2 $$
• 내적의 성질 1) $<x,x>\ge0$ , $<x,x> = 0 \Leftrightarrow x=0$ 2) $<x,y>\space=\space<y,x>$ 3) $<\alpha x,y>\space=\space \alpha<x,y>$ 4) $<x+y,z>\space=\space<x,z>+<y,z>$

Norm

$$|x|=\sqrt{<x,x>}=\sqrt{\sum_{i=1}^mx_i^2} $$

• 노름의 성질 1) $|x| \ge0$, $|x| = 0 \Leftrightarrow x=0$ 2) $|\alpha x|= |\alpha|\cdot|x|$ 3) $|x+y|\le|x|+|y|$ 세 번째 성질은 양변을 각각 제곱하여 전개한 후, 코사인 성질($x\cdot y \le |x| \cdot |y|)$을 사용하면 증명할 수 있다.

2. 선형 종속(linearly dependent)과 선형 독립(linearly independent)

벡터 공간 S에 포함되는 n개의 벡터로 이루어진 집합 ${x_1, \dots, x_n}$에 대하여 다음 식을 만족하는 0이 아닌 스칼라 값 $\alpha$가 존재한다면, ${x_1, \dots, x_n}$은 선형 종속(linearly dependent)이다. $$\alpha_1 x_1 + \alpha_2 x_2 +\cdots +\alpha_n x_n=0 $$

반대로, 모든 $\alpha$가 0이어야만 위 식을 성립한다면, ${x_1, \dots, x_n}$은 선형 독립(linearly independent)이다.

• Theorem) A collection of vectors ${x_1, \dots, x_n}$ is linearly dependent if and only ($\Leftrightarrow$) if at least one of the vectors can be expressed as a linear combination of the remaining vectors.
• 즉, ${x_1, \dots, x_n}$ 중의 한 벡터가 다른 벡터의 선형 결합으로 표현될 수 있다면 선형 종속이고,
• ${x_1, \dots, x_n}$ 중의 어느 벡터도 다른 벡터의 선형 결합으로 표현할 수 없다면 선형 독립이다.

2.1 행렬 및 벡터 표기법

2.1.1 Matrices, Vectors, and Scalars

matrix, 행렬

행렬을 나타내기 위해 대문자 굵은 글씨를 사용하고, 이 책에서 행렬의 모든 요소는 실수이거나 실수를 나타내는 변수이다. $$\mathbf{A}=(a_{ij})=\begin{pmatrix} a_{11} & a_{12} \ a_{21} & a_{22} \ a_{31} & a_{32} \end{pmatrix} $$ $a_{ij}$의 첫 번째 아래 첨자는 행, 두 번째는 열을 나타낸다. 행렬 $\mathbf{A}$는 3개의 행과 2개의 열을 가지고 있으며, $\mathbf{A}$의 크기는 $3\times2$라고 한다.

vector, 벡터

벡터는 단일 행 또는 열이 있는 행렬이다. 벡터의 요소는 단일 아래 첨자로 표현한다. $$\mathbf{x} = \begin{pmatrix} x_1 \ x_2 \ x_3 \end{pmatrix}$$ 보통 열 벡터의 경우 소문자 굵은 글씨를 사용하며, 행 벡터의 경우 글씨 뒤에 프라임($\prime)$을 붙여 사용한다. $$\mathbf{x^{\prime}} = (x_1,x_2,x_3) = \begin{pmatrix}x_1&x_2&x_3 \ \end{pmatrix}$$ 기하학적으로, p개의 원소를 가진 행 또는 열 벡터는 p차원 공간의 점과 관련 있으며, 벡터의 원소는 점의 좌표이다.

scalar, 스칼라

행렬과 벡터의 관점으로 볼 때 단일 실수를 _스칼라(scalar)_라고 한다.

2.1.2 Matrix Equality

크기가 같고 해당 위치의 요소가 같은 두 행렬 또는 두 벡터는 서로 같다. $$\begin{pmatrix} 5 & 4 & -2 \ 0 & -4 & 7 \end{pmatrix} = \begin{pmatrix} 5 & 4 & -2 \ 0 & -4 & 7 \end{pmatrix} \neq \begin{pmatrix} 5 & 4 & 1 \ 0 & -4 & 7 \end{pmatrix}$$

2.1.3 Transpose

행렬 $\mathbf{A}$의 행과 열을 바꾼 행렬을 $\mathbf{A}$의 전치행렬(transpose)_이라고 하며 $\mathbf{A^{\prime}}$로 표현한다. $$\mathbf{A^{\prime}}=(a{ij})^{\prime}=(a_{ji}) \tag{2.1} $$ Theorem 2.1 $\mathbf{A}$가 임의의 행렬일 때, $$\mathbf{(A^{\prime})^{\prime}}=\mathbf{A} $$ Proof. (2.1)에 의해, $\mathbf{A^{\prime}}=(a_{ij})^{\prime}=(a_{ji})$. 그러면 $\mathbf{(A^{\prime})^{\prime}}=(a_{ji})^{\prime}=a_{ij}=\mathbf{A}$.

2.1.4 특수한 형태의 행렬

symmetric matrix, 대칭 행렬

• $\mathbf{A}^{\prime}=\mathbf{A}$라면, '행렬 $\mathbf{A}$는 _symmetric_하다'라고 한다.
• 모든 대칭 행렬은 행의 수과 열의 수가 같은 정사각행렬(정방행렬)이다.

  diagonal matrix, 대각 행렬

• 행렬의 대각선이 아닌 모든 위치에 0이 놓인 행렬을 대각 행렬(diagonal matrix)이라고 한다.

$$\mathbf{D} = \begin{pmatrix} 3 & 0 & 0 \ 0 & 2 & 0 \ 0 & 0 & 0 \end{pmatrix}= \mathrm{diag}(3,\space2, \space 0) $$

• $\mathbf{A}$와 동일한 대각선 요소를 같는 대각 행렬을 나타내기 위해 $\mathrm{diag}(\mathbf{A})$ 표기법을 사용한다. $$\mathbf{A}=\begin{pmatrix} 5 & 3 & -2 \ 3 & -1 & 4 \ 1 & 4 & 8 \end{pmatrix}, \space \mathrm{diag}(\mathbf{A})=\begin{pmatrix} 5 & 0 & 0 \ 0 & -1 & 0 \ 0 & 0 & 8 \end{pmatrix}$$

  identity matrix, 단위 행렬 ($\mathbf{I}$)

• 대각선 위치에 1이 있는 대각 행렬을 _단위 행렬(identity matrix)_라고 하며, $\mathbf{I}$로 표시한다. $$\mathbf{I}=\begin{pmatrix} 1 & 0 & 0 \ 0 & 1 & 0 \ 0 & 0 & 1 \end{pmatrix}$$

  upper triangular matrix, 상삼각행렬

• 대각선 아래에 있는 모든 요소가 0인 정사각행렬을 _상삼각행렬(upper triangular matrix)_라고 한다. $$\mathbf{T}=\begin{pmatrix} 3 & 4 & -1 \ 0 & 2 & 5 \ 0 & 0 & 0 \end{pmatrix}$$

  lower triangular matrix, 하삼각행렬

• 상삼각행렬의 반대로, 대각선 위에 있는 모든 요소가 0인 정사각 행렬이다.

0과 1의 벡터와 행렬 ($\mathbf{0}$, $\mathbf{O}$, $\mathbf{j}$, $\mathbf{J}$)

• 1의 벡터는 $\mathbf{j}$로 표현한다. $$\mathbf{j}=\begin{pmatrix} 1\ 1 \ \vdots \ 1 \end{pmatrix}$$
• 1의 정사각행렬을 $\mathbf{J}$라고 표현한다. $$\mathbf{J}=\begin{pmatrix} 1 & 1 & 1 \ 1 & 1 & 1 \ 1 & 1 & 1 \end{pmatrix}$$
• 0의 벡터를 $\mathbf{0}$으로, 0의 행렬을 $\mathbf{O}$로 표현한다. $$\mathbf{0}=\begin{pmatrix} 0\ 0 \ 0 \end{pmatrix}, \space \mathbf{O}=\begin{pmatrix} 0 & 0 & 0 & 0\ 0 & 0 & 0 & 0\ 0 & 0 & 0 & 0 \end{pmatrix}$$

앨빈 C. 렌쳐의 책 'Linear models in statistics'을 읽고 정리한 내용입니다.

내가 가지고 있는 노트북이 Window 환경이기 때문에 Vscode 내의 wsl Terminal에서 진행하였다.

1. WSL(Windows Subsstyem for Linux) 실행

ctrl+` 단축키로 터미널창을 열어주고, +버튼 옆 꺽쇠를 눌러 WSL을 연다.

2. 가상환경 설정

가상환경을 설정하기 전에 python --version으로 현재 Python의 버전부터 확인하는 것이 좋다. 그 버전과 동일한 버전의 파이썬이 가상환경 내에 사용되기 때문이다.

python -m venv .venv : 가상환경 구축 source .venv/bin/activate : 가상환경 활성화

• 만약, 가상환경을 이미 구축한 뒤에 파이썬 버전을 업그레이드 하고 싶다면 2-1을 확인하길 바란다.
• 나의 경우, Airflow를 설치할 때 ERROR: 404 Client Error: Not Found for url: https://raw.githubusercontent.com/apache/airflow/constraints-2.6.3/constraints-3.6.txt 라는 에러가 발생하여 python3.6이 아닌 3.10으로 진행하기 위해 버전 업그레이드를 진행했다.

2-1. Python 버전 업그레이드

WSL 환경에서 Python 버전을 업그레이드하는 방법은 배포판(Ubuntu, Debian 등)에 따라 조금식 다를 수 있지만, 일반적으로 사용할 수 있는 방법 중 Pyenv를 사용하는 방법을 다루겠다.

• 코드를 전체 복붙하여 실행시켰을 때 제대로 진행되지 않는다면, 한 줄씩 진행하기 바란다. (\로 이어진 코드는 한 줄이다.)

  1) pyenv 설치

  현재 활성화된 가상환경을 deactivate 명령어로 비활성화 시킨 후 설치 준비를 한다.

deactivate
sudo apt update
sudo apt install -y build-essential libssl-dev zlib1g-dev libbz2-dev \
libreadline-dev libsqlite3-dev wget curl llvm libncurses5-dev libncursesw5-dev \
xz-utils tk-dev libffi-dev liblzma-dev python-openssl git

이 다음 pyenv를 설치한다.

curl https://pyenv.run | bash

설치 후, 다음 내용을 파일에 추가한 뒤 셸을 다시 시작한다.

export PATH="$HOME/.pyenv/bin:$PATH"
eval "$(pyenv init -)"
eval "$(pyenv virtualenv-init -)"

2) 원하는 버전으로 Python 설치

pyenv install 3.10.12  # 예: 파이썬 3.10.12 설치
pyenv global 3.10.12   # 시스템 전역 파이썬 버전을 3.10.12로 설정

잘 설치되었는지 python --version 명령어로 확인한다.

3) 구축해두었던 가상환경에서 다시 Python 버전 확인

python -m venv .venv
source .venv/bin/activate
python --version

• 여기서 업그레이드 된 버전이 나온다면, 넘어가도 좋다.
• 하지만 기존 버전이 그대로 나온다면, 아래의 명령어로 어느 파이썬을 가리키는지 확인해야 한다.

  ls -l .venv/bin/python

• ~/.pyenv/versions/3.10.12/bin/python이 아닌 다른 경로(예: /usr/bin/python3)로 되어 있다면, venv 생성 시점에 여전히 시스템 파이썬을 참조했다는 뜻이다.
• 이럴 경우엔 기존에 생성된 venv 폴더를 삭제한 후 pyenv 파이썬의 절대 경로로 다시 venv를 생성하면 해결 된다.

  deactivate  # 기존에 활성화된 venv 비활성화
  rm -rf .venv  # 잘못 생성된 venv 폴더 삭제
  

pyenv 파이썬의 절대 경로 확인 (설치한 파이썬 경로 예시)

~/.pyenv/versions/3.10.12/bin/python --version

위 명령에서 3.10.12가 나오면 해당 파이썬을 이용해 venv 생성

~/.pyenv/versions/3.10.12/bin/python -m venv .venv

source .venv/bin/activate python --version # 이제 3.10.12가 나와야 함

---
# 3. Airflow 설치

pip3 install pip --upgrade

AIRFLOW_VERSION=2.6.3 PYTHON_VERSION="$(python --version | cut -d " " -f 2 | cut -d "." -f 1-2)" CONSTRAINT_URL="https://raw.githubusercontent.com/apache/airflow/
constraints-${AIRFLOW_VERSION}/constraints-${PYTHON_VERSION}.txt"

pip3 install "apache-airflow==${AIRFLOW_VERSION}" --constraint "${CONSTRAINT_URL}"

## 3-1. DB 초기화
설치가 완료되면 Airflow에서 사용할 DB를 초기화해야 한다. 

export AIRFLOW_HOME=pwd

위 코드를 실행한 후 `echo $AIRFLOW_HOME`를 실행시켰을 때 현재 디렉토리의 위치가 출력되는 것을 확인한다. 
그 다음 Airflow에서 사용할 DB를 초기화한다. 

airflow db init

초기화하면 기본 파일이 생성된다.
* airflow.cfg: Airflow 설정 파일
* airflow.db: Airflow DB (이 실습해서는 SQLite를 사용)
![](https://velog.velcdn.com/images/o_obigstar/post/81439070-eacc-4e9f-9e37-55a11c0b8ca2/image.png)
(WSL이나 터미널 환경에서 현재 디렉토리를 VSCode로 열고 싶다면 `code .` 명령어를 입력하면 된다.)
## 3-2. 어드민 계정 생성
Airflow에서 사용할 어드민 계정을 생성한다.

airflow users create
--username admin
--password '해킹당하지 않게 너무 간단하지 않은 비밀번호'
--firstname 이름
--lastname 성
--role Admin
--email asd@gmail.com

```

여기까지 에러 없이 완료했다면, Airflow 사용을 위한 준비를 마친 것이다.

1. 성능 평가

얼마나 잘 객체를 탐지하는지 평가할 때 mAP를 주로 사용합니다.

mAP (mean Average Precision)

mAP는 각 클래스의 AP를 평균낸 것입니다. 그렇다면 AP는 무엇일까요? AP를 포함하여 본격적으로 mAP에 대해 알아보기 위해 필요한 개념 몇 개 존재합니다.

1) Confusion matrix 2) Precision, Recall 3) PR curve (Precision-Recall curve) 4) AP (Average Precision) 5) IOU (Intersection Over Union)

1) Confusion matrix

위와 같은 표를 confusion matrix라고 합니다. 여기서 Ground Truth는 실제 정답에 해당되는 값이고, Predicted는 예측 결과 값입니다. TP, FP, FN, TN으로 구성되어 있어 다소 헷갈릴 수 있습니다. 하지만 아래의 설명을 머리에 한 번 넣어두면 헷갈리지 않을 수 있습니다.

• 뒤에 P가 온다면 Positive, 즉 1이라고 예측한 거라고 생각하면 됩니다. 실제로 1인지 0인지간에 일단 1이라고 예측한 것입니다.
• 반대로 N이 온다면 Negative, 즉 실제로 어떻든 간에 0으로 예측한 것입니다.

여기서 앞에 T나 F가 온다면, 실제로 True(1)나 False(0)인 경우라고 생각하면 쉽습니다. Object Detection에 맞게 설명한다면 아래와 같습니다.

• TP : 감지되어야 할 것이 감지된 경우
• FP : 감지 되어야 할 것이 감지되지 않은 경우
• FN : 감지되지 않아야 할 것이 감지되지 않은 경우
• FP : 감지되지 않아야 할것이 감지된 경우

  2) Precision and Recall

  위의 표에서 알 수 있듯이, Precision(정밀도)은 예측한 것들 중에서 실제로 정답인 것의 비율입니다.

$$ Precision = \frac{TP}{TP+FP}=\frac{TP}{All \space Prediction} $$

Recall(재현율)은 실제 값들 중에서 감지된 것의 비율입니다.

$$ Recall = \frac{TP}{TP+FN}=\frac{TP}{All \space Gound \space Truth} $$

3) Precision-Recall Curve

sample들이 TP인지 FP인지 예측했던 확률값을 기준으로 sample 예측 값들을 내림차순 정렬을 한 후, 누적 TP 개수와 누적 FP 개수로 Precision, Recall을 계산합니다. 계산된 Recall을 x값으로, Precision값을 y값으로 하여 그린 그래프를 PR Curve라고 합니다.

4) AP, Average Precision

AP는 PR Curve의 아래 면적을 계산한 값입니다. Precision이 변하는 값을 기준으로 그 전까지 아래의 사각형 면적을 계산한 뒤 모두 더하면 됩니다.

그런데, TP와 FP를 어떻게 판단할까요? image classification 같은 경우는 명확하게 예측 확률이 0.5 미만이면 FP, 이상이면 TP로 판단하는데, 객체 탐지는 물체가 있을 법한 영역도 같이 예측하기에 추가로 더 고려해야 할 것이 있습니다.

5) IOU, Intersection Over Union

실제 객체의 위치와 예측한 위치가 어느정도 겹쳐 있어야 True로 볼 것인지를 나타내는 값입니다. 실제 객체의 위치를 나타내는 bounding box와 예측한 bounding box의 넓이를 기준으로 서로 겹치는 부분의 넓이가 차지하는 비율을 계산하면 됩니다.

• 실제 위치와 예측값의 교집합 / 실제 위치와 예측값의 합집합

따라서 IOU가 몇인지에 따라 TP, FP가 달라집니다.

• IOU 50 : IOU가 0.5 이상일 경우 True, 미만일 경우 False
• IOU 70 : IOU가 0.7 이상일 경우 True, 미만일 경우 False

mean Average Precision

AP는 하나의 클래스에 대한 누적 TP, FP로 Precision과 Recall을 사용하여 구한 것이라면, mAP는 여려개의 클래스가 존재할 때 사용됩니다. 각 클래스에 대한 AP를 구한 뒤, 이를 평균을 낸 것이 mAP입니다.

$$ mAP = \frac{1}{n} \sum_{k=1}^{k= n}{AP_k} $$

• mAP50 : IOU50으로 계산한 AP의 평균
• mAP60 : IOU60으로 계산한 AP의 평균

위와 같이 IOU를 어떤 값을 기준으로 할 것인지에 따라 mAP값이 달라질 수 있습니다.

2. 속도 평가

FPS, Frames Per Second

초당 처리할 수 있는 Frame의 수입니다. 크면 클수록 속도가 빠르다는 것입니다.

FLOPs, Floating Point Operations

FLOPs 값은 작을수록 속도가 빠르다는 것이며, 연산량 횟수를 나타내는 값입니다.