MVP

• MVP : Minimum Viable Product 가설을 검증할 수 있는 최소한의 기능을 가진 제품을 먼저 시장에 내놓은 후 발전시키기 위함

데이터

• Clarity와 Google Analytics는 무료
• 실시간으로 수집되는 트래픽을 통계 내어 데이터를 보다 간편하게 확인할 수 있음
• Google Analytics: 숫자, 지표로 유저 활동을 확인 가능
• Clarity : 유저 행동을 녹화(?)하여 확인 가능

이 두가지를 어떻게 적용?

• 헤드 태그를 붙여 전송(?)

주요한 지표

• DAU : Daily Active User

• WAU : Weekly Active User

• MAU : Monthly Active User

• 이벤트 : 클릭, 마우스 스크롤, 웹사이트에 머묾/떠남

  • 전환 : 회원가입, 결제
  • 이탈 : 사용자가 떠남

• AARRR : 알게 됨(방문X, 광고에 노출되어 인지하게 됨) -> 다운로드(사용해봄) -> 유저(회원가입) -> 현질 -> 추천

  • 역피라미드 형태로 사용자를 분류함

Product Market Fit(PMF)

• 시장에서 먹힐지 판단하는 이론
  • 그래프가 평탄화 되면 PMF를 달성했다고 봄 : 유저의 사용이 유지된다고 있다는 의미
  • 평탄화 되는 정도에 따라 회사 가치가 다름
    • 20%에서 평탄화 : 괜찮은 회사
    • 40%에서 평탄화 : 유니콘 회사
    • 70%에서 평탄화 : 세상을 바꿈(chatgpt의 경우 유지율 68%)
  • 유의할 점 : '0으로 수렴하지 않고' 평탄화되는 부분이 생겨야 함

4주차

• DB : 여러 사람이나 프로그램이 데이터를 쉽게 공유하기 위해 체계적으로 관리되는 데이터의 집합
• DBMS : DB를 체계적으로 관리하는 시스템
  • SQL DB : SQLite, PostgreSQL, ORACLE, MySQL
  • NoSQL DB : neo4j, MongeDB, redis
  • redis : key와 value로만 이루어져 있어 자주 조회하는 db를 구현할 때 좋음(회원가입 등), 서버상에 Ram-cashing을 하기 때문에 빠르게 불러올 수 있음
  • MongoDB : json형태로 이루어져 있음(형태가 고정되지 않아 스키마를 자유롭게 짤 수 있음) -> 서비스 초기에 유연하게 대응할 수 있음(구조가 유동적인 초기 서비스)

사진이나 영상 저장

• Storage에 올리고 그 이미지의 주소만 DB에 저장해두고 불러오는 방식 사용

  • Amazon의 S3
  • Cloudflare의 R2
  • Google Cloud Storage
  • Vercel Blob

• 주소만 가지고 어떻게 Storage에서 불러오는가?

  • 브라우저에서 이미지 요청

• 백엔드가 DB에 요청

• DB에 저장된 URL

• DB가 브라우저로 바로 URL 보냄

• 브라우저가 URL을 바탕으로 Storage에 이미지 요청

• 브라우저의 메모리를 사용해서 URL에 위치한 이미지를 랜더링

• 곳곳에 위치한 CDN 중 가장 가까운 CDN이 해당 이미지를 가지고 있음

• CDN에서 브라우저로 이미지를 보냄

*CDN은 storage에 있는 이미지를 모두 가지고 있는 것이 아니라 처음 요청한 사용자가 있으면 그때 이미지를 받아오고 일정기간 보관했다가 그 기간동안 아무 사용자에게서 요청이 없으면 다시 삭제함

*URL, API 등 정보 주고 받을 때 HTTP를 따라 소통

• 내가 필요할 때 가져다 쓰는 도구 모음

프레임워크

• 이미 짜여진 집 구조에 내가 들어가 사는 것
• 웹프레임워크 중 Node.js와 React의 점유율이 압도적, 프론트엔드 프레임워크 중에서도 React가 압도적인 점유율을 가짐

React

• 컴포넌트를 가지고 구현할 수 있기 때문에 JS가 가진 단점을 커버할 수 있음(JS의 단점: 너무 세분화됨, 매우 많은 기능)

• Vite는 React의 문법을 HTML, CSS, JS의 형태로 변환하는 툴

• Typescript : JS는 유형 구분 없이 다 들어가 있는데 typescript는 그 유형이 정리되어 있어 사용에 용이

• Vite는 Typescript의 언어도 변환해서 브라우저가 읽을 수 있도록 해줌

CDN

클라우드 플레어가 세계 곳곳에 서버를 둠 그곳에 프론트엔드 상에서 받은 캐시(CDN)을 올려둠

정적 웹

• Cloudflare Pages, Vite+React, CSS/HTML/JS
• 캐시된거 전달만
• 코드 실행 브라우저에서 서버 연산 필요 없음

동적 웹

• Cloudflare Workers, NEXT.JS, Remix
• 캐시+실행 필요한 서버
• 코드 실행 서버에서도 서버 연산 필요

서버리스

• Cloudflare Pages Functions: Cloudflare에 Cloudflare Workers를 붙여서 사용

JAM Stack

• 요청 CDN -> 정적 HTML 즉시 응답 -> 필요하면 JS가 API호출
• 트래픽 폭탄 감당 쉬움
• 보안이 비약적으로 좋아짐
• 개발자 경험(DX)이 좋음(프론트/백엔드 분리, 로컬에서 개발하고 바로 배포 등)

API(Application Programming Interface)

앱과 프로그래밍이 요청하고 응답받는 규약

1. 요청

• 목적지(주소)
• 헤더(전송 방식) : GET, POST
• 바디(보낼 것) : query, sort, target

2. 응답

• 형식 : JSON(키:밸류 쌍)
• 응답 의미 설명 : title, contents, thumbnail

프론트엔드

언어 3개만 알면 모두 가능

• HTML : 뼈대
• CSS : 꾸며주기
• JavaScript : 액션 부여/이벤트 설정

개발 환경 세팅

메모장 index.html

임시 백엔드(프론트엔드 실습을 위한)

1. 내 컴퓨터 서버로 공개하기
2. 외부 서버 빌리기 방법 1) CloudFlare에 index.html 파일 업로드 하여 배포 방법 2) Firebase Studio
   • 오른쪽 사이드바에서 웹브라우저로 열어줘 프롬프트 입력
   • 혹은 터미널에서 바로 AI 사용 가능 Gemini CLI 다운로드 코드를 터미널에 붙여넣기 : npm install -g @google/gemini-cli

단계 정리

Firebase Studio에서 작업한 것(LLM을 장착한) Github로 버전 관리 후 CloudFlare에서 바로 배포

백엔드

외부 서비스 활용

1. Formspree

• 제휴 제안 - 데이터베이스 없이도 온라인 폼(문의하기, 설문조사 등)을 쉽게 만들고 관리할 수 있게 해주는 서비스
• 메일 보내는 기능을 백엔드 구현 없이 외부 서비스를 활용

2. DISQUSS

• 댓글 서비스 제공
• 새로운 웹사이트 만들기 후 나온 코드 복붙해서 Firebase 터미널 창에서 gemini에게 댓글 기능 달아달라고 부탁

3. Teachable Machine

• 쉽고 빠르게 머신러닝 모델을 학습시킬 수 있는 웹 기반 도구
• 학습시킨 모델을 추출 가능하고 해당 모델은 자동으로 클라우드에 올라가 제공됨

이산확률변수 vs 연속확률변수

X가 A에 속할 확률을 구하는 방법은 이산, 연속에 따라 다르다.

• 항상 이 두가지로만 구분되지는 않는다. 어떤 경우에는 이산형, 어떤 경우에는 연속형에 따르는 변수도 있다.

• 결합 분포는 원래 확률분포 D가 이산이든 연속이든 상관없이 이산, 연속 중 아무거나 사용해도 상관없음(모델링 방법에 따라서 결정됨)

• 이산/연속: 데이터의 종류
• 주변확률/조건부확률: 확률을 다룰 때 쓰는 도구 (둘 다에서 공통적으로 사용됨)

주변확률분포 P(x)

• 결합확률분포를 y에 대해서 더해주거나 적분을 한 것
• 아래는 입력 x에 따라 분포를 구한 것, y에 대한 분포가 아님(y에 대한 주변확률분포를 구할 수도 있음)

조건부확률분포 $P(x|y)$

• $y$가 특정 값인 경우에만 해당하는 x의 분포를 구한 것
• 입력 $x$와 출력 $y$ 사이의 관계를 모델링함
  • 입력과 출력 사이의 통계적 관계를 모델링할 때 사용
  • 예측 모형을 만들 때 사용
• 연속확률분포의 경우 $P(x|y)$는 확률이 아니고 밀도로 해석한다는 것을 주의

1. 신경망

• 신경망을 수식으로 분해하면 선형 모델의 수식과 비선형 함수들의 결합으로 이루어져 있음 -> 신경망을 다루려면 선형모델에 대해서도 잘 알아야 함

• 아래 그림은 X, W, b가 선형결합으로 이루어져 있음

• 아래 그림에서 화살표의 개수는 d * p개 이므로 가중치 벡터 W의 원소 개수와 같음

2. Softmax

• 모델의 출력을 확률로 해석할 수 있게 변환해주는 연산

  • softmax() 안에 넣으면 분류된 class에 속할 확률이 반환됨

• 분류 문제를 풀 때 선형모델과 결합하여 예측함

• 학습이 아니라 추론을 할 때는 원-핫 벡터를 이용하므로 softmax를 쓰지 않아도 됨

  • 원-핫 벡터를 쓰면 최대값을 가진 주소만 1로 출력

3. 활성함수

• 신경망은 선형모델과 활성함수(비선형함수임)를 합성한 함수임

• 선형모델로 나오게 되는 각각의 출력물에 적용함

• Softmax와의 차이점: softmax는 출력물의 모든 값을 고려한다면 활성함수의 경우에는 특정 주소의 출력값만을 고려함 -> 그러므로 활성함수를 벡터를 input값으로 받지 않고 실수를 받음

• 선형 모델에 활성함수를 씌워 비선형 모델로 변환시킬 수 있고 이렇게 변형된 벡터를 잠재/히든 벡터라고 부름(뉴런이라고도 함) -> 뉴런으로 이루어진 네트워크를 신경망, neural network라고 함

• 실수값을 입력으로 받고 출력도 실수값으로 뱉음

• 활성함수를 쓰지 않으면 딥러닝은 선형모형과 차이가 전혀 없음

[활성함수 종류]

• 시그모이드

• tanh 함수(하이퍼볼릭 탄젠트)

• ---------------------------------------전통적으로 쓰임

• ReLU(현재 가장 많이 쓰임)

  • 선형처럼 보이지만 비선형임

• 활성함수로 만든 잠재벡터 H에 가중치 W와 절편 b를 또 붙이면 2층 신경망이 됨

  • 이때 파라미터는 (W2, W1)
  • 이걸 반복하면 현대 딥러닝의 기본적인 모형인 Multi Layer Perceptron(다층신경망, MLP)
  • MLP의 파라미터는 L개의 가중치 행렬 W(L),.....,W(1)로 이루어짐

• 왜 층을 여러개 쌓는가?

  • 이론적으로는 2층 신경망으로도 임의의 연속함수를 근사할 수 있음
  • 층이 깊을 수록 목적함수를 근사하는데 필요한 뉴런(노드)의 숫자가 훨씬 빨리 줄어들어 좀 더 효율적으로 학습 가능(층이 얇으면 폭이 넓고, 층이 깊으면 폭이 좁음)
  • 좀 더 적은 파라미터와 노드를 가지고도 복잡한 패턴을 표현 가능

4. 역전파 알고리즘

• 선형모델의 경우 그래디언트 벡터를 한 층에서 계산 가능하지만, 딥러닝의 경우에는 순차적으로 각 층별로 계산을 하기 때문에 gradient vector를 한번에 계산할 수는 없음
• 이 때문에 역순으로 계산해줌
• 역전파 알고리즘의 목적: 각각의 가중치 행렬에서 손실함수에 대한 미분을 계산(윗층부터 역순으로 계산하여 gradient 벡터를 전달)
• 순전파에서는 미분을 저장하지 않지만 역전파에서는 미분값을 저장해야 함

• 손실함수를 첫번째 가중치로 편미분한 값 찾기

• 각각의 가중치 행렬에 대한 gradient벡터를 확률적 경사하강법을 이용해 각각의 파라미터를 batch로 번갈아가면서 학습하게 됨
  • 주어진 목적식을 최소화하는 파라미터를 찾을 수 있음

• 변수의 움직입에 따른 함수값의 변화를 측정하기 위한 도구
• 최적화에서 제일 많이 사용하는 기법

import sympy as sym
from sympy.abc import x

sym.diff(sym.poly(x**2 + 2*x + 3), x)

• 고차원 공간에서는 어느 방향으로 움직여야 함수값이 증가/감소하는지 알기 어려우므로 미분을 이용하여 방향을 정함

• 경사상승법: 미분값을 더할 때이며, 함수의 극대값의 위치를 구할 때 사용함

• 경사하강법: 미분값을 뺄 때이며, 함수의 극소값의 위치를 구할 때 사용함

• 경사상승/경사하강 법은 극값에 도달하면 움직임을 멈춤 = 미분값이 0

2. 경사하강법: 알고리즘

- gradient: 미분을 계산하는 함수
- init: 시작점
- lr: 학습률(미분을 통해 업데이트하는 속도를 조절)
- eps: 알고리즘 종료조건

• 컴퓨터로 계산할 때 미분이 정확이 0이 되는 것은 불가능하므로 eps보다 작을 때 종료하는 조건이 필요

3. 변수가 벡터라면?

• 벡터가 입력인 다변수 함수의 경우 편미분(partial differeniation)을 사용함

• e_i는 i번째 값만 1이고 나머지는 0이므로 원하는 부분 i에서의 값만 계산할 수 있음

• x와 y가 같이 있는 식의 경우 x에 대해서 미분하면 y는 상수 취급

• 당연히 x에 대한 편미분뿐만 아니라 y에 대한 편미분도 계산할 수 있음

• 만약 n차원 벡터라고 한다면 편미분을 n번 계산할 수 있음

  • n개만큼 편미분을 계산한 함수들을 하나의 벡터로 표현할 수 있는데 이것을 그레디언트(gradient) 벡터라고 함
  • 아래와 같은 기호를 사용함

아래 예시

4. 경사하강법: 알고리즘_변수가 벡터일 때

• 다른 부분은 다 같지만 한가지 차이점이 있음 -> 앞에서는 미분값의 절대값으로 종료조건을 설정하였지만 벡터일때는 절대값을 쓸 수 없으므로 노름을 계산하여 종료조건을 세움

1. 벡터

• 벡터는 숫자를 원소로 가지는 리스트 혹은 배열
• 벡터끼리 같은 모양을 가지면 성분곱을 계산할 수 있음
  • 성분곱: x + y, x - y, x * y

2. 벡터의 노름

• 원점에서부터의 거리
• L1, L2가 있음, 각각을 ||x||_1, ||x||_2로 나타냄
• 두 벡터 사이의 거리를 이용하여 각도 계산 가능(L2만 가능) ||x-y||_2 = ||y-x||_2
• 두 벡터 사이의 각도에서 분모, 분자 중 분자를 쉽게 구하는 방법이 내적

3. 벡터의 내적

• 내적은 정사영된 벡터의 길이와 관련 있음

정사영이란?

• Proj()라고 나타내며 프로젝션이라고 읽음

• Proj(x)는 벡터 y에 투영(정사영)된 벡터 x의 그림자를 의미함

• Proj(x)의 길이는 코사인 법칙에 의해 ||x||cos(세타)가 됨

• 내적은 정사영의 길이에 벡터y의 길이(||y||)만큼을 반영한 값임

2. 행렬

1. 행렬

• 행렬은 벡터를 원소로 가지는 2차원 배열
  • 이때 원소가 되는 벡터는 열벡터가 아닌 행벡터임

2. 전치 행렬

• 벡터를 전치하게 된다면?
  • 행벡터를 열벡터로, 열벡터는 행벡터로 바뀜

3. 행렬의 성분곱, 스칼라곱

• 성분곱은 벡터와 마찬가지로 각 인덱스 위치끼리 곱함
• 성분곱과 행렬곱은 다름(기호도 다름: 성분곱은 원안의 점, 행렬곱은 곱셈기호 혹은 생략)

• 스칼라곱도 마찬가지임

4. 행렬의 곱셈

• 두 행렬의 i번째 행벡터와 j번째 열벡터 사이의 내적을 성분으로 가지는 행렬을 계산하는 것
• X의 열 개수 = Y의 행 개수 -> 이 조건을 만족해야 곱셈 가능 (X 행벡터 길이 = Y 열벡터 길이)
• 순서가 굉장히 중요함: X * Y와 Y * X의 값은 다름

5. 행렬의 내적

• i번째 행벡터와 j번째 행벡터 사이의 내적을 계산
• 주의해야할 점은 행렬곱은 i번째 행벡터와 j번째 열벡터를 계산하는 차이가 있으므로 행렬곱과 내적은 다른 연산임
• X의 열 개수 = Y의 열 개수 -> 이 조건을 만족해야 내적 계산 가능 (X 행벡터 길이 = Y 행벡터 길이)

6. 행렬을 이해하는 방법

• 벡터 공간에서 사용되는 연산자(operator)로 이해하기
• 아래 그림을 보면 z와 x라는 다른 차원에 있는 서로 다른 벡터를 행렬 A가 이어주고 있음

7. 역행렬

• 행렬곱은 순서가 중요하지만 역행렬은 순서 상관없음

• 항등행렬: 어떤 행렬에 항등행렬을 곱했을 때 자기자신이 나옴

• numpy에서는 inver함수를 이용하여 역행렬을 구할 수 있음

  • linalg(linear algebra) 라이브러리의 inv(x) 함수
  • 이때 주의해야할 점은 행렬의 행, 열 길이가 같아야 함

** 행렬의 행, 열 길이가 다르다면? 유사 역행렬을 사용할 수 있음

8. 유사 역행렬

• 행이 열보다 길다면 원래 행렬보다 유사 역행렬을 먼저 곱해줘야 함

• n>=m이면 전치행렬을 뒤에, n<=m이면 전치행렬을 앞에 곱해줘야 함

9. 유사 역행렬 응용1: 연립방정식 풀기

• np.linalg.pinv를 이용하여 연립방정식의 해를 구할 수 있음
• 연립방정식의 경우 식의 개수가 변수의 개수보다 많거나 같을 때 해를 찾는 것이 가능하나, 그렇지 않을 때 유사 역행렬을 이용하여 해를 찾을 수 있음

Ax = b라고 할 때 n <= m이므로 A의 오른쪽에 곱해주어야 함 즉, x = A의 유사행렬* b가 됨

Ax = b AA^+b = b Ib = b b = b

10. 유사 역행렬 응용2: 선형회귀분석

• 행렬 X에 계수 행렬인 베타를 곱하면 선형회귀선이 그어지는데 어떤 베타를 곱해야 행렬의 점(원소)들을 가장 잘 설명하는 회귀선이 구해지는지를 알아야 함
• 선형회귀분석은 연립방정식과 달리 행이 더 크므로 방정식을 푸는건 불가능
• L2 노름을 최소화하는 계수 베타를 찾게 되면 가장 표현한 회귀선을 찾을 수 있음