1. Visual Studio Code 소개와 특징

Visual Studio Code는 Microsoft에서 개발한 무료 오픈소스 코드 편집기입니다. 다양한 플랫폼에서 지원되며, 코드 편집을 비롯한 다양한 개발 작업을 보다 쉽게 수행할 수 있는 기능들을 제공합니다. Visual Studio Code의 주요 특징은 다음과 같습니다.

• 높은 확장성과 개인화 가능성
• 다양한 프로그래밍 언어 지원
• 코드 작성 및 디버깅 기능
• Git과 같은 버전 관리 시스템 연동 기능
• 강력한 IntelliSense 기능

2. 설치 방법

2.1. Windows에서 설치하기

1. Visual Studio Code를 다운로드합니다. 다운로드 링크: https://code.visualstudio.com/download
2. 다운로드한 설치 파일을 실행합니다.
3. 설치 파일이 압축 해제되고, 설치 프로그램이 실행됩니다.
4. 설치할 경로를 선택하고, "Next" 버튼을 클릭합니다.
5. 추가 옵션을 선택하고, "Next" 버튼을 클릭합니다.
6. "Install" 버튼을 클릭하여 설치를 진행합니다.
7. 설치가 완료되면 "Finish" 버튼을 클릭합니다.

2.2. macOS에서 설치하기

1. Visual Studio Code를 다운로드합니다. 다운로드 링크: https://code.visualstudio.com/download
2. 다운로드한 설치 파일을 실행합니다.
3. 설치 파일이 압축 해제되고, 설치 프로그램이 실행됩니다.
4. "Visual Studio Code"를 "Applications" 폴더에 설치하도록 설정합니다.
5. "Continue" 버튼을 클릭합니다.
6. "Install" 버튼을 클릭하여 설치를 진행합니다.
7. 설치가 완료되면 "Close" 버튼을 클릭합니다.

2.3. Linux에서 설치하기

1. Visual Studio Code를 다운로드합니다. 다운로드 링크: https://code.visualstudio.com/download

2. 다운로드한 설치 파일을 실행합니다.

3. "dpkg" 또는 "rpm" 명령어를 사용하여 설치 파일을 설치합니다. 예를 들어, "dpkg" 명령어를 사용하여 설치 파일을 설치하면 다음과 같은 명령어를 실행합니다.

   sudo dpkg -i <파일명>.deb

4. 설치가 완료되면 "code" 명령어를 실행하여 Visual Studio Code를 시작합니다.

3. 파이썬 사용 시 기본 설정

3.1. Python Extension

• 파이썬 Extension 추가 VScode에서 파이썬을 사용하기 위해서 Python Extension을 설치해준다.

3.2. Python Interpreter

• Interpreter 선택 Extension 설치가 끝났다면, 어떤 파이썬의 Interpreter 환경을 통해 코드를 실행할지 선택한다. 화면 오른쪽 하단에 인터프리터를 선택할 수 있는 칸이 있다.

4. 특징 및 주요 기능

4.1. 높은 확장성과 개인화 가능성

Visual Studio Code는 많은 플러그인과 확장성을 가지고 있습니다. 사용자가 원하는 기능을 추가하거나 제거할 수 있으며, 자신만의 개인화된 환경을 만들 수 있습니다.

4.2. 다양한 프로그래밍 언어 지원

Visual Studio Code는 다양한 프로그래밍 언어를 지원합니다. JavaScript, HTML, CSS, Python, Java, C#, PHP, Ruby 등 다양한 언어의 코드를 작성할 수 있습니다.

4.3. 코드 작성 및 디버깅 기능

Visual Studio Code는 코드 작성을 위한 다양한 기능을 제공합니다. IntelliSense를 통해 자동 완성 기능을 제공하며, 코드 스니펫, Emmet, 터미널 등 다양한 기능을 지원합니다. 또한, 디버깅 기능을 통해 코드의 문제를 더 쉽게 해결할 수 있습니다.

4.4. Git과 같은 버전 관리 시스템 연동 기능

Visual Studio Code는 Git과 같은 버전 관리 시스템과 연동할 수 있는 기능을 제공합니다. Git의 브랜치, 커밋, 푸시 등의 작업을 Visual Studio Code에서 수행할 수 있습니다.

4.5. 강력한 IntelliSense 기능

Visual Studio Code는 강력한 IntelliSense 기능을 제공합니다. IntelliSense를 통해 코드 작성 시 자동 완성 기능을 제공하며, 코드에서 오류를 식별하고 해결하는 데 도움을 줍니다.

이상으로 Visual Studio Code 설치 가이드와 주요 기능에 대한 소개였습니다. Visual Studio Code는 다양한 개발 작업에서 사용되는 강력한 도구입니다. 많은 개발자들이 사용하는 이유가 있습니다. 이제 여러분도 Visual Studio Code를 설치하고 사용해 보세요!

1. 파이썬이란?

파이썬(Python)은 1991년 귀도 반 로섬(Guido van Rossum)이 개발한 고급 프로그래밍 언어입니다. 파이썬은 인터프리터 언어로, 컴파일러 언어인 C나 자바보다 느린 속도를 가지고 있습니다. 그러나 파이썬은 간결하고 읽기 쉬운 문법, 빠른 개발 속도, 다양한 라이브러리 지원 등의 이유로 프로그래머들에게 매우 인기 있는 언어 중 하나입니다.

2. 파이썬 설치하기

2.1 공식 홈페이지 다운로드

https://www.python.org/

파이썬 공식 홈페이지에서 다운로드 받아 설치하는 방법입니다. 파이썬 공식 홈페이지에서는 다양한 운영체제에 대한 설치 파일을 제공하고 있으므로, 운영체제에 맞는 파일을 다운로드 받아 설치하면 됩니다.

• Downloads 창에서 자신의 운영체제와 원하는 버전을 선택합니다.

2.2 환경 변수 설정

파이썬을 설치할 떄 시스템 환경 변수에 파이썬 실행 파일 경로를 추가해줘야 합니다. 이를 통해 커맨드 라인에서 파이썬을 실행할 수 있게 됩니다.

• 자동으로 파이썬 인터프리터를 할당하기 위해 Path를 추가합니다.

체크를 하지 않고 설치를 했다면 다음과 같이 추가적으로 설정이 가능하다.

• Windows 환경 변수 설정

  Windows 운영체제에서는 '시스템 속성' -> '고급 시스템 설정' -> '환경 변수'에서 Path 변수를 편집하여 파이썬 실행 파일 경로를 추가해줍니다.

• macOS 및 Linux 환경 변수 설정

  macOS나 Linux 운영체제에서는 .bash_profile 파일을 수정하여 PATH 변수에 파이썬 실행 파일 경로를 추가해줍니다. .bash_profile 파일이 없다면 생성해주면 됩니다.

3. 파이썬의 특징

3.1 인터프리터 언어

파이썬은 인터프리터 언어로, 코드를 실행할 때 컴파일을 하지 않습니다. 이는 코드 수정 후 바로 실행이 가능하며, 디버깅이 쉽고 개발 속도가 빠르다는 장점을 가집니다.

3.2 객체 지향 및 다양한 라이브러리

파이썬은 객체 지향 언어로, 클래스와 객체를 이용한 프로그래밍이 가능합니다. 또한 파이썬은 다양한 라이브러리를 제공하여 데이터 분석, 인공지능, 웹 프로그래밍 등 다양한 분야에서 활용됩니다.

3.3 High-Level Language VS Low-Level Language

High level language

사람이 이해하기 쉬운 추상화 수준이 높은 프로그래밍 언어를 의미합니다. 이러한 언어는 컴퓨터가 이해하는 기계어로 번역되기 전에 인터프리터나 컴파일러를 통해 변환됩니다. 파이썬은 대표적인 High level language 중 하나로, 사람 친화적인 문법과 간결한 코드 작성이 가능한 특징을 가지고 있습니다. 이러한 특징 덕분에 파이썬은 개발자들에게 높은 생산성과 효율성을 제공하며, 다양한 분야에서 활용되고 있습니다.

Low level language

Low level language는 컴퓨터가 직접 이해할 수 있는 기계어와 가까운 프로그래밍 언어를 의미합니다. 이러한 언어는 기계어로의 변환이 쉽고 빠르게 이루어지기 때문에, 컴퓨터와의 통신이 빠르고 효율적입니다. 그러나 Low level language는 사람이 이해하기 어려운 문법과 복잡한 코드 작성이 필요한 단점이 있습니다.

4. 파이썬 활용 분야 소개

파이썬은 다양한 분야에서 활용됩니다. 그 중에서도 특히 다음과 같은 분야에서 많이 사용됩니다.

4.1 웹 프레임워크

웹 프레임워크는 웹 어플리케이션을 쉽게 개발할 수 있도록 도와줍니다. 파이썬에서 많이 사용되는 웹 프레임워크로는 Flask, Django 등이 있습니다.

4.2 데이터 분석

파이썬은 데이터 분석에 매우 적합한 언어입니다. 데이터 분석에 많이 사용되는 라이브러리로는 numpy, pandas, matplotlib 등이 있습니다.

4.3 인공지능

파이썬은 인공지능 분야에서도 매우 많이 사용되는 언어입니다. Tensorflow, Keras, PyTorch 등의 딥러닝 라이브러리를 사용해 강화학습, 자연어 처리, 이미지 분석 등 다양한 분야에서 활용됩니다.

4.4 웹 스크래핑

웹 스크래핑은 웹 페이지에서 데이터를 추출하는 기술입니다. 파이썬에서는 BeautifulSoup, Scrapy 등의 라이브러리를 사용해 웹 스크래핑을 할 수 있습니다.

4.5 게임 개발

파이썬에서는 Pygame이라는 라이브러리를 사용해 게임을 개발할 수 있습니다.

이 외에도, 파이썬은 네트워크 프로그래밍, 시스템 자동화, 데이터베이스 관리 등 다양한 분야에서 활용되며, 그 범위는 지속적으로 확장되고 있습니다. 이렇게 다양한 활용 분야를 가진 파이썬으로 여러분의 프로젝트를 시작해보세요!

K-Nearest Neighbor

대표적인 지도학습 알고리즘 중 하나

KNN (K-최근접 이웃)

• K-최근접 이웃은 지정한 K의 수만큼 근접한 데이터의 정보를 기반으로, 새로운 데이터의 종속 변수(y값, 타깃)을 예측하는 알고리즘이다.

문제 설정

현재 동그라미, 세모, 네모 데이터가 존재한다. 새로운 데이터가 추가됐을 때, 동그라미, 네모, 세모 중 어느 클래스에 속하는지 예측(분류)해보자.

• 십자가 데이터가 테스트 데이터로 들어왔다. 십자가는 동그라미, 세모, 네모 중 어느 클래스에 속할까?

파라미터 K (KNN에서 K)

K-NN은 지정한 K의 수만큼 근접한 데이터의 정보를 기반으로, 새로운 데이터의 종속 변수(y값, 타깃)을 예측하는 알고리즘이라고 했다.

• 즉 하이퍼 파라미터인 K를 개발자가 지정해주어야한다.

K가 무엇일까?

K의 의미는 새로운 샘플 데이터로 부터 가장 가까운 데이터들 몇개를 이용할 것인지이다.

• K가 1이면 테스트 데이터로부터 가장 가까운 훈련 데이터 1개만을 이용한다는 것이고, k가 2이면 2개의 데이터 k가 9이면 9개의 데이터를 기반으로 예측한다는 것이다. (위 그림 참고)

테스트 데이터의 클래스를 예측하기 위해서, K의 개수 가장 가까운 훈련 데이터의 클래스 수를 세고, 가장 많이 나온 클래스가 테스트 데이터의 종속변수 Y가 된다.

가장 가까운 K개 만큼의 훈련 데이터를 이용한다고 했다. Test 데이터로부터 어떤 Train 데이터가 가장 가까운지 판단할까?

거리 계산

Test 데이터의 Label을 예측하기 위해서, 가장 가까운 K개 만큼의 Test 데이터와 Train 데이터 사이의 거리를 계산해야한다.

1. 유클리디언 거리

유클리디언 거리 (Euclidean Distance)

거리를 측정할때 대표적으로 가장 많이 사용되는 방법이다. 점과 점 사이의 거리를 측정할 때 이용된다. (최단 직선 거리)

• 두 점의 좌표 차의 제곱합을 루트 씌운 것과 같다.

2. 맨하탄 거리

다음 그림을 보면 4가지 경로로 길을 갔다. 초록색이 유클리디언 거리로 구한 최단 직선거리이다.

그럼 초록색을 제외하고 무슨색 선이 최단 거리일까?

파란색 선이 초록과 가장 인접해 있기 때문에 최단거리 처럼 보이지만, -> 정답은 빨,파,노란색 모두 동일한 거리라는 것이다.

맨하탄 거리식에 의하면 x축, y축 각각 지나간 거리는 모두 같기 때문에 총 거리도 같다는 것이다.

최적의 K (GridSearchCV를 통한 최적의 K 값)

K개를 지정하고 거리를 구했으니, 이제 예측을 할 수 있다.

하지만 KNN은 K값에 따라서 예측 결과에 큰 영향을 미치므로, 적절한 K값을 잘 선택해야한다.

K 값이 너무 작으면?

너무 적은 수의 데이터의 값만 참고하기 때문에, 이상치에 민감하다. 세세한 데이터 하나하나에 Fitting되기 때문에 오버피팅 되었다고 볼 수도 있다.

K값이 너무 크면?

많은 데이터를 참고하기 때문에, 이상치에 덜 민감하다. 하지만 너무 많은 데이터를 참고해서 언더피팅이 일어날 수 있다.

K가 커질수록 더 완만한 Decision Boundary가 형성된다.

최적을 k를 찾기 위한 GridsearchCV

그리드 서치 교차검증을 통해 Validation data에서 가장 높은 성능을 내는 파라미터 K값을 찾을 수 있다.

K에 따른 validation 정확도를 나타낸 것이다.

위 그래프에서는,

• k가 1~10 정도 일때는 Underfitting으로 정확도가 65% 정도로 낮을 것을 볼 수 있다.
• K가 100을 넘어가면 Overfitting되어 정확도가 70% 정도로 떨어진다.
• k가 75정도일 때, ACC가 73% 정도로 가장 높으니 적절한 k값이라고 볼 수 있다.

모델 기반 학습 vs 인스턴스 기반 학습

Model based learning

• 분류/ 예측 모델을 만들고 Test 데이터를 넣어 예측을 진행한다.
• 모델을 미리 학습시켜야한다.

Instance based learning

• 모델을 미리 학습시키는 것이 아닌, 예측 진행 시점에 Train 데이터(인스턴스)를 참고하여 연산 후 예측한다.

KNN 특징

1. 모델 기반 학습을 하지 않고, 인스턴스 기반 학습을 통해 예측을 하기 때문에, 모델을 만들지 않는다.
2. 학습 데이터의 차원과 K 값이 예측 결과에 영향을 많이 미친다.
3. 지도 학습 알고리즘이다. (정답 레이블을 가지고 학습)

이미지 출처

https://bskyvision.com/entry/%EC%A7%81%EA%B4%80%EC%A0%81%EC%9D%B4%EA%B3%A0%EB%8F%84-%EB%A7%A4%EC%9A%B0-%EA%B0%84%EB%8B%A8%ED%95%9C-%EB%B6%84%EB%A5%98-%EB%AA%A8%EB%8D%B8-kNNk-Nearest-Neighbor

https://gomguard.tistory.com/51

https://bkshin.tistory.com/entry/%EB%A8%B8%EC%8B%A0%EB%9F%AC%EB%8B%9D-6-K-%EC%B5%9C%EA%B7%BC%EC%A0%91%EC%9D%B4%EC%9B%83KNN

https://eunsukimme.github.io/ml/2019/10/20/KNN-classification/

https://www.youtube.com/watch?v=W-DNu8nardo

Anaconda (아나콘다)

1. 아나콘다란?

가상환경?

우리는 파이썬을 이용해 여러 프로젝트를 진행한다. 프로젝트를 하기 위해서 파이썬을 깔고 패키지를 Pip을 통해 다운 받는다.

하지만 사용하는 파이썬 버전과 패키지의 버전이 각각의 프로젝트별로 다를 확률이 크다. 따라서 프로젝트별 버전 호환성 문제가 발생한다.

그럼 이를 어떻게 해결할 수 있을까? -> 가상환경에 대해서 알아보자.

호환성 문제를 해결하기 위해서는 프로젝트별 각각 독립적인 환경을 만들어 주면 된다.

아나콘다는 가상환경을 만들어 파이썬과 패키지를 독립적으로 관리할 수 있게 해주는 툴이다.

2. 아나콘다 설치

Anaconda.org

• 위 링크에 접속한 뒤, 맨 밑으로 스크롤하면 다음 사진과 같을 것이다.

여기서 자신에게 맞는 플랫폼을 선택해준다.

• 그 후 저장 라이선스 동의와 아나콘다가 설치될 위치를 정하고, 계속을 눌러준다.

이 장면이 아나콘다 설치에서 가장 중요한 부분이다. (나머지는 계속, 다음만 누르면 된다.)

Add Anaconda to the system PATH enviroment variable 은 아나콘다를 시스템 환경 변수에 등록을 하겠다는 것이다. (이 부분을 체크해준다)

• Path 설정을 해주지 않으면 파이썬 인터프린터를 선택할 때, 매번 아나콘다 설치폴더로 찾아가야하는 번거로움이 있다.

• Path 설정을 하면 컴퓨터가 자동으로 아나콘다의 설치위치를 인식하기 때문에, 쉽게 인터프린터 등을 설정할 수 있다.

3. 아나콘다 사용법 (명령어)

Mac에서는 zsh, Windows는 Anaconda Prompt로 아나콘다를 실행해준다.

터미널 사용자 현재 위치 앞에 (base)라고 보일 것이다. 이것은 아나콘다의 기본이 되는 위치이다.

그럼 이제 우리가 프로젝트별 사용할 가상환경을 만들어보자!

가상환경 생성

conda create -n 가상환경 이름 python=파이썬 버전

$ conda create -n velog python=3.8

• 나는 python version이 3.8인 velog라는 이름을 가진 가상환경을 생성해 보았다.

가상환경 활성화 & 비활성화

conda activate 가상환경 이름

$ conda activate velog

• 가상환경을 이용하기 위해서 가상환경을 활성화 시켜주었다.

가상환경을 활성화 시켜니 (base) 에서 (velog)로 환경이 바뀐것을 볼 수 있다.

conda activate 가상환경 이름

$ conda deactivate 

• 비활성화시에는 가상환경 이름을 적지 않는다!

Visual Studio Code에서 Anaconda 가상환경 설정

이제 환경을 만들었으니, Visual Studio Code에서 이 환경을 이용해보자.

VScode에서 파이썬 파일을 하나 만들고, 화면 오른쪽 맨 밑부분을 보면 인터프린터 설정하는 란을 클릭해준다.

• 3.8.9 64-bit 라고 되어있는 부분이 인터프린터 설정 부분이다. (클릭)

• 내가 만든 아나콘다 가상환경들이 나온다. (만약 아나콘다 설치시 Path 등록 체크를 안했으면 수동으로 이 위치를 잡아주어야하지만, 등록 체크를 했다면 자동으로 위치가 잡힌다.)

• 아까 우리가 생성한 velog 환경이 있는 것을 볼 수 있다.

!! 가상환경에 패키지를 설치할 땐!! base가 아닌 반드시 velog 환경을 활성화 시킨 뒤 설치해야한다.

존재하는 가상환경 목록 보기

$ conda info --envs

 또는

$ conda env list

가상환경 삭제

아나콘다 가상환경을 삭제하기 위해서는 다음 명령어를 입력하면 된다.

conda env remove -n 가상환경 이름

$ conda env remove -n velog

이미지 출처

https://wikidocs.net/14629

SVM (서포트 벡터 머신)

1. 서포트 벡터 머신

서포트 벡터 머신은 대표적인 머신러닝 모델이다.

SVM은 SVR과 SVC로 나뉘는데, SVR은 회귀 모델이고 SVC는 분류모델이다.

하지만 통상적으로 SVM이라 하면, 주로 이진분류를 진행한다.

Binary Classification (이진 분류)

• 이진분류는 구분하려는 결과가 참 또는 거짓의 형태나, A 그룹 또는 B 그룹으로 데이터를 나누는 경우를 의미

ex) 사진이 개인지 고양이인지 분류, 영화 리뷰가 긍정인지 부정인지 판별 등

문제 정의

개와 고양이를 가장 잘 구분 짓는 직선 하나를 찾아보자!

** 다음 사진과 볼 수 있듯이, 우리는 이 데이터들을 기반으로 무한대에 가까운 다양한 선을 그을 수 있다.**

하지만 어느 선이 개와 고양이를 가장 잘 분류하는지 알 수 없다. 따라서 새로운 데이터에 대해서 일반화 성능이 높은(잘 분류할 수 있는) 직선을 찾는 것이 목표이다.

그렇다면 어떻게 최적의 선을 찾을 수 있을까? -> SVM 머신러닝 알고리즘을 통해 다음을 해결해보자

2. Decision Boundary

Hyper-Plane

서포트 벡터 머신은 두 클래스(개, 고양이)를 구분하기 위해 Decision Boundary, 즉 Hyper-Plane을 결정 짓는다.

• 다음 사진에서 빨간 직선이 Hyper-Plane(Decision Boundary)이다.

SVM은 Hyper-Plane을 결정짓기 위해서 Margin을 최대화 한다.

Margin을 최대화한다고 했는데, 그럼 Margin은 무엇인가?

3. Margin

Margin은 Plus-Plane과 Minus-Plane 사이의 거리이다.

Plus-Plane은 치와와 강아지에 걸쳐있는 점선이고, Minus-Plane은 고양이에 걸쳐있는 점선이다.

• Hyper Plane은 Plus-Plane과 Minus-Plane으로 부터 같은 거리에 결정된다.

일반화 성능을 가장 잘 내는 직선을 찾기 위해서 마진을 최대화 해야한다고 했다. 그럼 마진을 결정짓는 요소를 보자.

Margin은 Plus-Plane과 Minus-Plane 사이의 거리인데,

• Plus-Plane을 결정 짓는 것은 다양한 개들 중에 치와와이고
• Minus-Plane을 결정 짓는 것은 하늘을 나는 고양이 사진이다.

즉 하늘을 나는 고양이와 치와와가 두 클래스를 전체를 대표해서 Hyper-Plane을 찾았다.

왜 많고 많은 데이터들 중에, 하늘을 나는 고양이와 치와와가 두 클래스의 대표가 되었을까? -> Support Vector에 대해서 알아보자.

4. Support Vector (서포트 벡터)

서포트 벡터란 각각의 클래스를 대표하고, 마진을 형성하기 위한 Plus, Minus-Plane을 결정짓는데 필요한 데이터

Soft Margin

• 어느정도 오차를 허용해, 여유있게 서포트 벡터를 결정한다.

Hard Margin

• 어느 하나의 오차를 허용하지 않고, 타이트 하게 서포트 벡터를 결정한다.

직선 w^T • x + b = 1을 만족하는 데이터 x와 w^T • x + b = -1을 만족하는 데이터 x가 Support Vector (서포트 벡터) 데이터가 된다.

SVM으로 Prediction을 하기 위해, 데이터 전체가 아닌 오직 서포트 벡터만 이용하기 때문에 연산량이 매우 적다.

** w^T • x + b > 0 ** 인 경우

• 양성 클래스인 개 클래스로 분류

** w^T • x + b < 0 ** 인 경우

• 음성 클래스인 고양이 클래스로 분류

5. 커널 트릭 (Kernel Trick)

Not Linearly Separable Data

개 고양이 데이터는 선형적으로 잘 분리되는 데이터였다. 하지만 대부분 Feature가 여러개이고, 선형적으로만 데이터가 존재하지 않는다.

따라서 SVM으로 Non-Linear Data를 Classification 하기 위해서는 커널을 이용해 차원을 변경시켜주어야 한다.

• 왼쪽 그림은 Linearly Separable한 데이터를 Classcification한 결과이고
• 오른쪽 그림은 Non Linearly Separable하기에 Classcification을 하지 못했다.

-> Not Linearly Separable한 데이터는 Hyper-Plane을 찾을 수 없다.

따라서 2D data를 3D로 차원을 변경시켜주면 Hyper-Plane을 찾을 수 있다. (Kernel Trick)

출처

https://medium.com/pursuitnotes/day-12-kernel-svm-non-linear-svm-5fdefe77836c https://yngie-c.github.io/machine%20learning/2020/04/26/SVM/

회귀 분석 종류 중 가장 대표적인 회귀 분석

1. 선형회귀

선형 회귀 문제란?

• 독립 변수와 종속 변수간의 상관관계가 있어야 한다.
• 독립 변수와 종속 변수 데이터를 가지고 학습을 진행한 뒤, 새로운 독립 변수를 주었을 때 종속 변수의 값을 예측 하는 것.

예) 몸무게와 키 데이터를 가지고 학습한 뒤, 몸무게 만으로 키 예측하기. 공부시간과 시험 성적 데이터를 가지고 학습한 뒤, 공부 시간만으로 성적 예측하기 등. (몸무게-키, 공부 시간-시험 성적 모두 상관관계를 가지고 있다.)

2. 원리 및 데이터

키를 가지고 몸무게를 예측하는 프로그램을 만든다고 가정을 하자.

• X 데이터 = 키
• Y 데이터 = 몸무게

X = [160, 172, 181, 183, 187, 193] Y = [56, 64, 74, 86, 93, 104]

• 이 데이터를 가장 잘 일반화 할 수 있는 직선 하나를 찾는다. (직선 = 함수)

그 직선 함수를 H(x) 라고 하면, H(x) = aX + b 이다. (y = ax + b 꼴)

어떻게 하면 컴퓨터가 직선을 찾을 수 있을까?

3. 근사 (직선 구하는 법)

직선을 구하는 방법은 임의로 기울기와 절편을 초기화 한 뒤, 두 값을 바꿔가며 직선이 데이터를 잘 근사하는 시점의 값을 찾는다.

임의의 a (기울기), b (절편) 값 초기화

• a = 1, b = 1로 임의로 초기화 하겠다. H(x) = 1X + 1

a (기울기), b (절편) 업데이트

이제 적절한 a와 b의 값을 찾아나가면 된다.

• 그러기 위해서는 얼마 만큼의 오차가 있고 어떤 방법으로 오차를 줄일지 정해야한다.

4. 오차 (Error)

Cost Fuction (Loss Fuction) (손실함수)

손실 함수는 우리가 예측한 값과 실제 데이터 값의 차이를 알기 위해서 쓰인다.

1. 오차를 구하는 방법

H(x)의 예측 값 (1X + 1)과 실제 데이터 Y의 차이는, 같은 X값에 대해서 각각의 Y값을 서로 빼주면 알 수 있다.

• Error = Y - (1X + 1)

데이터를 보면 키가 160(X)인 사람의 몸무게는 56(Y)이다 H(160) = 160(예측 값) 이다. (a=1, b=1 일 때) 즉 오차는 56 - 160 으로 -104 이다.

2. 오차가 음수가 나왔다.

즉 Y가 (1X + 1)보다 크면 양의 오차, 작으면 음의 오차가 나온다. 양의 오차든 음의 오차든, 오차는 오차이다. 하지만 양의 오차와 음의 오차를 더하면 오차가 없다는 결과가 나온다. 이 경우를 배제하기 위해서 절댓값을 취해, 모든 오차를 양의 오차로 만들어 준다.

• Error = | Y - (1X + 1) |

이러면 오차는 |56 - 160| 으로 104 이다.

+ 하지만 절댓 값을 취하면 구간을 나눠줘야해서 미분하기 어려워지고, 연산 속도가 떨어진다.

3. 절댓값 대신 제곱

절댓값 대신 제곱을 취해주고, (+ 제곱을 취해주면 오차가 커질수록 더 극대화 된다.)

모든 X에 대해서 오차를 구해야 하므로 시그마를 취해준다.

(Y는 실제 데이터 값이고, Y_hat은 H(x)의 예측 값이다.)

• 이것이 SSE Cost Function 이다.

• 단순 합산이 아닌 평균을 취해주면 MSE가 된다.

• MSE에 루트를 취해주면 RMSE가 된다.

<손실 함수 종류>

• SSE (sum squared error)
• MSE(Mean Square Error)
• RMSE(Root Mean Squared Error)
• Cross-entropy 등

이제 오차는 구했고, 어떻게 하면 그 오차를 줄여나갈 수 있을까?

5. 오차 줄이기 (Optimizer)

경사 하강법 (Gradient Descent)

Cost Function에서 실제 Y 데이터 값과 예측한 Y_hat 값의 차이를 구했다면, Optimizer는 그 구한 오차를 줄여나가는 법에 대해서 다룬다.

• 실제 Y 데이터 값은 고정되어있다.
• 오차는 |Y - H(x)|이기 때문에, 오차를 줄이기 위해서는 H(x) 함수의 aX + b 에서 a와 b의 값을 바꿔주어야한다. (a, b를 파라미터라고 한다.)

• 현재 파라미터를 임의로 초기화하여 a = 1, b=1 인 상태이다.

• a 값만 1에서 1/2로 바꾸어 보았다. (a = 1/2, b = 1)

• 이번에는 a 값만 1로 두고 a만 -120으로 바꾸어 보았다. (a = 1, b = -120)

a, b값에 따라 Error 값이 확연히 바뀌는 것을 볼 수 있다.

즉 각각의 파라미터 θ(a, b)에 따른 Error 그래프를 그려보면

• b를 1에서 -120으로 바꾸면 Error가 16으로 줄어든다.
• 최적해를 가지는 Global Optimum (Error = 0)일 때의 θ(a, b) 값을 찾는 것이 목표이다.
• 최적해를 가질 때의 접선의 기울기 값은 0이다.

Cost Function의 접선의 기울기

기울기가 0이 되는 지점의 θ(a, b)를 구하면 된다.

• 기울기가 0이 되는 지점을 알기 전에, 기울기를 구하려면 미분을 해야한다.
• 현재 파라미터는 a와 b 두가지이다. 즉 기울기를 알기 위해서 a와 b에 대해서 각각 편미분을 진행해 기울기를 구하고, Error 값을 최소가 되도록 각각의 a와 b를 Update 하면 된다.

편미분 & 파라미터 θ (a, b)를 Update하는 방법

• 기존의 θ 에 (η x 편미분 한 값)을 빼준다. (η: Learning Rate)

η: Learning Rate (학습률)

• 보폭을 결정한다. 주로 보폭을 줄이기 위해 0.1 ~ 0.0001 사이의 값을 준다.
• θ를 한번 Update할 때 보폭을 정하는 값이라고 생각하면 좋다.

• Learning Rate가 너무 크면 Global Optimum으로 수렴하지 못하고 발산하게 된다.
• Learning Rate가 너무 작으면 Global Optimum에 수렴하는데 걸리는 시간이 너무 커져 연산에 있어서도 비효율 적이고, Local Optimum에서 고일 가능성이 있다.
• 따라서 적당한 값의 Learning Rate의 값을 찾아주어야 한다.

• 이 값이 θ(a) 보다 커지면 기울기는 음수값을 가져 반대방향으로 a를 Update한다.
• 즉, 여러 Iteration을 거치면 자동으로 기울기는 0으로 수렴하게 된다.

6. 반복 Epoch (Iteration)

머신러닝에서 인공지능 모델을 반복적으로 학습시키는데, 이때 학습의 횟수를 Epoch(에포크)라고 한다.

• 즉 Epoch 만큼 반복해서 model의 파라미터 θ를 Update하는 것이다.

• Epoch이 커질 수록 훈련 데이터에 더 잘 근사하게 된다.

• 하지만 너무 훈련데이터에 Fitting 되어, 일반화 성능이 떨어지는 Over Fitting 문제가 발생할 수도 있다.

  OverFitting & UnderFitting(과대, 과소 적합)

  

• OverFitting은 학습데이터에 너무 많이 Fitting되어, 새로운 테스트 데이터에 대해 일반화 성능을 내지 못하는 것을 의미한다.

• UnderFitting은 학습데이터에 너무 적게 Fitting되어, 새로운 테스트 데이터에 대해 일반화 성능을 내지 못하는 것을 의미한다.

OverFitting & UnderFitting은 다음과 같은 상황에서 발생 가능하다.

<< OverFitting >>

1. Epoch를 크게하여 모델을 너무 많이 학습시켰을 때
2. 데이터에 비해 너무 무거운 모델을 사용하여, 모델 복잡도가 클 때
3. BatchSize를 너무 작게하여, 작은 Batch 마다 너무 잦은 Update 할 때

<< UnderFitting >>

1. 모델을 너무 적게 학습 시켰을 때
2. 데이터에 비해 너무 가벼운 모델을 사용하여, 모델 복잡도가 작을 때
3. 학습 데이터의 양이 너무 적을 때

머신러닝 학습 방법 중 지도학습에서 인공지능이 두 가지 종류의 문제를 해결하는데, 분류와 회귀 분석을 통한 해결이다.

Regression (회귀)

연속된 값을 예측 하는 것

독립 변수와 종속 변수 간의 상관 관계가 존재한다. 회귀 분석은 독립 변수가 종속 변수에 얼마나 영향을 미치는지 알아보고, 이를 통해 응용하며 분석하는 방법이다.

• 독립 변수 : 독립적으로 존재하는 데이터 변수 X 를 의미한다.
• 종속 변수 : 독립 변수가 변함에 따라, 영향을 받아 같이 변하는 데이터 변수 Y 를 의미한다.
• 상관관계 : 독립 변수와 종속 변수가 서로(둘 이상) 간의 얼마나 관련이 있는가를 의미한다.

쉽게 말하면 임의의 변수들이 서로 영향을 미치는데, 이를 가지고 우리가 원하는 값을 예측하는 방법이다.

< 회귀 종류 > 선형 회귀(Linear regression) ... 로지스틱 회귀(Logistic regression) ... 리지 회귀(Ridge regression) ... 라쏘 회귀(Lasso regression) ... 다항 회귀(Polynomial regression) ...

Classification (분류)

비연속적인 범주형 값을 분류하는 것

Binary Classification(이진 분류)

• Class가 O, X 와 같이 두가지로 나뉘는 문제를 해결할 때 이진분류가 사용된다.
• 인공지능 모델의 출력층의 노드 개수가 2개로, 2가지의 결과만 출력한다.

예) 위에 사진에서도 알 수 있듯이, 스팸인지 아닌지 분류하는 문제는 '이메일이 스팸이다 아니다' 2가지 클래스 중 하나로 표현되기 때문에 이진분류이다.

Multi-Class Classification (다중 분류)

• Class가 두개가 아닌 여러개인 문제를 해결할 때 다중 분류가 사용된다.
• 하나의 사진에 하나의 클래스를 부여한다.
• 인공지능 모델의 출력층의 노드 개수가 여러개로, 여러개 중 하나의 클래스를 출력한다.

예) 위에 사진에서도 알 수 있듯이, '개인지 고양이인지 말인지 등 동물의 종류를 분류'하는 문제는 정답 클래스가 어려개 중 하나로 표현되기 때문에 다중 분류이다.

Multi-Label Classification (다중 레이블 분류)

• 하나의 사진에 하나의 클래스를 부여하는 것이 아니라, 하나의 사진에 여러개의 클래스를 부여한다.
• 한 사진에 여러 종류의 클래스가 있을 때 여러개의 클래스를 동시에 표현한다.
• 하나의 클래스가 같은 사진에서 두번 나올 수도 있다.

예) 위에 사진에서도 알 수 있듯이, 하나의 사진에서 여러개의 클래스가 존재할 때 이를 모두 표현해야하지 때문에 출력층이 여러개이다. 즉 정답 클래스가 어려개 중 해당 되는 것 모두를 표현되기 때문에 다중 레이블 분류이다.

*우리는 어떠한 문제를 해결하기 위해 프로그램(알고리즘)을 만든다. 사람들은 그 프로그램이 최고의 성능을 내도록 하기 위해서, 백준과 같은 사이트에서 알고리즘 문제를 풀곤 한다. *

전통적인 프로그래밍과 머신러닝은 서로 방식은 다르지만 두 가지 모두 프로그램(알고리즘)을 만드는 것을 목표로 한다. 그래서 전통적인 프로그래밍과 머신러닝이 어떤 방식의 차이가 있는지 알아볼 것이다.

Traditional Programming

Rule-Based (규칙 기반 프로그래밍)

어떠한 문제를 해결하기 위해, 사람이 데이터를 가지고 이를 어떻게 활용하면 좋은 결과 값(정답, 타깃)이 나올지 생각한다. 그리고 그 생각을 가지고 프로그램(알고리즘)을 구현한다.

흔히 백준 사이트에서 문제를 푸는 것과 같다.

예를 들어 소수 판별 프로그램을 만든다고 생각해보자!

• 소수 찾기 프로그램에서 주어진 데이터(정보)는 숫자(1,2,3,4,5....)이다.
• 결과 값(정답, 타깃)은 2,3,5,7,11.... 등이 소수라는 것이고, 그 이외에는 소수가 아니라는 것이다.

이를 가지고 사람이 직접 소수를 판별하는 규칙을 구상하여 알고리즘을 생각해 구현해낸다.

Artificial Intelligence

Machine Learning (기계 학습)

어떠한 문제를 해결하기 위해, 인공지능에게 데이터와 결과 값(정답, 타깃)을 주면 두 값의 상관 관계를 분석해서 스스로 알고리즘을 만든다.

예를 들어 비행기인지 자동차인지 판별하는 프로그램을 만든다고 하자!

• 사진 이미지 파일은 데이터이다.
• 그 사진이 어떤 사진인지 알려주는 이름은 정답(타깃, 레이블)이 된다.

머신러닝은 데이터와 정답을 알려주면 이를 기반으로 스스로 프로그램(알고리즘)을 만들어 낸다.

Traditional Programming, Machine Learning 차이

전통적인 프로그램은 데이터와 알고리즘을 주면 결과를 내는 것이고, 머신러닝은 데이터와 결과를 주면 알고리즘을 내는 것이다.

예를 들어 개와 고양이를 구분하는 프로그램(알고리즘)을 만들고 싶다고 하자!

어떻게 개와 고양이를 구분하는 프로그램을 만들 수 있을까?

• 전통적인 프로그래밍에서는 개의 특징과 고양이의 특징을 가지고 조건문을 만들어 분류할 것이다.

• 머신러닝에서는 개와 고양이라는 레이블(정답, 타깃)과 사진 데이터를 주어 스스로 학습해서 알고리즘을 만들어 내도록 할 것이다.

<< 전통적인 프로그래밍에서는 >>

• 다리가 4개 있고 꼬리가 길고 기어다니는 동물을 강아지라고 프로그래밍했고,
• 다리가 4개 있고 꼬리가 짧고 기어다니는 동물을 고양이라고 프로그래밍 했다고 가정하자.

이때 만약 불의의 사고로 꼬리가 짧아졌거나, 애초에 태생부터 꼬리가 짧은 강아지인 경우에는 강아지가 아닌 고양이라고 판별할 것이다. 즉, 전통적인 프로그래밍에서는 예외적인 범용적인 상황에서는 좋은 성능을 낼 수 없다.

<< 머신러닝에서는 >>

• 수 많은 고양이와 강아지 사진을 주고 인공지능 모델이 스스로 학습하게 했다고 하자.

사람이 프로그래밍을 하는 것이 아니기에, 어떻게 인공지능이 고양이와 강아지를 구분짓는지 우리는 알 수 없다. 인공지능 모델이 스스로 어떠한 특징이 두 클래스를 구분짓는데 중요한지를 학습하기 때문이다. 이것을 블랙박스라고 한다.

일일히 모든 조건을 만들기 어렵고 어떤 특징이 중요한지 잘 모르는 문제에 있어서는 머신러닝이 훨씬 좋다. 하지만 데이터가 너무 적고 단순한 문제는 전통적인 프로그래밍이 더 좋다. (좋다 나쁘다는 정확도와 프로그램의 가벼움 기준)

또한 머신러닝은 많은 데이터를 주면 줄수록 다양한 특징 모두 고려할 수 있다.

이때 만약 불의의 사고로 꼬리가 짧아졌거나, 애초에 태생부터 꼬리가 짧은 강아지인 경우에도 인공지능은 두가지 클래스를 잘 판별할 것이다.

VCS(Version Control System)

버전 관리 시스템의 필요성

• 인원이 많을 수록 프로젝트 기간이 길어질수록 최종 업데이트 파일을 확인하기 어려워진다

로컬 버전 관리 (VCS)

• Patch set (파일 변경 부분) 관리 - 모든 파일을 특정 시점으로 되돌릴 수 있음

중앙 집중식 버전 관리 (CVCS, Centralized Version Control System)

• 파일 관리 서버 존재 - 클라이언트가 중앙 서버에서 파일을 받아 사용
• 서버에 문제가 발생했을 때 복구가 힘들고, 작업 재개에 오랜 시간이 소요 됨
• 오프라인 상태에서 작업하기 힘듦

분산 버전 관리 (DVCS, Distributed Version Control System)

• 서버 뿐만 아니라 개발자들도 History를 보관
• 저장소를 History와 더불어 전부 복제 - Remote Repository(원격 저장소) 존재
• CVCS 단점 보완
• Git, Mercurial, Darcs 등

Git과 기존 CVS의 차이

• 기존 CVS의 경우 델타 베이스로 구성 (변경된 내용만 보관)
• Git은 프로젝트 전체 내용을 스냅 샷으로 보관
• 각각의 스냅 샷은 변경되지 않은 파일에 대한 예전 링크를 가진다. (가볍고 빠르다)

Git

여러 개발 PC와 저장소에 분산해서 저장

컴퓨터에 있는 대부분의 파일을 Git으로 관리하는 것이 가능

특징

• 코드를 저장하거나 저장 시점으로 되돌아 갈 수 있게 해주는 시스템
• 가장 많이 사용
• 무료/ 오픈소스
• 빠르며 오프라인 작업 가능
• 실수 고치기 쉬움
• 쉽고 빠른 브랜치를 이용해서 각각의 기능별로 브랜치를 만들어 효율적인 협업이 가능
• 무엇보다 개인의 포트폴리오를 관리할 수 있음 (자기 PR)

Git 설치

// Linux

~$ sudo apt update
~$ sudo apt install git
~$ git

// Windows

-> 다운로드

스테이징 (Staging)

• 작업 디렉터리(Working Directory)의 파일을 스테이지 영역으로 전달 (Index)
• 커밋할 파일들을 선택해서 모아두는 장소 (Stage Area)
• “git add” 명령 사용

커밋 (Commit)

• “소프트웨어 버전“ 또는 “버전 만들기"로 이해
• 스테이지 영역의 파일을 로컬 저장소(.git)으로 전달
• 파일의 이력 (내용, 이유 등)을 추적하기 쉽도록 상세 설명을 추가할 수 있다
• 현재 커밋을 가리키는 HEAD 생성
• “git commit” 명령 사용

단일한 물리 하드웨어 시스템에서 여러 시뮬레이션 환경이나 전용 리소스를 생성할 수 있는 기술

• 사용자 또는 환경에 기능을 분산하여 물리적 시스템의 전체 용량을 사용
• 하나의 서버에 단일 운영체제와 개별 작업을 실행하는 것이 더 쉽고, 안정적이지만 각 서버는 잠재적인 용량의 일부에 불과한 약 30%를 사용
• 가상화를 사용하면 서버를 독립적인 작업으로 처리할 수 있는 2개의 고유한 서버로 분할하여 레거시 앱을 마이그레이션 할 수 있음
• 즉, 동일한 하드웨어이지만 더 많은 것을 더 효율적으로 사용

가상화 등장 배경

1. 하이퍼바이저 (Hypervisor)

Virtual Machine Monitor (VMM)라고도 하는 하이퍼바이저는 가상 머신(VM)을 생성하고 실행하는 소프트웨어

• 메모리나 프로세싱과 같은 리소스를 가상으로 공유하여 하나의 호스트 컴퓨터에서 여러 게스트 가상머신(VM)을 지원

  Type 1 - Hypervisor (Bare-metal)

• 경량의 운영 체제처럼 작동하며 호스트의 하드웨어에서 직접 실행
• 공격을 받기 쉬운 운영 체제와 격리되어 있기 때문에 매우 안전
• 성능이 더 좋고 효율적
• 대부분의 기업은 데이터 센터 컴퓨팅 요구 사항을 위해 베어메탈 하이퍼바이저를 선택

Type 2 - HyperVisor (Hosted)

• 다른 컴퓨터 프로그램처럼 운영 체제에서 소프트웨어 계층으로 실행
• 호스트 시스템의 운영 체제(OS) 위에서 실행되며, 하이퍼바이저 위에 추가(및 다른) 운영 체제를 설치
• 대기 시간이 길다 (하드웨어와 하이퍼바이저 간의 통신은 OS 계층을 통과하기 때문)
• 대기 시간이 문제가 되지 않는 최종 사용자 및 소프트웨어 테스트에 가장 자주 사용(클라이언트 하이 퍼바이저라고도 함)

하드웨어 가속 기술은 베어 메탈 및 호스팅된 하이퍼바이저 모두의 처리 속도를 높이고, 가상 리소스를 더 빠르게 생성 및 관리

2. 리눅스 컨테이너 (Linux Container)

운영체제 수준의 가상화 기술로 리눅스 커널을 공유하면서 프로세스를 격리된 환경에서 실행하는 기술

• 애플리케이션 실행 환경을 컨테이너라는 단위로 가상화
• 컨테이너의 기반이 되는 이미지를 효율적으로 만드는(빌드) 기능
• 이미지를 배포하기 위한 구조 (Docker Hub와 같은 저장소 서비스)를 제공

가상화 관련 오픈 소스

임베디드 가상화

Automotive

Edge Device & Container

Edge Computing & K8s

www (World Wide Web)

인터넷에 연결된 컴퓨터를 통해 사람들이 정보를 공유할 수 있는 전 세계적인 정보 공간을 말한다.

하이퍼 텍스트 (HT)

기존의 책과 같은 선형적인 텍스트가 아니라, 월드 와이드 웹에서 사용되는 하이퍼링크와 하이퍼텍스트를 통해서 이어지는 비선형적인 텍스트가 신개념이라는 의미에서 만들어진 용어이다. HTML의 HT가 HyperText의 줄임말이다.

웹 표준 기구

W3C (World Wide Web Consortium)

월드 와이드 웹을 위한 표준을 개발하고 장려하는 조직

W3C 표준

종류

• CGI
• DOM
• HTML
• CSS
• RDF
• SVG
• XML
• XPath
• XQuery 등

HTML과 XML의 차이?

HTML (Hyper Text Markup Language)

- 웹 페이지 및 웹 응용 프로그램의 구조를 만들기 위한 표준 마크업 언어

XML (eXtensible Markup Language)

- 사람과 기계가 읽을 수 있는 형식으로 문서를 인코딩하기 위한 규칙 집합을 정의하는 마크업 언어

< 대소문자 구분 >

• HTML 대소문자 구분 X
• XML 대소문자 구분 O

  < 태그 >

• HTML 미리 정의된 태그 존재
• XML 프로그래머가 자신만의 태그 집합 정의

< 태그 닫기 >

• HTML 일부 태그에는 닫는 태그 없음
• XML 사용된 각 태그를 닫아야 함

  < 주요 초점 >

• HTML 데이터 표시에 중점
• XML 정보 전달에 초점

< 용법 >

• HTML 웹 페이지 구조를 개발하는데 사용
• XML 다양한 플랫폼 간에 데이터 교환에 사용

결론

HTML, XML 둘 다 마크업 언어 (계산을 사용하지 않으므로 프로그래밍 언어는 아님!) 마크업 언어는 태그를 사용하여 문서 내의 요소를 정의하는 컴퓨터 언어 HTML은 웹 페이지의 구조를 개발하는데 사용되는 하이퍼 텍스트 마크업 언어 XML은 플랫폼 간 데이터를 교환하는데 사용되는 확장 가능한 마크업 언어

웹 외부 연동 기술

CGI (Common Gateway Interface)

웹 서버가 보통 CGI 프로그램 혹은 CGI 스크립트라고 부르는, (웹 페이지 내용을 만드는) 외부 프로그램과 통신하는 방법을 정의

• 웹 사이트에서 동적인 페이지를 만드는 가장 흔하고 간단한 방법

PHP (Personal Home Page Tools -> Hypertext Preprocessor)

프로그래밍 언어의 일종으로 동적 페이지를 만들기 위해 설계됨

• PHP로 작성된 코드를 HTML 소스 문서 안에 넣으면, PHP 처리 기능이 있는 웹 서버에서 해당 코드를 인식하여 작성자가 원하는 웹 페이지를 생성한다.

PHP vs CGI, +(JSP, ASP) 차이

CGI는 호출될 때마다 Process를 생성한다.

• Web Page 호출이 100건 들어오면 100개의 Process가 생성되었다가 소멸된다. 그러나 PHP는 한 개의 Process로 운영된다. Web Page 호출이 100 건이 들어오더라도 하나의 PHP Process가 그 안에서 접속을 처리한다.

• 접속자 수가 많아지면 CGI는 System resource를 많이 사용하게 되는 반면, PHP는 system resource를 적게 사용한다.

• CGI의 리소스 문제를 해결하기 위해 나온 기술이 PHP, ASP, JSP

• PHP는 CGI보다 안정적이고, 속도와 최적화에 큰 장점이 있는 언어이기 때문에 JSP, ASP보다 속도 면에서 더욱 뛰어나다.

• PHP는 JSP, ASP보다 사용자가 많을 때 불안정 하지만 속도가 빠르기 때문에 개인 홈페이지에서 많이 사용된다.

• CGI: Process 방식 / PHP: Thread 방식

스레드와 프로세스(Thread, Process)

프로그램 vs 프로세스 vs 스레드

1. 프로그램 (Program)

• 작업을 수행할 수 있는 파일

  2. 프로세스 (Process)

  메모리에 적재되어 실행되고 있는 프로그램의 인스턴스 (독립적인 개체)

• 연속적으로 실행되고 있는 컴퓨터 프로그램
• 운영체제에서 자원을 할당 받는 작업의 단위
• 동적인 개념으로 실행된 프로그램을 의미
• 프로세스는 최소 1개의 스레드(메인 스레드)를 가진다.
• 할당 받는 시스템 자원 예) CPU, 주소 공간, (code, data, heap, stack)으로 구성되는 메모리 영역

• 각 프로세스는 서로 별도의 주소 공간에서 실행되며, 다른 프로세스의 변수나 자료구조에 접근하기 위해서는 프로세스 간 통신 (IPC)을 이용한다.

3. 스레드 (Thread)

프로세스 내에서 실행되는 흐름의 단위로 할당받은 자원을 공유

• 프로세스 내에서 각각 Stack만 따로 할당받고 Code, Data, Heap 영역은 공유한다.
• 반면에 프로세스는 다른 프로세스의 메모리에 직접 접근할 수 없다.
• 각각의 스레드는 별도의 레지스터와 스택을 갖고 있지만, 힙 메모리는 서로 읽고 쓸 수 있다.
• 한 스레드가 프로세스 자원을 변경하면, 다른 이웃 스레드도 그 변경 결과를 즉시 볼 수 있다.

멀티 프로세스 vs 멀티 스레드

1. 멀티 프로세싱

하나의 응용프로그램을 여러개의 프로세스로 구성하여 각 프로세스가 하나의 작업(Task)을 처리

< 멀티 프로세싱 장점 >

• 여러개의 자식 프로세스 중 하나만 문제가 발생하면, 그 자식 프로세스만 죽는 것 이상으로 다른 영향이 확산되지 않는다.

  < 멀티 프로세싱 단점 >

• Context Switching 과정에서 캐시 메모리 초기화 등 무거운 작업이 진행되고 많은 시간이 소모되는 등 오버헤드가 발생하게 된다.
• 프로세스는 각각의 독립된 메모리 영역을 할당 받기 때문에 프로세스 사이에서 공유하는 메모리가 없어, Context Switching가 발생하면 캐시에 있는 모든 데이터를 모두 리셋하고 다시 캐시 정보를 불러와야 함
• 프로세스 사이의 어렵고 복잡한 통신기법 (IPC) 프로세스는 각각의 독립된 메모리 영역을 할당받았기 때문에, 하나의 프로그램에 속하는 다른 프로세스들 사이의 변수를 공유할 수 없다.

+ 참고) Context Switching이란? -> CPU에서 여러 프로세스를 돌아가면서 작업을 처리하는데, 이 과정을 Context Switching이라 한다.

구체적으로,

1. 동작 중인 프로세스가 대기를 하면서 해당 프로세스의 상태(Context)를 보관하고,
2. 대기하고 있던 다음 순서의 프로세스가 동작하면서 이전에 보관했던 프로세스의 상태를 복구하는 작업

2. 멀티 스레딩

하나의 응용프로그램을 여러 개의 스레드로 구성하고, 각 스레드로 부터 하나의 작업을 처리하도록 하는 것

• 윈도우, 리눅스 등 많은 운영체제들이 멀티 프로세싱을 지원하고 있지만, 멀티 스레딩을 기본으로 함
• 웹 서버는 대표적인 멀티 스레드 응용프로그램

< 멀티 스레딩 장점 >

• 시스템 자원 소모 감소 (자원의 효율성 증대)
• 프로세스를 생성하여 자원을 할당하는 시스템 콜이 줄어들어, 자원을 효율적으로 관리 가능
• 스레드 간 데이터를 주고 받는 것이 간단해지고 시스템 자원 소모가 줄어듬
• 스레드 사이의 작업량이 작아 Context Switching이 빠름
• 간단한 통신 방법으로 인한 프로그램 응답 시간 단축 스레드는 프로세스 내의 Stack 영역을 제외한 모든 메모리를 공유하기 때문에 통신의 부담이 적음

  < 멀티 스레딩 단점 >

• 주의 깊은 설계가 필요
• 디버깅이 까다로움
• 단일 프로세스 시스템의 경우에 효과를 기대하기 어려움
• 다른 프로세스에서 스레드를 제어할 수 없음 (= 프로세스 밖에서 스레드 각각을 제어 할 수 없음)
• 자원 공유릐 문제 발생 (동기화 문제)
• 하나의 스레드에 문제가 발생하면 전체 프로세스가 영향을 받음

웹 프로그래밍 언어

JavaScript

객체 기반의 스크립트 프로그래밍 언어

• 웹 브라우저 내에서 주로 사용
• 다른 응용 프로그램의 내장 객체에도 접근 가능
• 사용자 언터렉트 동작 기능을 구현할 때 주로 사용
• 탈 웹화의 가속화 (다른 분야에서도 사용, V8 엔진 공개)

2. 웹 관련 오픈소스

웹 서버

NCSA HTTPd

Apache HTTP Sever

Nginx

Nginx vs Apache

Nginx, Apache 비교 사이트 바로가기

스크립트 언어

JavaScript

Python

컴퓨터로 연결하여 TCP/IP(Transmission Control Protocol/Internet Protocol)라는 통신 프로토콜을 이용해 정보를 주고받는 컴퓨터 네트워크이다.

• Inter : ~ 사이에
• Net : 그물

- Inter + Net = Internet (컴퓨터 사이에 형성되는 그물망)

• Visualization of Internet routing paths

2. 컴퓨터 네트워크 (Computer Network)

노드들이 자원을 공유할 수 있게 하는 디지털 전기통신망의 하나이다. 즉, 분산되어 있는 컴퓨터를 통신망으로 연결한 것을 말한다.

• 서로 다른 네트워크를 연결할 때 라우터(Router) 장비가 필요

네트워크 토폴로지 (Topology)

컴퓨터 네트워크의 요소들(링크, 노드 등)을 물리적으로 연결해 놓은 것, 또는 그 연결 방식을 말한다.

네트워크 토폴로지 종류

• 버스 토폴로지
• 스타 토폴로지
• 링 토폴로지
• 트리 토폴로지
• 메시 토폴로지(Mesh topology) -> 완전 메시형(Fully connected mesh topology) -> 부분 메시형(Partially connected mesh topology)

네트워크 토폴로지 분류

• 물리적 토폴로지
• 신호 토폴로지
• 논리적 토폴로지

• Many Different type of Topology

네트워크 계층 모델

OSI 7 계층

** 국제표준화기구(ISO)에서 개발한 모델로, 컴퓨터 네트워크 프로토콜 디자인과 통신을 계층으로 나누어 설명한 것이다. **

Layer 1 - 물리 계층

전선, 전파, 광섬유, 동축케이블, 도파관, PSTN, 리피터, DSU, CSU, 모뎀

Layer 2 - 데이터 링크 계층

이더넷, 토큰링, PPP, HDLC, 프레임 릴레이, ISDN, ATM, 무선랜, FDDI

Layer 3 - 네트워크 계층

IP, ICMP, IGMP, X.25, CLNP, ARP, RARP, BGP, OSPF, RIP, IPX, DDP

Layer 4 - 전송 계층

TCP, UDP, RTP, SCTP, SPX, 애플토크

Layer 5 - 세션 계층

TLS, SSL, ISO 8327 / CCITT X.225, RPC, 넷바이오스, 애플토크

Layer 6 - 표현 계층

XDR, ASN.1, SMB, AFP

Layer 7 - 응용 계층

HTTP, SMTP, SNMP, FTP, 텔넷, SSH & Scp, NFS, RTSP

TCP/IP 계층

인터넷에서 컴퓨터들이 서로 정보를 주고받는 데 쓰이는 통신규약(프로토콜)의 모음이다. 인터넷 프로토콜 슈트 중 TCP와 IP가 가장 많이 쓰이기 때문에 TCP/IP 프로토콜 슈트라고도 불린다.

Layer 1 - 네트워크 엑세스 계층

이더넷, Wi-Fi, 토큰링, PPP, SLIP, FDDI, ATM, 프레임 릴레이, SMDS

Layer 2 - 인터넷 계층

IP (IPv4, IPv6)

Layer 3 - 전송 계층

TCP, UDP, DCCP, SCTP, IL, RUDP

Layer 4 - 응용 계층

DNS, TFTP, TLS/SSL, FTP, HTTP, IMAP, IRC, NNTP, POP3, SIP, SMTP, SNMP, SSH, 텔넷, ECHO, 비트토렌트, RTP, PNRP, rlogin, ENRP

네트워크를 계층화 하는 이유?

네트워크 계층화 장점

• 네트워크의 각 기능들의 독립성을 보장 가능
• 계층별 기능 확장 및 변경에 의한 영향에 무관

-> 상위 계층을 하위 계층의 세부적인 사항으로부터 독립시킴으로써 기능 단위로 모듈화 가능

네트워크 계층화 단점

• 하나의 데이터가 수신지에 도착하기 위해서 각 계층 간에 많은 상호작용이 필요함

-> 과다한 처리의 오버헤드와 지연시간이 증가

3. 소켓 프로그래밍

클라이언트 / 서버 모델

• 클라이언트와 서버는 프로그램을 의미
• 서버는 클라이언트의 연결 요청을 대기
• 클라이언트는 서버에 요청을 하고 응답을 기다리는 호스트

서버 소켓 구현

// 소켓 생성
#include <sys/socket.h>
int socket (int domain, int type, int protocol)

// 주소 할당 (IP 주소, Port 정보)
 #include <sys/socket.h>
int bind(int sockfd, struct sockaddr *myaddr, int addrlen)

// 연결 요청 대기
#include <sys/socket.h>
int listen(int sockfd, int backlog)

// 연결 요청 수락
#include <sys/socket.h>
int accept(int sockfd, struct sockaddr *addr, int *addrlen)

클라이언트 소켓 구현

// 소켓 생성    
#include <sys/socket.h>
int socket (int domain, int type, int protocol)

// 연결 요청
 #include <sys/socket.h>
int connect(int sockfd, struct sockaddr *server_addr, int addrlen)

4. 네트워크 관련 오픈 소스

하드웨어 TCP/ IP 칩

- 이더넷 쉴드 (W5100)

네트워크 운영체제

라우터, 스위치, 방화벽과 같은 네트워크 장치를 위한 특화된 운영체제이다. 네트워크와 네트워크 메시지를 (이를테면 패킷) 트래픽과 대기열(큐)을 제어하고, 여러 명의 사용자가 파일과 같은 네트워크 리소스에 접근할 수 있게 해 주며, 보안을 포함한 특정한 관리자 기능을 제공하는 소프트웨어이다.

- SONiC

- Open vSwitch

고속 패킷 처리 SW

- DPDK

사용자가 프로그램의 소스코드에 아무런 제약 없이 접근 할 수 있다. - 수정 및 배포 가능하며, 사용 상의 제약이 없다.

• 자유 배포 (Free Redistribution)
• 소스코드 공개 (Source Code Open)
• 2차적 저작물 (Derived Works) (허용)
• 소스코드 수정 제한 (Integrity of The Author's Source Code)
• 개인이나 단체에 대한 차별 금지 (No Discrimination Against Persons or Groups)
• 사용 분야에 대한 제한 금지 (No Discrimination Against Fields of Endeavor)
• 라이선스의 배포 (Distribution of License)
• 라이선스 적용상의 동일성 유지 (License must not be specific to a product)
• 다른 라이선스의 포괄적 수용 (License must not contaminate other software)
• 라이선스의 기술적 중립성 (License must be Technology-Neutral)

오픈소스 커뮤니티의 성장 계기

• Netscape 브라우저 소스를 공개 -> 이후 Firefox 프로젝트로 발전

  오픈소스의 장점

• 자유롭게 프로그램의 소스에 접근
• 수정 및 재배포
• 제조사에 의존적인 부분을 제거
• 높은 수준의 협력

라이선스

소프트웨어를 사용할 수 있는 권한 또는 사용을 허가하는 것이다. (소프트웨어 사용권)

GNU (GNU is Not Unix)

GNU 4가지 강령

• 누구나 어떤 목적으로든 프로그램을 실행할 자유를 가쟈야 한다.
• 사용자의 요구에 맞게 프러그램을 수정할 수 있어야 한다.
• 다른 사람들을 위해 재배포가 가능해야 한다.
• 수정된 버전의 배포를 통해 해당 커뮤니티가 이득을 볼 수 있어야 한다.

GPL

특징

• 수정한 소스코드 또는 GPL 소스코드를 활용한 소프트웨어는 모두 GPL로 공개
• 개인적, 내부적 이용에 한해서는 소스코드를 공개하지 않아도 됨
• 외부 배포시 해당 소프트웨어의 전체 소스코드를 공개해야 함

ex) FireFox (2.0), 리눅스 커널, 깃마리아 DB

LGPL

특징

• 기존의 GPL의 높은 제약을 완화시키기 위해 탄생
• 소스코드를 단순 라이브러리 이용 이외의 목적으로 사용 시 소스코드 공개

ex) FireFox (2.1)

BSD

특징

• 소스코드의 공개 의무가 없고 제약 조건이 낮다.
• 버클리 캘리포니아 대학에서 제정
• BSD 자체가 공기관에서 만든 것이므로 공공 환원의 의도가 강함
• 저작권 및 라이선스 명시 이외엔 아무 제약 없이 사용 가능한 자유로운 라이선스

ex) OpenCV

Apache 2.0

특징

• BSD와 거의 비슷하며 BSD보다 좀 더 완화된 내용
• Apache 1.0, 1.1은 OSI 인증 라이선스 제외 (OSI = Open Source Initiative)
• 2차 라이선스 가능 ex) 안드로이드, 하둡

MIT

특징

• BSD 라이선스를 기초로 MIT 대학에서 제정
• MIT 라이선스를 따르는 소프트웨어를 사용하여 만든 개발품을 꼭 오픈소스로 해야할 필요는 없으며, 소스코드 공개 의무도 없음
• 2차 라이선스 가능

ex) X 윈도우 시스템, Jsoup

MPL

특징

• 수정한 소스코드는 MPL 라이선스로 공개 (단순 이용 시에는 공개 의무 없음)
• 소스코드와 실행 파일의 저작권 분리
• MPL 라이선스의 소스코드를 사용하여 개발했을 시 수정한 소스코드를 MPL로 공개하고 원작자에게 수정한 부분에 대해 알려줘야 함
• 실행 파일은 독점 라리선스로 배포 가능
• 또한 MPL과 무관하게 작성된 소스코드는 공개할 필요가 없다.
• 2차 라이선스 가능

ex) 파이어폭스 (1.1)

Eclipse

특징

• 수정한 소스코드를 Eclipse 라이선스로 공개 (단순 이용 시에는 공개 의무 없음)
• GPL을 대체하며, GPL보다 약한 수준으로 기업 친화적인 특징
• 2차 라이선스 가능

ex) Eclipse

클래스 (Class)

접근자 class 클래스 이름{...}

1. 접근(지정)자

*-> 외부에서 이 클래스에 접근할 수 있는지 여부 *

• (public: 다른 클래스에서 이 클래스를 이용할 수 있음)
• 중괄호 안에 클래스의 필드와 메소드를 모두 작성

  2. 멤버 (필드)

• 객체의 상태 값을 저장할 멤버변수. “접근지정자 타입 이름;”

  3. 메서드

• 실행가능한 객체의 행위를 구현 (함수)
• 경우에 따라 생략가능! “접근지정자 반환타입 함수이름(매개변수) { ... return 값; }”

/** Location 클래스: 위도 경도 표현 및 다른 위치까지의 거리 계산 */ 
public class Location
{
     public double latitude;    // 멤버 (필드)
     public double longitude;  // 멤버 (필드)

    public Location(double lat, double lon) // 생성 메소드 
    {
          this.latitude = lat;
        this.longitude = lon;
    }

     public double distance(Location other) {
         ...
    }
}

• this: 현재 만들어지고 있는 객체

객체

new

1. 인스턴스 생성
2. Heap 메모리 공간 할당
3. 객체(nes)에게 참조값 리턴

객체의 생성과 사용 내부 과정

메모리 모델 (Memory Model)

• new를 통해 Location 인스턴스 생성 == Location
• Heap 메모리 공간 할당 == latitude, longitude
• 객체에게 참조값 리턴 == erica, seoul

함수의 인자 전달 (Parameter Passing)

변수의 유효 범위 (Variable Scope)

변수의 사용 가능한 범위

변수의 유효 범위가 한전됨에 따른 이점

• 이름(변수명) 재사용 가능
• 전체 프로그램의 모든 이름을 외울 필요 없음
• 이름이 필요한 곳에만 알려짐

1. 지역 변수

-> 현재 메서드 안에서만 값이 정의되고 사용될 수 있음

2. 멤버(전역) 변수

-> 현재 클래스의 어떠한 메서드에서도 값이 정의되고 사용될 수 있음

메서드 (Method)

1. main 메서드

프로그램 실행을 시작시키는 역할

• 무조건 있어야 하는 메서드
• this 객체를 반환하며 Initial을 취한다.

2. 반환값 (Return)

알고리즘이 다 수행되고 마지막으로 출력되는 값

• Return 이후의 코드는 실행되지 않는다.
• 반환 값을 받지 않아도 수행된다.
• 받지 않은 값은 무시

3. 메서드 오버로딩 (Overloading)

같은 이름의 메서드 여러개 정의

• 메서드 이름이 같다.
• 매개변수의 개수 or 매개변수의 자료형이 달라야 한다.
• 리턴 타입이 같아야 한다.

4. Public vs Private

Public : 어디에서나 접근 (읽기/ 쓰기) 가능

• Public 일 때, new로 객체 생성 및 사용 가능

  Private : 현재 클래스/ 메서드 내에서만 접근 가능

• setter: 값을 바꾸어 줄 때 사용됨.
• getter: Private 때문에 setter의 반환값을 사용하지 못해서 getter를 이용

-> 필드 멤버변수들은 Private으로

-> 메소드들은 성질에 따라 Public or Private

5. Static 필드 변수 및 메서드

• 객체 생성 없이 바로 사용가능 ex) Math.PI, Math.abs(f)

• 타입 앞에 static 붙이면 정의 가능

• 정적 매서드로 동적 필드에 접근 불가능

변수 (variable)

변수

값을 저장할 수 있는 저장소, 메모리에 값이 저장된 위치(셀)를 참조하기 위해 정한 이름

선언

변수명 만드는 규칙

1. 영문자, 숫자, 언더바, $ 으로 구성
2. 숫자로 시작 금지
3. Java 키워드 사용 금지 (Public, Class 등)

• 변수를 사용하기 전 취해야하는 절차 (사용 예고)

  int variable_name;

  초기화 (initializatoin)

• 변수를 사용할 때 임의의 값 지정
• Assignment와 형태는 같으나, 맨 처음에 따로 변수 값을 저장하는 것을 초기화라고 한다.

  variable_name = 'velog';

  저장 or 대입 (Assignment)

• 초기화 부분이 아닌, 알고리즘 부분에서 변수를 사용하고자 할 때 사용
• 변수 저장소 셀에 있는 값은 바꿀 수 있다.

  variable_name = 'velog';

데이터 타입 (Data Types)

데이터 타입 종류

1. 기본 타입 (Primitive type)

- int : 정수

• 문자열 20을 정수로 바꾸는 법

  int c = new Integer(“20”).intValue();

  - Double : 실수, 유리수

• 문자열 20을 실수로 바꾸는 법

  double c = new Double(“3.14159”).doubleValue();

  - Characters : 문자

• 글자 하나.
• 문자는 정수로 변환 가능하다. (Unicode)

  (char) ('a' + 1)

- Boolean Value

• 참, 거짓을 나타내는 값

  boolean b = false;

  2. 참조 or 객체 타입 (Reference or Object type)

  - String : 문자열;

• 정수, 실수, 논리값과는 달리 "객체"이다.

  String name = "Gildong Hong";

타입 변환 (Type Cast)

1. 묵시적 타입 변환 (implicit type casting)

int i = 1;
double d = i;

2. 명시적 타입변환(explicit type casting)

double d = 1.5;

int i = d;         (X)
int i = (int) d;   (o)

DecimalFormat

• DecimalFormat 객체 만들기

new DecimalFormat(<패턴>)

DecimalFormat f = new DecimalFormat(“0.00”); //오른쪽 두자리 픽스, 왼쪽 최소 한자리
String s = f.format(100.0/3.0);

//결과 값 33.33

타입 오류

boolean b = true; 
System.out.println(b * 5);    // data type error 

int i = 3 * 2.1;    // data type error

int x;
x = "abc";    // data type error

GregorianCalendar c = new GregorianCalendar();
System.out.println(c.getTime()); 
c.println("oops"); // data type error

타입 검사

실행시간 오류 (Run-Time Error)

Syntax 적으로는 문제가 없지만, 논리적으로 문제가 있어 실행 도중 생기는 에러

일부 오류는 실행해 보지 않고는 찾기 어려워 실행시간에 발생한다.

// 0으로 나눌 때
int x=0;
i/x

// 변환오류
new Integer(x).intValue() // x=”abc”

• Java는 실행시간 오류가 발생하면 예외(exception)을 발생시키면서 발생 경 input, e.g.,

연산

비교 연산자

> < <= >= == !=

논리 연산자

&& (and), || (or), ! (not)

연산자 우선 순위 (Operator Precedence)

• 괄호가 최강.

  < 높음 > 단항 연산자 : -, ! 곱하기*나누기/나머지% 더하기+빼기- 비교 < <= > >= 비교 == != 논리 && || < 낮음 >

연산자 결합 순서 (Associativity)

단항 연산자

• 단항 연산자는 우결합 원칙

ex) ---4 = -(-(-(-4))) 

이항 연산자

• 이항 연산자는 좌결합 원칙

  ex) 1-2-3 = (1 - 2) - 3

예제) 동전 계산 프로그램

CelsiusToFahrenheit1 는 프로그램 인수로 섭씨온도를 받아 화씨온도로 바꾸 어 출력해 준다.

import java.text.*

public class CelsiusToFahrenheit1 {
    public static void main(String[] args)
    {
    int c = new Integer(args[0]).intValue();
    // args[0]가 프로그램 인수
    double f = ((9.0/5.0)*c) + 32; 
    System.out.println("For Celsius degrees " + c + ","); 
    DecimalFormat formatter = new DecimalFormat(“0.0”); 
    System.out.println("Degrees Fahrenheit = " + formatter.format(f));
    } 
}

컴파일 (Compile)

소스코드를 기계어로 번역하는 과정

컴파일 vs 인터프린터 (스크립트)

인터프린터

• 소스코드를 실행코드로 변환하지 않고, 소스코드를 한줄한줄 바로 실행한다.
• 에러 발생 시, 에러가 발생한 해당 라인 직전 라인 까지는 실행이 된다.

  컴파일

• 인터프린터와는 다르게 소스코드를 실행코드로 변환하고, 실행코드를 실행한다.
• 에러가 있으면 해당 라인 까지 실행 되는 것이 아니라, 아예 실행이 되지 않는다. (실행파일을 만들지 못함 = 컴파일을 못함)

플랫폼 종속성

개발하는 환경에 따라 사용자의 프로그램 사용 환경이 결정 됨.

• ISA (Instruction set architecture), OS (Operating System) 때문에 cpu가 프로그램을 해석하는 방식이 다 다르다.

자바의 플랫폼 독립성 (WORA)

사용자의 사용 환경이 개발하는 환경과 상관없이 범용성을 가짐

JRE (JVM)

• 자바는 자바 가상 머신이 존재하여, 프로그램이 자바 가상머신 위에서 돌아간다.
• 프로그래밍 언어를 구현하는데 번역의 징검다리 역할

  자바 바이트코드

• 바이트코드란? 가상 머신이 이해할 수 있는 언어로 변환된 자바 소스 코드
• .class 의 확장자 형태를 가짐

플랫폼 독립성의 단점

종속적으로 개발했을 때보다 성능이 좋지 않음.

• 플랫폼 독립적일 때 최적화 문제가 있음

• (instruction/data-level parallelism, cache optimization)

main 메소드

프로그램 실행을 시작시키는 메소드

• 프로그램 객체가 메모리에 생성 -> Main 메소드 호출
• 모든 자바 application은 main 메서드가 있어야 함

자바 IDE (Eclipse, JDK)

IDE (Integrated Development Environment)

• 통합 개발 환경
• 편집, 컴파일, 디버깅 등 여러 작업을 하는 툴

  Eclipse (자바 IDE)

• 자바 응용 프로그램 개발을 위한 통합 개발 환경
• 프로젝트 생성 -> 패키지 생성 -> 클래스 생성 -> 소스코드 실행

  JDK (Java Development Kit)

• 자바 응용 개발 환경, 개발에 필요한 도구 포함 (컴파일러, 클래스 라이브러리, 샘플 등)
• JRM과 JDK를 설치하면, Eclipse가 JRM과 JDK를 자동으로 선택해서 실행한다.

MVC 구조

모델 (Model)

• 제어기의 메시지에 따라 계산을 하는 객체

  뷰 (View)

• 사용자와의 상호작용을 관장하는 객체

  제어기 (Controller)

• 정보를 전달하는 것을 관장하는 객체

간단한 프로그램 예제 (Hello World)

< 이름, 날짜, 시간을 출력하는 프로그램 만들기 >

import java.util.*; // Java package
/** NameAndDate는 이름과 날짜, 시간을 출력 */ 

public class NameAndDate
{
  public static void main(String[] args)
  {
    System.out.print(“Hanyang ERICA --- ");

    // The next statement creates an object: 
    GregorianCalendar c = new GregorianCalendar(); // 객체 생성은 new로

    // c에게 시간을 물어보고 그 결과를 출력
      System.out.println(c.getTime()); 
      System.out.println("Finished");
    } 
}

Java 패키지와 API

Java에서 기본적으로 제공하는 패키지를 Java API (Application Programming Interface)라고 부른다. ex) java.lang, java.util ...

• 일부 기초적인 API는 import 하지 않아도 사용할 수 있다. ex) System.out.

1. 인공지능, 머신러닝, 딥러닝의 차이?

-> 데이터 사용 여부와 인공신경망의 사용 여부로 인공지능 머신러닝 딥러닝을 구분 할 수 있다.

2. Artificial Intelligence

• 가장 넓은 범위의 개념으로, 인간의 지적 능력을 모방하는 어떠한 것이라도 인공지능이라 말할 수 있다.
• ex) 간단한 프로그램, 시리, 빅스비, 인공지능 스피커, 등

  3. Machine Learning

• 데이터를 사용해 모델을 학습시키는 방법으로 구현한 인공지능을 머신러닝이라고 한다.
• 인공지능 + 학습 데이터 = 머신러닝
• 사람이 훈련 데이터의 특징을 추출해서 인공지능 모델을 학습시켜야한다.
• ex) SVM, Decision Tree, KNN, Random Forest

  4. Deep Learning

• 머신러닝 + 인공신경망(심층) = 딥러닝
• 머신러닝과 다르게 데이터로부터 특징을 추출할 필요 없고, 모델이 알아서 특징을 추출한다.
• ex) CNN, RNN, LSTM, ANN, DNN, MLP

1. 지도 학습과 비지도 학습?

지도학습과 비지도 학습의 차이

- 지도 학습과 비지도 학습을 구분하는 기준은, 훈련 데이터가 Label(정답)을 가지고 있는지 없는지이다.

2. 지도 학습

-> 정답 레이블이 있는 데이터를 가지고 인공지능을 학습 시킴

• 지도 학습에는 분류와 회귀분석, 2가지 종류가 있다.

< 분류 >

• Classification은 Binary, Multi-Class, Multi-Label Classification으로 나뉜다.

대표적인 분류 알고리즘

• SVM, Decision Tree, KNN(K-nearest neighbor), Random Forest, Naive Bayes

< 회귀 >

• Regression은 Linear와 Non-Linear Regression으로 나뉜다.

대표적인 회귀 알고리즘

• Linear Regression, Polynomial Regression

!! 주의 !! _Logistic Regression과 Softmax Regression는 이름은 Regression이지만 실제로 하는 일은 Classification이다. _

3. 비지도 학습

-> 정답 레이블이 없는 데이터를 가지고 인공지능을 학습 시킴

• 지도 학습에는 군집화와 차원 축소, 2가지 종류가 있다.

< 군집화 (Clustering) >

• 정답데이터가 없어, 차원을 바꿔가며 데이터끼리의 상관관계를 이용해 군집을 잡는다.

  대표적인 군집화 알고리즘

• K-means Clustering, DBSCAN, Mean-Shift Clustering

< 차원 축소 >

• 고차원의 데이터로부터 특징을 추출하기 어렵기 때문에, 단순히 데이터를 압축하는 것이 아닌 데이터를 더 잘 설명할 수 있는 잠재적인 요소를 추출

  대표적인 차원 축소 알고리즘

• PCA, LDA

4. 강화 학습

-> 학습 데이터라는 것이 아닌, 강화학습의 5가지 구성 요소를 통해 모델 에이전트를 학습해나간다.

강화학습 기초 개념

• 아기가 걸음마를 때는 장면을 생각하면 이해하기 쉽다. 아기는 두 다리로만 중심을 잡을 수 없어 기어다닌다. 하지만 수차례의 넘어짐을 통해 중심 잡는 법을 터득하고, 결국에는 두 다리로만 중심을 잡고 서있는 법을 터득한다.

  강화학습 필수 요소

  1. Agent

• 학습을 하는 주체 (Model)

  2. Enviroment

• Agent를 학습시킬 환경

  3. Action

• Agent가 Enviroment에서 내리는 행동

  4. State

• Agent가 Enviroment에서 Action을 내렸을 떄 발생하는 하나의 장면

  5. Reward

• Agent가 Enviroment에서 Action을 내렸을 떄 발생하는 하나의 장면으로부터 나오는 기댓값 (보상과 벌점)

대표적인 강화학습 알고리즘

• Q-Learning, DQN, Actor-Critic, A2C, A3C

강화학습은 Agent가 Enviroment에서 Action을 내리는데, 그때 생성되는 State로 부터 발생되는 Reward를 (보상을) Maximize하는 형태로 Agent를 학습한다.

1. 컴퓨터란?

-> 명령을 수행하는 것이라고 하는데, 내 생각에는 계산기이다.

High Level Language vs Low Level Language

- High로 갈수록 User Friendly Language (고급 언어)

ex) Python

- Low로 갈수록 Machine Friendly Laguage (저급언어, 기계어)

ex) Assembly, C

_High Level 언어는 Low Level로 표현 가능하고, Low Level 언어는 0과 1로 표현 가능하다. _

즉 컴퓨터란, 코드를 컴파일러를 통해 저급 언어 0과 1로 변환한 뒤, 계산해서 결과를 보여주는 계산기라고 생각한다.

컴퓨터의 구성 요소

- 프로세서 (중앙처리장치, CPU)

• 명령을 처리하는 장치, (인간의 두뇌)

  - 메인보드

• 각각의 장치 끼리 연결해주는 매개체의 역할

  - 기억장치

1. 주 기억장치 (RAM)

   • 속도는 빠르지만, 휘발성 메모리로 전기가 나가면 파일 또한 날아간다.

2. 보조 기억장치 (SSD, HDD, ROM)

   • 속도는 느리지만, 비휘발성 메모리로 전기가 나가도 파일은 살아있다.

     - 파워 서플라이

• 전류를 각 장치의 전압과 전류의 세기에 맞게 분배하여 공급해주는 장치.

  - I/O

• Input, Output (키보드, 마우스, 스피커, 모니터)

2. 프로그램이란?

-> 매우 구체적으로 작성된 명령 나열, 명령어 집합이다.

프로그램 VS 알고리즘

- 프로그램

• 컴퓨터가 수행할 수 있도록 매우 구체적으로 작성된 명령 나열
• 이를 작성하는 행위를 코딩, 프로그래밍이라 한다.

- 알고리즘

• 어떤 문제를 해결하기 위해 정해놓은 일련의 절차

-> 프로그램이 알고리즘보다 더 구체적이다.

3. 프로그램 설계

건축가 (Architect) -> 집을 어떻게 지을지 설계하는 사람 빌더 (Builder) -> 집을 짓는 사람.

vs

설계 (Design) -> 구조, 알고리즘 구축 구현 (Implementation) -> 프로그램, 코드 구현

• 프로그래밍에 있어서 두 작업 다 해야하지만, 분리해서 사고하는 것이 좋다.

객체 지향 설계 (Object-Oriented Design)

-> 프로그램 설계 방법 중 한가지 방식

특징

• 모든 것이 다 객체이다.
• 객체는 객체 자신의 메서드를 갖는다.
• 화면, 사용자, 프로그램 등 모든것이 객체이다. 객체끼리 주고 받는 메시지를 통해 계산이 수행된다. (한 노드의 Output이 다른 노드의 Input으로 작용)

클래스 구조도 (Class Diagram)

클래스 (class)

• 객체를 생성하기 위한 툴
• 클래스는 메서드를 지닌다.

클래스 구조도

• 클래스와 클래스간의 흐름을 그려놓은 설계도

ROS1을 설치하기 전에 준비해야 할 것

ROS1은 Ubuntu 22.04를 지원하지 않는다.

• 우리는 ROS1 Noetic을 사용할 것이기에, Ubuntu 20.04 버전을 준비해준다.

1. 설치 전 세팅

packages.ros.org 에서 package를 받아오기 위한 설정

sudo sh -c 'echo "deb http://packages.ros.org/ros/ubuntu $(lsb_release -sc) main" > /etc/apt/sources.list.d/ros-latest.list'

cURL설치

sudo apt install curl

cURL로 설치 키 설정

curl -s https://raw.githubusercontent.com/ros/rosdistro/master/ros.asc | sudo apt-key add -

apt를 최신버전으로 업데이트

sudo apt update

2. ROS Noetic 설치

다음 명령을 사용 하여 ROS 1 Noetic 데스크탑을 설치합니다.

주요 설치 코드

sudo apt install ros-noetic-desktop-full

기본 탑재 패키지 이외의, 추가적인 패키지 설치

• ex) slam-gmapping Package Install

  sudo apt install ros-noetic-slam-gmapping

  패키지 리스트 보기

3. 설치 후 환경 세팅

ROS 설치 후 매번 터미널을 켤때마다

source /opt/ros/noetic/setup.bash

를 해줘야하는데, 귀찮으니 ~/.bashrc에 추가를 해준다.

~/.bashrc에 setup.bash추가

echo "source /opt/ros/noetic/setup.bash" >> ~/.bashrc

source ~/.bashrc

ROS Package를 구축하기 위한 도구 및 기타 종속성을 설치

sudo apt install python3-rosdep python3-rosinstall python3-rosinstall-generator python3-wstool build-essential python3-roslaunch

sudo apt install python3-rosdep

initialize, update rosdep

sudo rosdep init

rosdep update

4. ROS 설치 확인

터미널에 roscore를 입력했을때 오류가 없으면 설치 된 것이다.

roscore