1장. 프로덕트 오너는 미니 CEO다.

PO는 중심에 있다

"PO는 모든 사람들이 지켜보는 존재야. 개발자, 디자이너, 비즈니스 애널리스트 등은 물론, 회사 내/외부 고객과 사업부, 심지어 나 같은 경영진까지 지켜보고 있어."

"그래, 명심해. PO는 중심에 있어. 모두가 보고 있단 말이지. 절대로 감정을 공개적으로 보이지 마."

PO는 전혀 다른 경험을 원하는 고객 집단이 하나로 모여있을 때, 고객이 요구하는 사항을 모두 경청라고, 그 중에서 우선순위를 정한다. 그후 그게 회사가 추구하는 사업 목적과 부합하는지 확인해라. 자원은 한정적이기에 모든 고객의 목소리를 반영할 순 없기 때문이다.

독재자형 리더는 안된다

프로젝트 매니저는 시장을 조사하고, 프로토타입을 만들고, 실험하고, 디자인 또는 개발 자원과 협업하고, 최종 제품을 고객에게 선보여야 한다.

강의나 책을 찾아서 봐야겠다는 생각이 들었다.

"프로젝트 매니저를 떠올리면 '비전'이나 '프로덕트 CEO'같은 단어들이 학생들 사이에서 거론되곤 하지만, 현실은 관리 업무도 함께해야 해요. 마치 과하게 미화된 스태프 같기도 하죠."

PO는 누군가에세 결정을 통보하고, 실행하는 CEO가 아니다. 오히려 그 누구보더 더 저자세로 임하고, 경청하며, 사실만을 토대로 설득을 거듭하는 고독한 자에 가깝다.

나는 데이터를 가지고 설득을 하는, 아니 설득이란 것을 하는 자체를 잘 못하는데, 이 부분을 고쳐야겠다는 생각이 들었다.

책임은 있지만 권한은 없다

하지만 PO에게는 그런 권한이 없다. 야밤에 에러가 생기면 PO에게 제일 먼저 연락이 오고, 책임감 때문에 새벽까지 뜬눈으로 긴장하지만, 실제 원인을 제공한 자에세 책임을 물을 수는 없다.

오히려 건강한 관ㄴ계를 유지하기에는 PO에게 권한이 없는 편이 낫다. 다른 이들에게 일방적으로 지식하기보다는, 더 효율덕으로 협업하기 위한 방법을 찾을 수 있기 때문이다.

문제가 발생하면 PO에게 질문과 눈길이 쏠리지만, 큰 성공을 거두면 PO는 함께 이룬 동료들에게 공을 돌린다. 그들이 직접 두 손으로 만든 서비스이기 때문이다. 부여된 책임감은 많지만, 권한이 없는 PO는 언제나 겸손해야 한다.

고객에 집착하고 또 집착하라

브랜드 맨

1. 자신에게 주어진 브랜드의 출고량을 한 개 단위까지 주의 깊게 관찰한다.

2. 브랜드의 제품이 활발하게 판매되거나 증가 추세를 보이는 곳일 경우, 그것을 가능하게 한 원인을 주의깊게 살펴보고, 그것을 다른 비슷한 지역에 동일하게 적용하려 노력한다.

3. 브랜드의 제품 출고량이 저조할 경우

----a. 해당 브랜드의 과거 광고 및 홍보 이력을 분석하고, 직접 딜러나 고객을 만나서 그 지역의 특성을 파악한 수 문제점을 찾아낸다. ----b. 우리의 취약점을 발견했다면 그 특정 지역에서 발생되고 있는 문제를 해결할 계획을 수립한다. 당연히 계획만 구축하는 게 아니라, 문제를 해결할 수 있다고 확신할 만한 비용을 적절히 선정해서 제안한다. ----c. 이 계획을 출고량이 저조한 지역을 담당하는 디비전 총괄자한테 상세하게 보고하고, 문제점을 고칠 수 있도록 그로부터 권한과 지원을 얻는다. ----d. 계획을 시행하기 위해 필요한 인적 자원과 물품을 준비하고, 각 지역에 해당 계획을 공유한다. 세일즈맨들이 준비 태세를 갖출 수 있도록 협업한다. 마지막 순간까지 모든 절차를 실행하고, 계획의 예상 판매 결과가 흐트러지지 않도록 책임진다. ----e. 필요한 모든 정보를 기록해두고, 의도한 결과가 계획을 통해 제대로 달성됐는지 검증하기 위한 현장분석도 진행한다.

4. 단순히 출력된 홍보물 등을 평가하는 것이 아니라, 담당하는 브랸드와 관련된 모든 표현애 대해 전덕으로 책임을 진다.

5. 브랜드의 적용된 모든 광고 비용에 대한 책임을 진다.

6. 각 지역의 책임자와 일 년에 몇 번씩 직접 만나 발생 가능한 모든 문제점에 대해 논의한다.

PO가 이행해야 하는 가장 중요한 의무 중 하나는 고객에게 집착하는 것이다. 현장이 있으면, 현장으로, 공장이 있으면 공장으로, 판매처가 있다면 판매처, 심지어 단순하게 고객센터에 가서 전화 통화를 옆에서 들어도 도움이 된다. 그리고 각각의 고객이 무엇을 불편하게 여기는지, 어떤 경험을 원하는지 등을 데이터까지 분석하며 파악한다.

또한 이에 머물지 않고, 고객에게 집착하는 사고방식을 주변 동료들에게전파해야 한다. 단순히 개발을 하거나 디자인 시안을 만드는 것이 아니라, 그것이 고객에게 얼마나 큰 감동을 줄 수 있는지 각자 충분히 인지할 수 있도록 설명해주는 것도 PO의 몫이다. 모두가 고객에 집착할 때까지 PO에게는 직접 현장에서 터득하고 정보를 공유해야하는 책임이 있다.

* PO가 되기 위해 필요한 자질

1. 학력 및 전공
2. 업무 경험
3. 성향 및 능력

   위의 3가지라곤 하지만 나는 저것들에 부합하는 것이 없다. 이번에 풀잎에 참여해주신 분들도 경험이 제일 중요하다고 말했다. 물론 나는 경험도 없지만 일하면서 데이터가 쌓이면 점차 나아지지 않을까 한다.

2장. 고객의 목소리를 어디까지 반영할 것인가

고객은 제품을 사지 않는다, 고용한다

제품이 단순히 구매된다는 관점에서 벗어나, 고객이 무옷을 해결하기 위해 어떤 제품을 고용했는지 생각해봐야 한다. 오든 제품과 서비스를 고용의 대상으로 바라보면, 각각 어떤 일을 고객을 위해 해줘야 하는지 알 수 있다. 그게 고객에게 전달되는 실제 가치다.

나는 어떤 프로덕트를 만들기 전이다, 혹은 매 분기별로 문서를 하나 작성한다. 아마존 또는 쿠팡에서 식스 페이저(6-Pager)라고 부르는 이 문서 형태는 여섯 페이지 이내에 해당 프로덕트에 대한 핵심 내용을 담아내는 것이다. 프로덕트의 목적이 무엇인지, 과거에 어떤 관련된 시도를 했는지, 어떤 실패 사례가 있었는지, 앞으로 어떤 방향으로 개발할 건지, 그리고 어떤 수치를 활요애서 성공 여부를 확인할 것인지 등을 최대한 간결하고 정확하게 서술한다. 이 문서는 개발팀은 물론 임원진의 검토를 받고, 피드백을 통해 문서를 개선하고, 확정된 뒤에야 개발에 착수한다.

PO는 프로덕트를 기획하거나 개발 방향을 결정할 때, 어떤 고객이 왜 해당 프로덕트를 고용할지 철저하게 고민해야 한다. 설문 조사나 이미 지나간 과거의 데이터를 보고 시장의 수요를 추측하는 것은 PO에게 적절한 방식이 아니다. 당장 직면한 현재의 고객이 어떤 제품을 고용하고 있는지, 그리고 왜 그걸 선택하는지에 대한 관점으로 분석하도록 해야 한다.

고객은 언제나 해결해야 할 일들에 둘러싸여 있고, 그것을 해결해줄 제품과 서비스를 고용할 준비가 되어 있다. PO는 고객이 흔쾌히 고용할 프로덕트를 만들고 꾸준히 개선해야 한다.

서비스는 하나라도 서비스 유형은 다양하다

실제 고객 경험을 토대로 고객 분류를 한 다음, 그들이 어떤 일을 해결하기 위해 서비스를 고용하는지 생각해보면 경험을 보다 수월하게 개선할 수 있다. (...) 본질적으로 고객이 각각 어떤 의도를 가졌는지 파악해서 분류해야 서비스 개선 방향성을 잡을 수 있다.

PO가 범하기 쉬운 실수 중 하나는 프로덕트를 만드는 사람의 관점에서 고객을 바라보는 것이다. 그렇게 하면 무의식적으로 PO 자신이 만들고 싶어 하는 방향으로 데이터를 해석하고 결정해버릴 수 있다. PO는 절대로 자신의 직관이나 바람에 의한 결정을 내려서는 안 된다. 고객을 분류하는 방식을 완벽하게 터득할 때까지, 자신이 책임지는 프로덕트를 수도 없이 많이 사용해보는 것이 좋다.

PO라면 동일한 프로덕트를 고용하는 고객이 다양하다는 점을 명심하길 바란다. 그리고 그 다양성 속에서 동일한 의도를 찾아 고객을 분류하도록 하자. 각각 프로덕트를 고용하는 이유를 파악한 후, 그것에 맞춰 프로덕트를 개선해야 한다. PO가 고객 분류만 잘해도 절반은 성공적으로 완수했다고 본다. 모든 고객에 대한 이해가 이뤄져야 분류 자체를 온전히 할 수 있기 때문이다. 그 이후는 프로덕트를 어떻게 잘 개선해야 하는지에만 집중하면 된다.

모든 사람을 만족시킬 수는 없다

PO는 언제나 우선순위를 정해야 한다. 어떨 때는 명백하게 무엇을 해야 할지 눈에 보일 때도 있지만, 때에 따라서는 일부 고객의 요청을 잠시 보류해야 할 수도 있다. 그때마다 늘 한정된 자원을 어떻게 활용해야 가장 효과적일지 고민하도록 한다. 얼마만큼의 공수를 투입하여 얼마만큼의 임팩트를 낼 수 있는지 논리적으로 따져보고 최적의 결정을 내리는 책임을 지녔기 때문이다.

식스 페이저로 모두의 동의를 얻어 기록하라

내가 식스 페이저 문서를 작성할 때, 고객 분류와 더불어 공을 제일 많이 들이는 것이 바로 원칙이다. '가이드 원칙 Guiding Principle'이라고 부르는 이 부분에는 주로 4~6개의 원칙을 목록화한다. 해당 프로덕트를 개발하거나 운영할 때 꼭 지켜야하는 법 같은 것이다. 1번이 가장 중요한 원칙이고, 내려갈수록 부수적인 것들로 채운다.

이 원칙은 허투루 작성해서는 안 된다. 너무 길어서도 안 되며, 명확한 단어들로 구성한다. 동료, 상사, 경영진 등의 검토를 거치면서 보완하는 절차를 거쳐야 한다. 그리고 최종적으로 모두가 동의하는 원칙이 정해졌을 때, 개발에 착수한다. 만약 오늘 내가 담당하던 프로덕트가 다른 PO에게 넘어가더라도, 그 PO가 이 원칙을 그대로 따를 경우 문제 없이 개발이 이어질 정도로 정확해야 한다. 그만큼 단어와 뉘앙스 하나하나 완벽하게 잡기 위해 신경 써야 한다.

PO라면 자신이 책임지고 있는 프로덕트에 대한 원칙을 반드시 정하길 바란다. 단, 새롭게 맡은 프로덕트라든지 신규로 론칭하는 경우라면 시간을 투자해서 최대한 많은 부분에 대해 고민한 후에 원칙을 정해야 한다. 꼼꼼하게 검토하지 않고 원칙을 정해버리면 나중에 방향성을 바꿔야 할 수도 있기 때문이다. 그리고 원칙은 매 분기별로 점검하는 것을 추천한다. 고객과 사업이 요구하는 것들을 종합하여 원칙을 재정비하면 명확한 방향성을 잡을 수 있기 때문이다. 물론, 무조건 분기별로 고칠 필요는 없지만, 검토는 반드시 하도록 한다. 원칙이 잘 유지되면, PO와 협업하는 모든 이들이 프로덕트를 이해하기 수월해진다.

고객의 요청과 회사가 정한 목표가 충돌한다면

현실적으로 회사는 주어진 자원을 효율적으로 활용하여 궁극적으로는 이익을 추구해야 한다. 그래서 수많은 회사들이 매출과 수익을 목표를 설정하거나 장기적인 성장 전략을 수립한다. 회사가 생존하지 못하면 고객에게 최상의 경험을 제공할 수 없기 때문에, PO도 늘 회사의 상태와 목표를 잘 인지하고 있어야 한다.

때에 따라서는 PO의 입장에서 꼭 추진하고 싶은 프로덕트가 생길 수 있다. 그런데 회사의 복표에 당장 부합하지 않는 경우에는 설득을 통해 회사의 마음을 돌리는 방법이 있다. 이때, PO는 단순히 그 프로덕트가 고객에게 어떤 가치를 제공할지에 대해 논의하는 선에서 벗어나 비용, 회사에 끼치는 영향 등을 두루 설명해야 한다. 사업적인 관점에서 논리를 정리하도록 한다. 왜 그런 투자를 해야 하는지 잡득시켜야 하기 때문이다.

하지만 논의 끝에 회사에서 반대할 경우, PO는 바로 수긍해야 한다. PO는 회사의 성장 전략과 비용 관리 등을 하는 역할이 아니기 때문이다. 전문가의 판단하에 특정 프로덕트에 대한 투자를 단핼할 수 없다고 결정되면, PO는 그 방법을 제외하도록 한다. 어디까지나 PO는 주어진 자원을 활용해서 프로덕트를 개선해야 하는 책임이 있기 때문이다.

고객에게 더 나은 가치를 제공하기 위해 집착하는 PO이지만, 회사가 정한 방향성과 목표를 절대로 잊어서는 안 된다. PO가 사업적인 관점을 유지하고, 경영진의 시각을 이해하고 있어야 우선순위를 결정할 때 참조할 수 있다. PO는 단순히 프로덕트를 만드는 사람이 아니라, 고객과 회사 모두가 필요로 하는, 제대로 된 프로덕트를 책임지는 사람이라는 점을 명심하자, 고객에게 계속 최상의 경험을 제공하여면, 회사가 건강한 상태여야 한다. 그래서 PO가 회사의 목표에 부합하지 않은 결정을 내리면, 그 여파는 상당히 크다. 고객의 목소리에 귀 기울이는 것만큼 회사가 정한 목표와 의견에도 집중하도록 하자.

* 페르소나와 고객을 혼동하지 마라

고객이 누구인지 파악할 때는, 데이터와 사용 패턴 등을 감안하여 최대한 포괄적으로 접근해야 한다.

• 이프로덕트를 사용하는 사람은 누구인가?

• 개개인이 아닌 법인이나 단체가 이 프로덕트를 사용하는 경우도 있나?
• 사용자는 어떤 가치를 얻으려고 하는가?
• 프로덕트가 그 가치를 직접적으로 제공해줄 수 있나?
• 성공적으로 제공했다는 사실을 데이터로 증명 가능한가?
• 동일한 가치를 추구하는 사용자 집단을 묶을 수 있나?

프로덕트를 사용해서 어떤 가치를 얻으려고 하는지 이해한다면, 역으로 그 가치를 각각 추구하는 사용자들을 하나씩 그룹화할 수 있다. 더 이상 통합할 수 없는 단계까지 도달하면, 그게 PO가 고려해야 하는 고객의 목록이 된다.

10. 좋은 서비스는 막힘이 없다

<우버에서 잃어버린 휴대폰>

• 우버 뒷 좌석에 떨어진 핸드폰

• 파트너의 휴대폰(우버 회사에 전화)
• 사라의 서브 핸드폰(이중인증)
• 애플의 '내 휴대폰 찾기'
• 우버 기사 집에서 핸드폰 발견!

우버는 휴대폰 배터리가 다 닳거나 잃어리면 사용할 수 없는 서비스인데, 해당 부분에 대해서는 대비 되지 않았다.

어떤 서비스라도 실패를 겪을 수 있다. 하지만 '막다른 길'은 다르다. 사용자가 무엇에 접근이나 사용이 불가하거나 앞으로 더 나아갈수 없을 때 발생한다. (p.146)

하지만 사용자가 처한 특정 상황을 설명하지 못해서 서비스가 실패하는 경우도 있다. (p.147)

우리가 말하는 '행복의 경로'에서 벗어나 막다른 길에 다다르게 된다. 행복의 경로는 보통 상상 속의 '이상적인' 사용자를 마음에 두고 디자인하기 때문에 거의 존재하지 않는 사람들을 대상으로 디자인하는 경우가 많다.

Q. 본인이 기획한 서비스는 어떤 행복의 경로를 가지고 있나요?

사람들은 서비스를 사용하는 시점에 서로 다른 역량과 생활 환경, 정보에 대한 접근을 갖고 있으며, 이는 누구든 소위 '행복의 경로'에서 벗어날 수 있음을 의미한다.

사용자가 막다른 길에 다다르는 이유 4가지

1. 사용자가 서비스의 사용조건을 충족하지 못한다.

• 사용자에세 당신의 서비스가 적합하지 않다고 해도 이 막다른 길을 되도록 원활하게 처리하고 적절하게 지원할 수 있는 방안을 제공한다. --> 그 서비스도 사용자의 여정의 일부 일 수 있다.

Q. 막다른 길을 타파한 경험이 있나요?

• 그룹의 요구사항을 이해하지 못했다는 이유만으로 상업성이 떨어진다거나 공정하지 않다는 이유를 들어 서비스에서 제외되는 경우가 있다. --> 사용자가 왜 서비스를 이용하려는지에 관한 정보를 먼저 모으는 것이 좋다. 일부지역 사람들에겐 맞지 않아도 충분한 수요가 있다면 서비스 자체를 바꿀 수 있다.

Q. 그룹의 요구사항을 이해하지 못했다는 이유만으로 서비스에서 제외되는 경우에는 어떤 것이 있을까요?

2. 사용자가 보통의 방식에서 벗어나 있다.

• 서서히 막다른 실에 부딪히는 경우가 있다. 서비스를 디자인할 때 복잡한 요소를 균등하게 분배해서 보통의 방식에 벗어나더라도 (사용자가) 놀라지 않도록 한다.

3. 사용자가 무언가를 할 능력이 부족하다.

• 사용자가 할 수 있는 것과 없는 것을 고려하여 누구든지 접근할 수 있는 경로를 만드는 것이 중요하다. 서비스 내 장벽을 찾아내는 것은 사용자 조사를 통해야 할 일이지만, 일반적인 장벽에는 긴 숫자를 기억하는 능력이나 이동능력, 접근권한이 없는 디지털 서비스를 사용할 수 있는 능력 등이 있다.

• 서비스를 디자인할 때는 사용자가 가지고 있을 것으로 보이는 다양한 능력에 관해 고민해야 한다. 이를 모두 나열하고 서비스 전반에 걸쳐 테스트한다. 영향이 가장 큰 부분을 파악하여 가능한 최소화하고, 그 어느 것도 사비스를 진행하기 위해 반드시 수행해야 하는 '결정적인' 요건이 되지 않도록 한다.

4. 사용자가 무언가에 접근할 수 없다.

• 사용자가 할 수 있는 일을 가정하는 것처럼 첫번째 할 일은 사용자가 서비스 여정 중 언제든 접근할 수 있다고 가정하는 모든 항목을 확인하고, 만약 접근하지 못한다면 어떤 일이 발생하는지 분석하는 것이다. --> 사용자가 필요한 것에 접근할 수 없는 경우를 대비한 다른 방법을 생각해두어야 한다.

• 사용자의 접근이 용이하다고 생각하는 것에는 전화번호, 메일주소, 신분증, 주소 증빙서류 등이 있는데, 그 이상으로 사용자의 접근을 단정짓는 것은 인터넷이다.

10.25 KT 통신장애 이슈 : 회사회선과 통신사가 KT라서 업무가 마비되고, 카톡을 읽을 수 없었다.

• 우리가 인터넷을 서비스 사용의 수단으로 도입했을 때, 인터넷이 전화통신에서는 기대하지 않았던 반식으로 다른 모든 채널을 포함할 것이라고 가정했다. 즉, 사용자 식별 등의 서비스 주요 기능 일부가 인터넷에만 의존할 것이라고 생각한 것이다.

• 하지만 서비스에 새로운 기술이 더해졌을 때, 이전 기술이 사라지는 경우는 거의 없다. 복수의 채널이 동시에 사용된다는 것은 새로운 기술을 점진적으로 도입해야 한다는 것을 의미했다. --> 즉, 사용자가 1가지 기술을 사용하여 서비스에 접근하지 못하는 경우에는 바로 그 전에 있던 기술에 의지하여 최종 목표를 달성할 수 있다. 허나 이는 달리 말하면 서비스의 점진적 퇴보를 받아들이는 것과 같다.

서비스의 막다른 길을 줄이기 위해서 참고할 수 있는 6가지 방법

1. 서비스 사용 조건을 충족하지 못하는 사람들에게 지속적으로 다른 경로를 제공한다.
2. 서비스의 복잡한 요소를 균등하게 분배한다.

Q. 어떤 요소를 어떻게 분배하라는 것인지 이해가 되지 않아 질문드립니다! 여러분은 어떻게 이해하셨나요?

3. 서비스가 포용적인지 확인 한다. --> 사용자가 할수 있다고 추정하는 내용을 이해하고, 이를 실행할 수 없더라도 목표 달성을 하게 한다.
4. 사용자에게 요구하는 '조건'의 수를 최소화한다.
5. 행동 유도성을 구축한다. --> 할 수 없는 상황에 놓인 사용자를 위한 대안을 마련한다.
6. 서비스가 적절한 방식으로 물러나게 한다. --> 새로운 기술은 점진적 향상이고 서비스가 실패하면 이전 기술에 의존하게 한다.

11. 좋은 서비스는 모든 사람이 동등하게 사용할 수 있다.

린다 이야기

• 우리는 사용가능한 서비스를 생각할 때, 보통 신체적 또는 인지적 장애가 있는 사람만을 고려한다. 특정 그룹의 사람들의 수가 일반적으로 '장애'로 부르는 범위에 포함된 사람의 수보다 훨씬 많기에 특정 그룹 사람들은 서비스에서 제외되기 쉽다.

• 서비스를 막힘없이 사용하는 것은 누구에게나 어떤 이유로든 어려울 수 있다. 서비스 접근 능력에 영향을 받는 것은 전화기를 못 쓰거나 자폐를 앓거나 회사 업무 중이거나 모두 갗다.

• 린다를 비롯해 수백만 명의 사람들이 비습한 상활레 처하게 된 이유는 모든 사람이 영원히 아주 좋은 시력과 청력을 유지하고, 유연한 근무 시간에, 돈도 많고, 정신 건강도 좋을 뿐만 아니라 초능력을 가진 세상을 전제로 서비스를 디자인하기 때문이다. --> 서비스를 즐길 수 있는 '정상적인' 사람의 범주를 좁게 규정하면 누구든지 일시적으로라도 그 범주를 갑자기 벗어날 수 있다는 의미이다.

• 우리가 '보통'이라고 정의하는 것은 사실 그 정의를 만들어낸 사람이 가진 편견의 영향을 많이 받는다. --> 그 보통의 범위에는 없는 사용자는 서비스를 사용할 수 없거나 불편함을 느낀다.

• 빈번하게 발생하는 조직 내 단일 문화주의가 만든 암묵적 편견은 우리가 존재하는지조차 알지 못할 정도로 서비스의 가장 깊은 곳까지 침투할 수 있다.

  인공지능의 편향성 백인과 흑인이 같이 있을 때 카메라 광량 조절 문제

• 이러한 배제는 차별에서 시작된다.

Q. 본인의 서비스에서 일어날 수 있는 차별에는 무엇이 있다고 생각하시나요?

• 우리가 접근성을 넘어 '보통의 사용자'와 '도움이 필요한 사용자' 사이에 기준을 만드는 편견에서 벗어나 모든 것을 '포용'하는 관점에서 생각해야 하는 이유가 바로 이것이다.

이 모든 걸 관통하는 서비스를 만드는 경로를 선택하는 방법

1. 조직 내에서 대표성이 부족하여 다른 사용자보다 차별받기 쉬운 집단이 있으며 그들만의 특징이 있다는 사실을 인식하는 것이다. --> 사용자 조사

• 서비스 접근을 어렵게 하는 장벽의 공통적인 유형은 많은 사람들의 다양한 특성과 관련이 있다. 이 모든 특성은 우리가 서비스와 상호작용하는 방식을 변화시킨다. --> 우리는 모든 삶의 어느 순간에는 일종의 도전을 경험하게 된다.

Q. 여러분이 서비스를 이용하면 겪은 도전이 있나요?

• 특정 사용자가 서비스에서 제외될 가능성이 높은 이유 (1) 그들이 할수 있는 것 : 단기/장기적 문재를 안고 있는 사람들의 사정 파악. (2) 그들은 누구인가 : 서비스에 반영되는 자신의 특성을 그들이 직접 확인할 수 있도록 하고, 언제든지 바꿀 수 있도록 유연하게 대처하는 것이다. (p.166) (3) 그들이 가진 것 : 사용자가 마음대로 쓸 수 있는 것.

2. 왜 진작 그렇게 되지 않았는지 이해하고 그 원인을 따져 보는 것이다.

• 서비스가 필요한 사람이 많다고 생각하는데도 왜 포용적인 서비스가 되기 어렵냐하면 기술적 한계, 예산부족 등의 이유로 사용자가 진정으로 원하는 서비스를 만드는 것이 우선순위에서 밀려나기 때문이다.

• 서비스를 포용적으로 만들기 어려운 이유 중 하나는 그것이 소수의 사용자를 위해 개선해야 하는 일이라고 생각하기 때문이다. 사실은 모두에게 유용한 일인데 말이다.

(1) 사용자의 요구가 한 곳으로 모여드는 경향이 있다. --> 집단이 힘을 모으면 사용자를 대표할 수 있다. 소수의 사용자만 생각하지 말고, 소수 사용자 '집단'을 생각하자. 이들을 무시하는 건 다수의 사용자가 서비스를 사용할 수 없다는 의미이다.

(2) 가장 극단적인 요구를 하는 사용자를 대상으로 서비스를 테스트하여 표주넉인 요구를 가진 사용자에게 이것이 기능하는 확인할 수 있다. --> 20 퍼센트의 아웃라이어에 시간을 할애해서 가장 어려운 환경에 있는 사람이 (다른 이들에겐) 쉬운 서비스를 통해 어떻게 경로를 만들어 내는지 이해하도록 한다.

• 사용자가 서비스를 사용하는 것이 가능한가? 안전하고 환영받는 느낌이 들도록 하는가? 잠재적인 사용자와 동등한 느낌을 받으며 서비스를 사용할 수 있는가?

블라자드의 "Do you guys not have phones?" 마비노기 영웅전의 "신규 유저의 유입이 없으면 고인물처럼 된다."

• 포용을 통해 모든 사람이 똑같은 방식으로 무언가를 하게 만드느 것은 아니다. --> 브라유 점자와 보스턴 선문자 : 다른 사람의 문제를 먼저 이해하지 않고 자신이 가장 잘 안다고 예측해서는 안된다.

서비스를 공평하게 만들려면?

1. 안전한 서비스인지 확인
2. 인지할수 있는 서비스인지 확인
3. 이해할 수 있는 서비스인지 확인
4. 사용할 수 있는 서비스인지 확인
5. 견고한 서비스인지 확인
6. 평등한 서비스인지 확인

• 포용은 처음부터 고려한다. 블루베리 머핀의 블루베리처럼!

• 조직 내 다양성 결여 = 서비스 내 포용성 결여

Q. 본인이 생각했을 때 같이 일하는 팀의 구성은 다양하다고 생각하나요?

12. 좋은 서비스는 사용자와 직원이 올바른 행동을 하도록 장려한다.

지역 보건의 예약과 토니 블레어 총리의 답변

• 이는 서비스 품질을 과시하기 위해 설정된 목표가 얼마나 쉽게 잘못된 행동을 불러일으키는지를 완벽히 보여준다. 설령 그것이 원하는 목적을 이루기 위한 일일지라도 말이다. 이는 조직 내 가장 근본적인 목표에 해당한다.

• 문제는 그 목표가 모든 사람들이 달성하고자 하는 결과를 방해하는 방식으로 전달되고 설정되었다는 점이다.

Q. 서비스 기획자의 입장에서 목표 달성에만 치중해서 실패한 사례에는 어떤 것이 있을까요? Q. 혹은 사용자의 입장에서 서비스가 목표달성에만 치중해서 불편했던 적이 있으신가요?

• 임원들은 목표를 설정하여 목적을 달성하는 데에만 치중하고 서비스를 제공하는 사람들이 목적을 이해하면 더욱 효과적이라는 점은 완전히 잊는다.

• 더욱 문제인 것인 이러한 목표가 일정 기간 지속되면 애초에 설정했던 목표는 잊은 채 이루고자 하는 목표의 주변으로 일정의 신기루만 만들어낸가는 사실이다.

• 가장 중요한 것은 무엇을 달성하려는지 파악하는 것이다. 또한 어떤 행동을 장려하는 것인지 이해해야 한다. 목표가 무엇인지 아는 것과 동시에 이를 기억해 장려하는 것이 중요하다.

• '올바른' 행동이란 좋은 서비스가 되도록 장려하는 행동을 말한다.

• 목표가 무엇인지 아는 것만으로는 성공을 장담할수 없다. 좋은 의도를 가지고 시작한다 하더라고 서비스이 기능이나 자금 조달 방법, 직원을 장려하는 방법 등의 세밀한 것들이 서비스 제공자와 사용자 모두의 목표 달성에 영향을 미친다.

• 올바른 행동이란 무엇인가? --> 서비스에 '올바른' 행동이란 전적으로 무엇을 달성하는지에 달려있다.

• 꼭 기억해야 하는 것은 서비스를 재정적으로 지속가능하게 하고, 사용자와 그들이 사는 세상에 긍정적인 영향을 미칠 수 있는 행동이 서로 떼어낼 수 없게 연결되어 있다는 사실이다. 사용자와 서비스 제공자, 그리고 서비스 조직 전체의 행동은 서비스의 목적을 달성하고자 하는 모두가 이익을 얻을 수 있도록 디자인된 하나의 생태계와 같다.

서비스 구축 시 고려해야 할 '올바른 행동' 4가지

1. 사용자에게 이익이 되는 행동 = 위험을 제거하고 목표달성을 도움.
2. 직원에게 이익이 되는 행동 = 보상
3. 조직이 지속 가능하도록 돕는 행동
4. 사회에 유익하거나 적어도 해를 끼지 않는 행동

• 균형성과표(로버트 캐플란, 데이비드 노튼) : 개별목표가 기업의 전반적인 성공에 더해져 현재 KPI의 기틀이 되었다.

• 실무자, 조직 전체가 동일한 방향을 보고 있어도 목표를 설정하는 것은 올바른 행동을 장려하기엔 어려운 방법일 수 있다. 여기서 누락된 연결고리가 사용자이다. 놓치는 부분이 없는지 살펴보는 것이 중요하다는 말이다.

• 기업의 책임과 부당 수익에 관한 입장과는 상관없이 자원이 제한되어 있거나 사용자를 위험에 빠뜨리는 서비스를 생산하는 일은 더이상 재정적으로 지속이 불가하다.

• 조직이 직접해야 할 행동을 사용자에게 강요하는 일은 흔하게 일어난다. 직원이 사용자에게 좋은 서비스를 제공하기 위해 싸워야 하는 만큼이나 사용자가 조직의 부정적인 행동에 맞서 싸워야 하는 일이 있어서는 안된다.

• 해결과제(앤서니 W. 울위크) 방법론 : 사용자가 달성하려는 것에 초점을 맞춘 목표를 사용하기 시작했다. 이 방법은 조직인 사용자를 위한 성과응 달성하고 있는지 여부에 따라 평가 기준을 구성하도록 한다. --> 다만 이는 조직의 전체적인 구조와 그들이 사는 세상을 바꾸진 못하고, 더 나은 결과를 위해 함께 일하도록 장려할 수 있는 여러 방법 중 1개일 뿐이다.

사용자, 직원, 조직의 행동에 영향을 미칠 수 있는 주요요소

1. 인센티브/KPI

• 사용자에게 부정적인 영향을 미칠 수 있는 것. --> 사용자의 이익에 반하는 방식으로 일하는 직원에게 인센티브를 제공하는 것.

2. 비즈니스 모델 : 조직이 재정적으로 동기를 부여받는 방식은 해당 조지기 누구를 고객으로 여기는지, 어떤 종류의 서비스를 제공하는지에 큰 영향을 미친다. 투자자가 있는 사업에서는 투자자가 고객이다.

• 사용자에게 부정적인 영향을 미칠 수 있는 것. --> 대체 불가능한 자원의 사용을 조장하는 비즈니스 모델. --> 직접적인 고객이 아닌 다른 곳으로부터 자금을 지원받는 비즈니스 모델.

3. 상호 작용과 휴리스틱 : 서비스의 구조, 또는 당신이 서비스와 상호 작용하는 방식은 사용자에게 해로운 영향을 주지 않는 방식으로 필요한 성과를 달성하는 능력에 큰 영향을 미칠 수 있다.

• 사용자에게 부정적인 영향을 미칠 수 있는 것. --> 사용자가 신뢰하지 않는 다른 조직과 함께 위험한 일을 하도록 유도, 또는 사용자에게 해가 될 수 있는 위험한 관행을 가르치는 것. --> 사용자에게 정보 제공 동의를 강요하거나 웹 트래킹을 수락하게 만드는 것. --> 사용자의 지속 가능성이나 주변에 해가 되는 방식으로 행동하게 함으로써 이익을 제공하는 것.

• 우리(조직)은 변화할 필요없고, 사용자가 변해야 한다? X

• 다크 패턴 : 사용자를 속이기 위해 설계된 웹디자인, 조직이 제공하기로한 것과 사용자가 마주하는 것을 전형 다르게 만들었다.

• 대의를 위해 사용자의 행동을 조작해도 된다고 믿는 것은 매우 위험하다.

• 더 나은 결과를 만들어내는 것은 성실함이다.

• 서비스의 의도를 명확히 함과 동시에 사용자와 직원, 조직이 책임감 있게 행동하도록 장려하는 서비스를 구축하는 것이다. 이를 위해서 KPI, 재정모델, 디자인 결정까지 우리가 사용할수 있는 각각의 '장려' 요소를 이해하고, 서로 정렬되어 있어야 기능한다는 사실을 이해하는 것이 중요하다.

목표 결과 달성을 위해 사용자, 직원에게 올바른 행동을 장려하는 방법

1. 달성하고자하는 것이 무엇인지 명심한다.
2. 사용자, 직원, 조직에 각각 기대하는 행동 가이에 균형을 맞추긴 위해 주의한다.
3. 달성하려는 결과가 비즈니스 모델과 조직의 목표에서부터 사용자가 서비스와 상호작용하는 방식에 이르기까지 조직의 구석구석 스며들었는지 확인한다.

지금 기획하고 제작 중인 서비스가 있는데, 그 서비스를 내가 잘 만들고 있는 것인지 아닌지 평가해볼 수 있더라구요.

제가 봤을 때 지금 제작 중인 서비스는 형편없으나, 풀잎스쿨을 통해 배운 방법으로 빨리 개선해 나가고 싶어요.

좋은 기획자, 제품 매니저가 되고 싶다면!

법칙 1 : 찾기 쉽다

좋은 서비스는 동사이고, 나쁜 서비스는 명사이다. 명사는 전문가를 위해, 동사는 모두를 위해.

서비스를 검색할 때 사용자가 찾는 것은 조직에서 서비스라 부르는 것과 사용자가 해야할 것 사이의 스펙트럼 어딘가에 있다. (p.53)

서비스를 찾을 때는 서비스 명칭이 가장 중요하다. 사용자가 하고자 하는 바가 명칭에 반영되어야 한다. 사용자가 이해할 수 있는 용어를 사용해야 한다.

법칙 2 : 목적을 분명하게 설명한다

사전 지식이 없는 사용자도 서비스가 자신을 위해 무엇을 하고 어떻게 기능할지 이해할 수 있어야 한다.

서비스의 목적을 알지 못하면 서비스가 필요하지 않은 사용자들도 이를 이용하게 된다.

서비스의 목적 = 서비스의 역할, 이유, 방식, 사용자

• 서비스의 역할은 설명하되 마케팅의 일환으로 약속은 피해야 한다.
• 누구를 위한 서비스인지 알려야 한다. 대상자가 아니면 서비스가 곧바로 중단될 수 있음을 알려야 한다.

법칙 3 : 사용자의 기대치를 설정한다

사용자에게 요구되는 것과 그 보답으로 서비스 제공자에게 기대할 수 있는 것을 명확히 설명해야 한다.

서비스에 관한 사용자의 기대치가 무엇인지 이해하고, 보편적 기대치/추정적 기대치/예외적 기대치 중 사용자의 기대치는 어느 것인지 파악하고, 기대치를 최대한 많이 충족시키도록하여 어렵하면 사용자에게 그 이유를 설명해야 한다.

법칙 4 : 사용자가 원하는 결과를 얻을 수 있도록 한다

하지만 서비스의 작은 부분만으로 사용자가 가진 문제의 일부를 해결하려고 하면 결국 달성하고자 하는 목표는 이루지 못하는 경우가 많다는 사실 또한 보여준다. (p.77)

우리의 서비스가 겉으로는 저렴해보이더라도 누군가 다른 곳에서 그 비용을 대신 지불할 수도 있다는 뜻이다. (p.78)

사일로(silo) 현상 조직의 부서가 다른 부서와 담을 쌓고 내부의 이익만을 추구하는 것.

모든 것을 제공하지 않더라고 서비스는 서비스이다.

당신의 서비스가 사용자의 목표달성에 필요한 도움을 주고 있는지 확인하기 위해서는 다음 내용부터 시작해보자.

1. 사용자가 이루고자 하는 목표를 이해한다.

2. 서비스의 각 부분을 누가 담당하는지, 당신의 조직과 어떻게 연관되어 있는지를 제대로 이해한다.

3. 서비스의 모든 것을 제공하는 조직의 능력을 살펴본더. 여의치 않다면, 사용자가 서비스를 시작하는 순간부터 마치는 순간까지 끊임없는 여정에 당신의 서비스가 차지하는 합리적인 영역을 정의한다.

4. 서비스이 어느 부분을 먼저 제공하는 것이 합당한지 고민한다. 사용자의 목표를 위한 끊임없는 여정을 돕기로 결정했다고 모든 서비스를 한 번에 제공해야 하는 것은 아니다. 작은 부분부터 시작패 점차적으로 구축하거나 개선한다.

5. 서비스를 제공하는 조직 간에 데이터가 어떻게 공유되는지 살펴본다. 사용자가 서비스를 더욱 쉽게 이용하도록 공유할 수 있는 것이 있는가? 조직이 더 나은 서비스를 제공하기 위해 필요한 것이 있지는 않은가?

법칙 5 : 친숙한 방식으로 기능한다

이런 변화를 흔히 '혁신'이라고 부르지만, 이 회사들은 단순히 시장을 혁신할 뿐아니라 사용자의 기대치도 설정한다.

개방하라. 그러면 개선될 것이다.

2주 전부터 풀잎스쿨 강의에 참여하고 있는데, 내용이 좋아서 기억에 남는 부분을 기록으로 남겨두려고 해요 ㅎㅎ

좋은 기획자, 제품 매니저가 되고 싶다면!

<참고도서> 좋은 서비스 디자인 : 끌리는 디지털 경험을 만드는 15가지 법칙 (루 다운 지음, 윤효원 옮김)

서문

현실에서는 거의 없다. 사용자는 자신이 사용하는 서비스를 누가 디자인했는지 관심이 없다. 서비스가 좋은지에만 관심 있다는 뜻이다.

서비스란 무엇인가?

서비스 전체를 직접 제공하지 않더라도 모든 서비스 단계를 최대한 원활한 여정이 되도록 조율하는 것이 당신의 임무이다. (p.27)

사요자만이 서비스가 무엇인지 결정할 수 있다. (p.29)

무엇이 좋은 서비스를 만드는가?

좋은 서비스의 15가지 법칙

서비스를 제공하는 조직에 이로운 것. 수익성이 있는 동시에 운영이 쉽다.

사회전체에 이로운 것. 우리가 살고 있는 세상을 파괴하거나 사회 전체에 부정적인 영향을 미치지 않는다.

다 쓰긴 기억도 안나고 힘드니 간단히 요약하겠습니다.

5월

5월에는 해커톤을 본격적으로 시작했습니다. 정말 될 줄 몰랐는데, 채택된 기획서여서 애를 많이 먹었습니다. 왜냐하면 저도 자신이 없었기 때문이지요. 그래서 기획서에도 '하드웨어까지 완성하지 못할 수 있음.'을 적어뒀었습니다.

근데 웃긴 건 마지막에는 소프트웨어는 엉성하게 됐는데, 하드웨어는 어느정도 먼저 완성을 해버렸습니다;; 처음 만져보는 라즈베리 파이였는데, 내 코드가 현실에서 실체화되는 게 정말 재밌더군요. 저는 손으로 직접 만들고, 결과물이 눈에 보이는 게 결국 맞는 길인가 봅니다.

6월

해커톤을 하면서 지치기도 하고, 사람들과 갈등도 있고, 집에 우환이 들기도 했습니다. 그래도 시간이 지나면 괜찮아지고, 그 힘든 일이라는 것들도 모두 지나가더군요. 역시 "이또한 지나가리라."라는 말이 맞네요.

22일을 마지막으로 AIFFEL을 끝냈습니다. 저는 지금 같이 공부했던 분과 같이 일을 하고 있습니다. 4년 동안 인도만 공부했다가 6개월 인공지능 공부한 것으로 취업하니 참 신기합니다.

7월

본격적으로 계약서를 쓰고 회사에 나와 일을 하고 있습니다. 아직 어리버리하고 내가 하는 일이 맞나 싶습니다. 책도 읽어보고 하는데, 아직은 잘 모르겠습니다. 맞게 간다고 생각하고 우선 열심히 해보렵니다. 그래도 회사에 늦게 있는게 재밌어서, 그게 참 좋은 것 같습니다.

아침에 일어나서 가기 싫다는 생각이 들지 않는 회사를 저는 최고로 꼽습니다. 물론 힘들 수는 있지만, 지나고서는 추억으로 얘기할 수 있는 그런 회사요. 아직까지는 여긴 그런 회사인 것 같습니다.

매일 새로운 걸 공부하고, 기획하고, 쓰고 하니 발전하는 것 같습니다. 의외로 제가 그동안 헛살아온 것은 아닌 것 같습니다. 회사원으로써 한 사람 몫은 하는 것 같아보이니까요!

그동안 방치해두었던 이 블로그와 본진 네이버 블로그를 더 열심히 써보겠다고 다짐해봅니다. 그럼 20000~!

오늘은 소켓 통신에 대해 정리하고 스크랩하겠습니다. 공부하려고 적는 글이며, 실제 실행은 수요일쯤에나 가능하지 않을까합니다. 얼른 해보고 싶네요.

TCP/IP

• 인터넷 상에서 데이터를 교환할 때 쓰이는 프로토콜.
• TCP는 Transmission Control Protocol로, 소켓 포트 단위의 송수신 프로토콜.
• IP는 Internet Protocol로, 컴퓨터마다 주어지는 IP 주소 단위의 송수신 프로토콜.

Port

• IP로 해당 PC에 접근했을 때, PC 내부에서 어느 프로그램고 통신을 해야하는지 구분할 때 사용하는 것.
• 통신을 위한 출입구로써 각 프로그램들은 자신만의 포트를 부여함으로 각가 통신을 할때 구분이 가능하게 함.
• 포트 번호는 0 ~ 65535까지 쓸 수 있고, 0 ~ 1023까지는 시스템에서 사용하는 포트임으로 사용하면 안됨.
  --> 즉, 1024 ~ 65535 사이의 숫자를 사용하면 됨.

소켓

• 인터넷 연결용 포트.
• 각 프로그램에 포트를 세팅해 놓으면 알아서 통신되는 것이 아니라 이 소켓으로부터 데이터를 주고 받는 것임.
• 컴퓨터 네트워킹에서 인터넷 소켓, 네트워크 소켓은 Endpoint를 의미.

소켓 통신

<서버(server)>

1. 우선 socket() 함수를 이용해 소켓을 생성한다.
2. 그리고 bind() 함수로 ip와 port 번호를 설정한다.
3. listen() 함수로 클라이언트의 접근 요청에 수신 대기열을 만들어 몇 개의 클라이언트를 대시 시킬지 결정한다.
4. accept() 하ㅏㅁ수를 사용하여 클라이언트와의 연결을 기다린다.

<클라이언트(client)>

1. socket() 함수로 가장 먼저 소켓을 연다.
2. connect() 함수를 이용해서 통신할 서버의 설정된 ip와 port 번호에 통신을 시도한다.
3. 통신을 시도할 때, 서버가 accept() 함수를 이용하여 클라이언트의 socket descriptor를 반환한다.
4. 이를 통해 클라이언트와 서버가 서로 read(), write()를 하며 통신한다.
5. 이 과정이 반복된다.

아래는 "soket" 패키지를 설치해서 통신하는 방법입니다.

• PC와 라즈베리 파이 통신

이만 점심시간이니 가봐야겠네요. 짧게나마 소켓 통신에 대해 알아봤습니다. 수요일에 시도해봤을 때 꼭 성공하길...!

그래프란?

• G = (V(vertex), E(edge))

• 자료구조가 해야하는 것은 연산.
• 연산을 위해서는 입력, 삭제, 검색이 있어야 함.
• 그래프에서 원하는 것을 찾을 때, 모든 곳을 다 체크하는 것을 "순회(traversal)"라고 함.
• 그 방법으로 BFS, DFS가 있음.

BFS

• 한숨에 갈 수 있는 거리를 우선으로 순회하는 것.
• 시작점부터 근접한 것 순서대로 한 층위씩 가는 것.

DFS

• 깊이 가는 것을 우선해서 순회하는 것.
• 갈 수 있는 곳까지 끝까지 가서 원점으로 돌아오는 것.

최단 거리 알고리즘

• 문제를 다음과 같이 정의함.
• def. I "G"는 간선의 가중치가 주어짐. --> 거리 개념, 크기 개념을 준다.
• 그래서 보통 2개의 지점(출발지(source), 목적지(destination))가 주어짐.
• 최단 거리에도 종류가 있음. 출발지나 도착지의 쌍이 여러개일 수 있음.

  하나의 출발지, 하나의 도착지 여러 개의 출발지, 하나의 도착지 하나의 출발지, 여러 개의 도착지 여러 개의 출발지, 여러 개의 도착지

• 환원 개념: 출발지, 도착지가 여러 개일 때 가중치가 0인 거리를 가진 하나의 점으로 모아서 그 집합과 구해야 하는 것의 거리를 구하는 방법.

3가지 알고리즘

1. 다익스트아: single sourse - multiple destination

• 아이디어는 그리디 방법.

2. 벨만코드: single sourse - multiple destination
3. 플로이드워셜: multiple sourse - multiple destination

오늘이 알고리즘 수업의 마지막이었습니다. 피곤해서 조는 바람에 많이 못들었는데, 갑자기 마지막 강의라고 하셔서 잠이 달아나버렸어요. 지효님 고생하셨습니다. 그리고 감사합니다. 덕분에 많은 것을 처음 알 수 있었고 앞으로 잘 나아갈 수 있었어요. 이 시대의 참 선생님이십니다!

사랑해요 지효님!

AI 주권

네이버 AI랩 | 하정우 연구소장

네이버 클로바 | 성낙호 비즈 AI 책임리더

어제 오후 2시에 강연이 있어서 노드를 하던 도중에 달려가서 들었습니다. 현재 한국의 AI 시장 정세와 트렌드에 대한 강연이었죠. 내용이 좋아 잊어버리기 전에 적어봅니다. (내용 요약 도와주신 이동형님 감사드립니다!)

요즘 메인 트렌드는 pretrain, fine-tuning, zero-shot, few-shot이다. 모델이 문제라기보다는 data가 문제였는데, unsupervised 학습의 트렌드가 되면서 해결되는 중이다.

그리고 gpt-3같은 빅 스케일 모델이 대두되고 있으며, finetuning도 없이 1시간 이내로 최소 80% 수준의 성능을 내는 모델들이 나오고 있다.

finetuning 에서는 잘 정리된 데이터가 필요했는데, gpt-3는 finetuning이 필요없어졌다. 그래도 기존 모델보다 더 좋은 성능을 낸다.

현재는 코딩도 필요없는 no-code AI로 가는 중이다.

한국어는 세계적으로 볼 때 비중이 작고 데이터가 작다. 0.6% 라고 볼 수 있는데 사이즈로 보면 엑사바이트 정도이다. 학습 시 테라바이트 수준이면 되기 때문에, 비율은 적을지언정 한국어 데이터의 절대적인 양이 결코 적다고 할 수 없다.

인터넷 상에서는 한국어 비율 0.6% 이지만, gpt-3에서는 0.015% 만 쓰였다. 외국에서 만들 때, 영어를 위해 한국어 비율을 강제로 눌러놓은 것이다.

글로벌 회사들이 한국어를 배제한다면, 한국이라는 국가가 제품을 만들어달라고 하기 어렵다. 그래사 AI 주권 개념 나오게 되었다.

빅 스케일 흐름을 타고있는 AI시장을 따라잡으려면 워낙 투자규모가 커야해서, 기술종속성 문제를 해결하기 위해 투자가 필요하다. 한국어 gpt-3도 네이버가 가장 먼저 했다.

AI가 산업에 어떤 도움이 되는가?

네이버는 플래폼 회사이다. 네이버만으로는 글로벌 회사들과 경쟁하기 쉽지 않다. 투자/기술공유 형태로 함께 생태계 만들어가야 한다. 방법은 API 공개 등 다양한 방법이 있을 것이다.

네이버에서 잘 만들어놓은 플랫폼을 이용하게 되는데, 사용자 입장에서의 고민이 있을 수 있다. 바로 기술종속성 문제이다. 네이버에서 제공하는 기술에 끌려다니게 되는 것은 아닐까하는 걱정이다.

AI를 사용해야 하는 방법은 3가지가 있을 것이다.

1. 직접 제작하는 내재화
2. 네이버와 같은 국내 플랫폼 이용
3. 구글 등 외국 플랫폼 이용

네이버는 국내법 적용하기 때문에 안전장치 측면에서도 국내기업인 네이버가 낫다.

AI Transformation 준비가 잘 안된 기업들이 많아 보인다. 성공적 Transformation을 위한 방법은?

1. 최고의사결정권자의 의지가 실제 실무자까지 내려가는 과정이 중요하다.

--> 그러기 위해선 노력, 꾸준한 커뮤니케이션, 공감, 이 방향이 맞다는 꾸준한 설득 등이 필요하다. 사람은 기본적으로 잘 변하지 않는다. '변하려면 어떤 동기가 있어야 하는가?'는 높은 사람들이 생각해야 할 몫이다.

2. 변화는 작게 시작하자. small start하다보면 성공이 쌓이고 점점 신뢰가 쌓이게 된다.

3. AI는 objective function을 최적화하는 문제이다. 그리고 현실 문제들은 목적 함수 형태로 도메인을 기술할 수 있어야 해결할 수 있다.

--> 내가 하는 일을 구조적 설계할 수 있어야한다. 안 되면 겉 돌게 된다. 정량적 사고 체계, 데이터 팀이 붙어도 융화가 되야한다. 그래서 필요한 사람이 도메인 전문가이면서 AI식으로 사고할 수 있는 사람이다.

모델은 거의 Transformer로 수렴되는 중이다.

모델 설계자의 특별한 가정이 적은 편이다. 이미지 인식을 볼 땐, Convolution에서 local 정보를 어떻게 취합하는지가 중요하고, RNN에서는 시계열에 대한 이해 필요하다.

그런데 Transformer에서는 구조 자체가 알아서 해준다. 데이터가 많을수록 재미를 본다.

결국 모델이 Transformer로 수렴되면서, 데이터의 양으로 성능의 승부를 보는 것이다. 그리고 지도학습에서 un/self-supervised로 가다보니 성능이 높아지기도 했다.

이제 필요한 것은 언어학습보다는 지식학습니다.

인공지능을 지금 4개월째 공부하면서 AI 찍먹 중인 나에게도 기술의 발전이 너무 빠르다는 게 느껴지는데, 아예 접하지 않았던 사람들에게는 얼마나 빠를지 감도 오지 않습니다.

이제는 빅 스케일 AI가 대세라서 데이터를 때려 박아서 성능의 승부를 본다고 한다. 정말 기업 만큼의 인프라가 없다면 앞으로 뛰어난 AI를 보긴 힘들겠구나...

네이버가 NLP AI계에서는 최전선에 있는 것 같아보였다. 들어가고 싶네...

2021.03.02 ~ 2021.03.05(1주차)

의료영상 진단 프로젝트가 있던 주였다. 의료영상 데이터는 imbalance가 심해서 기준이었던 정확도 80%를 찍기 너무나 힘들었다. 입력 크기가 문제일 수도 있다는 말을 듣고 바꾸려고 했지만 바꾸는 방법이 마땅히 생각나지 않아 그냥 운에 맡겼다. 몇 차례 시도 끝에 정말 운수 좋게 84% 정도를 찍을 수 있었다. 근데 제출 전에 이걸 잘못해서 삭제하는 바람에 망연자실하기도 했다. 그래도 이걸 rm로 지우지 않고 주피터 노트북에서 삭제 버튼으로 지운 것이라 휴지통에서 다시 찾아내 간신히 제출을 마무리할 수 있었다. 정말 다행이었다.

다음 주에 알바를 하지 않겠냐는 형규님의 전화를 받았다. 돈 벌 궁리는 항상 하고 있던지라 나는 단숨에 오케이했고, 다음주 월요일부터 나가기로 했다.

2021.03.08 ~ 2021.03.12(2주차)

주말에 대전으로 다시 돌아와서 월요일에 세종으로 향했다. 형규님과 같이 일하시는 범진님의 차를 얻어타고 갈 수 있었다. 옆 동네 사시는 분이었다. 이제 갓 20살이 되었다고 하는 드론 레이싱에 대해서 빠삭하시고 즐기는 것이 눈에 보였다. 나는 20살때 뭘했나하는 생각이 들었다. 수능 끝나고 나는 미드만 주구장창 봤던 것 같은디...

처음가보는 세종은 참 '신도시'스러웠다. 전에 일할 때 사람들이 종종 세종 한 번 가보는 것을 추천했었는데 그 이유를 이제 알게된 것 같다.

일주일 동안 수업을 들으면서 알바를 하니 굉장히 생산성있는 삶을 산 것 같아 뿌듯했다. 인형 눈 붙이기 알바라고 해서 갔지만 인형의 눈은 재봉되어있었고 실상 우리가 할 일은 AI 스피커를 조립하고, 인형 안에 넣고, 테스트하는 작업이었다. 초반이라 IO 보드 불량이 있기도 했고, 작업도구도 다 수동 공구 뿐이라 힘이 더 들기는 했다.

원래 사무실 분들만 있던 것은 아니었다. 3D 프린터를 배우러 오신 다른 기업체 개발자 분도 계셨다. 일주일 동안만 함께하는 것이었더. 그분은 3D 프린터를 배우시면서 동시에 인형 작업에 참여하셨다. 참 사람이 좋은 분이라 좋은 인연을 알게 되어 좋았다.

2021.03.15 ~ 2021.03.19(3주차)

원래는 집안 행사가 겹쳐있는 주라 집에 가려고 했는데, 인형 작업이 많이 남았고 나도 더 하고 싶어서 집에 가지 않았다. 이 주도 매일 출근해서 공부하고 작업했다. 일요일에도 잠깐 나가서 작업했다.

첫 오프라인 공지를 받았다. 설렘과 동시에 인형 작업 때문에 마음이 걸렸다. 난 비록 알바일 뿐이었지만 어쨌든 내가 힘써서 하고 있던 일에 제동이 걸린 것이라 안타까운 마음이 들 수 밖에 없었다. 그래도 오프라인되면 얼마나 재밌을까 동시에 생각했다. 두근두근. 그래서 공부도 별로 안된 것 같다. 사람들 만난다는데 당연한 일 아닌가?

2021.03.22 ~ 2021.03.26(4주차)

첫 오프라인! 나는 A동 3층에서 수업을 들었다. 게더로 얼굴만 보다가 실제로 만나니 연예인을 만난 것 마냥 신기하고 재밌었다. 얘기하는 것들고 재밌었다. 생각과 다른 생김새인 분들도 많았고 '이분이 그분이었구나'하는 약간의 깨닫는 시간도 되었다. 공부는 더 뒷전이 된 것 같다.

한가지 단점은 밥을 챙기는 것이 어려웠다는 것이다. 집에서는 그냥 먹거나 말거나 늦게 먹거나 하면 되는데 나가서는 시간도 지켜야하는데 심지어 주변에 식당도 없었다. 첫날은 편의점을 갔고 두번째는 식단 파악하고 진흥원에서 밥을 먹었다. 이후에는 나가서 계속 사먹은 것 같다.

사람들이 Exploration을 하면 온라인 때는 막 모르는 거 물어보고 그랬는데, 오프라인이 되니까 되려 묻지 않는 것 같다. 저마다 자리에 앉아서 그냥 묵묵히 하고 있었다. 나는 막 사람들이 토의하고 그럴 줄 알았는데... 대신 풀입 스쿨은 내 기대에 부합했다. 물론 나는 공부를 덜 해서 엄청 적극적인 참여는 힘들었지만 그래도 이해의 심도가 달라지는 건 느껴졌다. 훨씬 깊게 이해할 수 있었다.

이 주에는 내 동생이 집에 놀러왔다. 근데 내가 가장 바쁠 때 와서 얼굴은 많이 보지 못했다. 오프라인이 되니 수업이 끝나고 세종에 가면 돌아올 때는 늦은 밤이었기 때문이다. 하루는 물량 맞추느라 작업이 3시에 끝나서 늦게 들어갔는데 그래도 누나 기다린다고 불도 켜놓고 있어서 감동이었다. 그래서 나중에 치킨도 사주고 보쌈도 사주고 했다.

3월 26일은 1학기에서 2학기로 넘어가는 1일 방학이었다. 하지만 난 출근했다. 일은 많이 안했던 것 같다.

2021.03.29 ~ 2021.04.02(5주차)

해커톤 2가 시작되었다. 연구 프로젝트 계획서를 써야 했다. 나는 자소서 써주는 프로그램을 생각하고 있었는데 데이터 구하기도 어렵고 사회적으로 도움이 되지 않을 것이란 피드백에 바로 바꿨다. 말하는 화분으로 말이다. 인형 작업을 한 것이 많은 영향을 주었다. 근데 머릿 속에 이미지만 있고 구체적인 것은 없으니 쓰는 것이 막막해서 한참을 미뤄두었다.

29일에 동생은 갔고 30일에 아이펠에 밀접접촉자가 나왔다는 말에 2시인가 3시에 바로 짐을 싸서 퇴실했다. 정천벽력! 형규님 차를 얻어타고 신탄진에 있는 보건소에 검사를 문의했는데 돈을 내도 받아주지 않아서 그냥 집에서 기다렸다. 어쩌면 잘된 일인지도 모른다. 오늘 선물받은 버터가 집에 도착했기 때문이다. 늦게 왔으면 다 녹을 뻔 했다. 다행히도 밀접접촉자 분은 음성이었다.

그래서 31일에 세종으로 출근했다. 마침 형규님 생일이라 작게나마 축하해드렸다.

4월 1일에도 출근했는데 오후에 우리반에 확진자가 나왔다는 말을 듣고 바로 퇴근했다. 나도 단순접촉자로 분류되어 4월 3일에 월드컵 경기장으로 검사를 받으러 갔다. 나는 예약이 된 줄 알고 10시 반에서 11시 반까지 오라는 말에 갔는데, 예약이 되지 않아 기껏 간 길을 돌아 집으로 향했다. 3시 55분에 다시 예약을 잡고 또 택시를 타고 갔다. 택시비로 5만원을 태워 마음이 아팠다. 비도 오고 택시 아저씨가 검사소 근처에서 내리면 싫어할까봐 일부로 검사소와 먼 곳에서 내렸다. 그것 밖에 안했는데 정말 피곤했다.

이 주는 코로나 소동에 정신이 없었다. 해커톤 주라 참 다행이라고 생각했다. 계획서 제출 기한도 일요일까지로 늘어나서 어찌저찌 잘 마무리할 수 있었다.

화요일에 첫 작당모의 스터디가 있었다. 그리고 아이효 스터디가 토요일에서 월요일 밤 10시로 바뀌었다.

2021.04.05 ~ 2021.04.09(6주차)

다시 오프라인의 시작이다. 나는 세종 사무실에 나가서 공부하게 되었다. 이번에는 인표님과 선옥님, 민규님도 함께했다. 인표님은 창업 준비로 바쁘시고, 나와 민규님, 선옥님은 따로 라즈베리 파이를 배우게 되었다.

3D 프린터로 노트북 거치대를 뽑았다. 다 같이 모여서 도안을 짰다. 물론 그림은 형규님이 그리셨다. 맞춤이라 아주 좋았아서 노트북 거치대 판매글을 노션에 올려봤다. 뭔가 마케팅 활동을 하는 느낌이었다. 사무실에서도 글에 대한 반응이 좋았다.

2021.04.12 ~ 2021.04.14(7주 진행중)

토요일에 딱 한잔만 스터디에 나갔다. 인도음식과 일본식 파이를 파는 곳을 방문했다. 괜히 인도 음식점 간다고 여러가지 준비해간 것이 무색하게 별로 나에게 질문이 오지 않았다. 다행이었다. 이날 노트북 거치대에 대한 피드백을 받았다. 아이펠의 특성과 판매글이 맞지 않는 것 같아 글을 내렸다.

다음 날 세종에서도 약속이 있어 나갔다. 판매 글에 대한 의견들을 논의하고 동시에 세종 사무실에서 나의 역할에 대해 이야기해보는 시간이있었다. 인형 알바는 끝났으니 모여서 공부하는 것은 좋은데 3명의 스케쥴을 맞추는 것이 쉬운 일은 아니었기 때문이다.

우리는 5월부터 같이 공부하기로 계획을 바꿨다. 각자 공부하는 시간이 중요하다는 의견을 냈기 때문이다. 나는 일을 같이 하기 위해서라면 약간의 희생은 필요하다고 생각하는 사람이었는데, 사실 사무실을 다녀오는 것만으로도 기운이 빠져 공부를 소홀히 하긴 했다. 그래서 이번에 바꾼 계획으로 더 공부시간을 더 보강해야겠다.

• 입력 --> 알고리즘 --> 출력.
• 알고리즘은 길인데, 어떻게 입력에서 출력으로 길을 찾을까?

유명한 알고리즘 설계법

1. 완전탐색(naive, brute force): 모든 경우의 수를 다 해보는 방법. (Ex. 자물쇠 비밀번호 찾기.)

2. 분할정복(Divide & conquer): 나누고, 정복하고, 합치는 방법.

   ``` 문제에 입력과 출력을 정의해줄 때 문제 파악이 어렵다면, 문제를 작은 조각으로 나눠보고(Ex. merge sort), 그 작아진 문제를 정복(solve)하고, 푼 문제들을 합쳐서(combine) 원래 문제를 해결한다.

--> O(n log n)으로 일반적인 O(n^2)보다 빠름. ```

3. DP(Dynamic Programming): 문제가 어려우면 우선 세부적으로 나누는 것이 주 아이디어. 분할정복과의 차이점은 memorization(저장해두고 나중에 참조)을 함. ..--> 중복된 문제를 풀지 않게 도와줌.

   Ex. 피보나치 수열에서의 문제

   • 이전의 두개의 항의 합이 다음 항.
   • 종료조건 필수(아니면 메모리 터짐;;)
   • 시간복잡도는 O(2^n): 계속되는 서브 트리 반복 = 같은 계산 반복. ..--> 이 문제 방지를 위해 DP.
   • DP 방법을 사용하면 O(n)이 됨.

4. Greedy method(탐욕법):

• 최적화 문제(가장 좋은 답을 찾는 것.)
• 현재 상태에서 가장 좋은 것을 고르면 끝.

  Ex. 동전 문제

  • 거스름돈을 줄 때, 가장 적은 동전의 개수는 어떤 것인가?
  • 현재 상태에서 가장 큰 것만 선택하고 이전의 것들은 생각하지 않음.
  • 단, 체계에 따라 답이 달라질 수 있음.
  • '현재 최적해가 최종 최적해'라는 가정이 들어가고 반드시 이를 증명해야 함.

• 반복(iteration)과 재귀(self)는 호환됨. 다만 재귀 코드짜기가 쉬움. 성능은 반복이 더 좋음.
• 반복은 상향식 방식, 재귀는 하향식 방식.

오늘부터는 알고리즘에 대하여 설명.

• 알고리즘 = 방법론
• 자료구조를 먼저 공부한 이유는 문제를 해결할 방법을 찾을 때, 문제의 요소(데이터, 조건 등)을 바탕으로 연산을 해서 결과물을 만들어 내기위해선 자유롭게 꺼내 쓸 수 있도록 관리를 먼저 할 수 있게 하기 위함임.

알고리즘 입력 --> 함수(알고리즘) --> 출력

알고리즘의 정의(5가지 속성)

1. 입력
2. 출력
3. 유한성(언젠가 끝나야 함을 보장. 원하는 곳에 도달할 것.)
4. 효율성(가장 효율적인 것을 선택.)
5. 타당성(목표지점까지 도달할 수 있는지 증명이 되어야 함. 정확한 동작에 대한 증명.)

분석

• 어떤 알고리즘이 좋을지? ..--> 더 빠른 시간, 더 적은 메모리 추구, 코드길이, 실제 작동시간 등을 고려해볼 수 있음.

1. 점근적 분석: approximate, 대략적인 복잡도을 분석하는 방법. ..--> 대략적인 복잡도(얼마나 공간을 사용하는가?)를 근사하는 함수를 찾아내는 것. ....--> Ex. 빅오 어노테이션(상한), 오메가 어노테이션(하한), 상한과 하한이 일치 시에는 세타
2. 분할 상환 분석: 실제로 연산을 했을 때 총 비용을 보고 분석하는 것.
3. 실험 분석: 프로그램을 짜고 test를 해서 그게 실제 얼마만큼의 시간을 소요하는지 보는 것. ..--> 실제 수행할 시간이 주어지는가?

수행시간을 기준으로 시간복잡도 구하기

• 프리미티브 오퍼레이션 카운트: CPU의 연산(더하기, 비트, 논리, 무브 등등)

첫번째 알고리즘: 정렬

• 버블, 퀵, 선택 등등...
• 정렬은 기준에 따라 순서대로 나열하는 것.
• 정렬이 되어 있다. = 정리가 되어 있다. = 찾기가 쉬워진다.
• O(n^2): 버블, 선택, 삽입 등등...
• O(n logn): 퀵, 힙, 머지 등등...
• 정렬 알고리즘 비교표

정렬 문제 정의

• 정렬을 한다는 자체는 data 사이즈가 n 일때, data끼리 비교가능하다고 함.
• 입력은 data, 출력은 정렬된 배열.
• 비교 정렬의 한계는 오메가(nlog) --> 이것보다 빠르게 정렬할 수 없음.
• data 최대 수의 크기(상한을 k로)를 바꾸면 (조건이 달라지면) O(n)에 문제를 해결할 수 있음. --> 문제 조건이 달라지면 문제가 달라지는 것.

tokenizer

encoding

Embedding

어떤 단어 → 단어에 부여된 고유한 정수값 → Embedding layer 통과 → Embedding vector/ dense vector

• 입력 단어들을 Embedding layer의 입력으로 사용하기 위해선 모두 정수로 인코딩되어야 함. --> 왜냐하면 특정 단어와 맵핑되는 정수를 인덱스로 가지고, 다양한 벡터들을 값으로 가지고 있는 테이블에서는 인코딩된 정수가 있어야 이를 인덱스로 하여 Embedding vector 값을 찾을 수 있기 때문임.
• 이 테이블은 일종의 lookup table(순람표, 주어진 연산에 대해 미리 계산된 결과들의 집합)으로, 단어 집합의 크기만큼의 행을 가지고 있음.
  --> 모든 단어는 고유한 임베딩 벡터를 가짐.
• 찾은 Embedding vector의 값은 모델에 입력되고, 역전파 과정에 단어의 Embedding vector값이 학습됨.

padding

tagging

lemmatization

subword

BPE

Stemming

개체명 인식

품사태깅

Stopword

BIO

CRF

resize

한국어에 대하여

• 이 주제를 선정한 이유는 stemming에 대한 기초지식을 알려주기 위함이다. 처음에는 Stemming을 주제로 선정하려고 했는데 그러면 한국어의 어간과 어미, 용언, 활용의 개념을 이해할 필요가 있다고 생각하여 적어보았다. 더하여 헷갈릴만한 언어와 문자에 대한 설명과 기본적인 한국어에 대한 설명도 첨가하였다. 한국어를 짧게 다룬 이유는 다른 언어와 한국어의 음운, 음성, 형태, 통사 구조 등의 차이를 설명하려면 5분은 택도 없기 때문에 언급만 하고 넘어갔다.

언어와 문자

• 언어(language): 생각, 느낌 따위를 나타내거나 전달하는 데에 쓰는 음성, 문자따위의 수단. 또는 그 음성이나 문자 따위의 사회 관습적인 체계. (네이버 국어사전)
• 문자(letter, character): 인간의 언어를 적는 데 사용하는 기호 체계. 한자 따위의 표의 문자와 로마자, 한글 따위의 표음 문자로 대별된다. (네이버 국어사전)

• 한글'은 문자 기호를 가리키는 것이며, '한국어'는 기호가 아닌 체계를 말하는 것.
• -> 한글은 쉬운 문자이지만 한국어는 어려운 언어일 수 있음.

• 기본적인 언어는 의사소통을 위해 육성으로 발화된 사회적 체계를 언어로 보며, 그것을 문자로 옮긴 것은 부차적인 언어로 간주.
• 문자 없이 구전되는 언어들도 존재(Ex. 러시아의 칸티어 등)하지만 보존이 힘듦. 또 고유의 문자없이 다른 나라나 문화권의 문자를 차용하여 사용하는 언어들이 굉장히 많음.(Ex. 베트남어 등)

한국어

• 한국 사람들이 모어로 사용하는 언어.

• 한국은 단일 언어 사회. (Ex. 인도처럼 다언어 사회도 존재.) --> 한국에서 태어난 사람들은 대게 한국어를 모어로 배우며 한국어로 의사소통을 하며 살아감.

  모어와 모국어

  • 모어는 자라면서 배운 언어로, 자신의 언어를 모어 화자로 사용할 수 있음을 의미.
  • 모국어는 국적을 기준으로 화자의 모국에서 공식적으로 사용하는 언어를 의미.
  • -> 모어와 모국어가 동일하지 않을 수 있음.

5언 9품사

• 한국어의 문장성분은 문장 내에서 해당 단어가 수행하는 기능을 기준으로 나누는데, 이때 체언, 수식언, 독립언, 관계언, 용언 등 5가지로 구분함.
• 품사는 단어를 기능, 형태, 의미에 따라 나눈 갈래를 말하며, 우리나라의 학교 문법에서는 명사, 대명사, 수사, 조사, 동사, 형용사, 관형사, 부사, 감탄사의 9가지로 분류함.

왜 학교 문법이란 말이 붙나요?

• 참고 링크: 한국어는 정말 9품사일까?

용언, 용언의 활용

• 용언은 문장에서 서술어의 기능을 하는 단어들로, 품사로는 '동사'와 '형용사'가 있음.
• 용언은 가변어로 다른 단어들과 달리 쓰임에 따라 모양이 변함.

동사와 형용사

• 동사는 사물의 움직이나 작용을 나타내는 용언.
• 형용사는 사물의 성질이나 상태를 나타내는 용언.

본 용언과 보조 용언

• 문장 내에서 쓰임에 따라 본 용언과 보조 용언으로 나눔.

• 본 용언은 주어를 서술하는 데 주된 의미를 지닌 용언으로, 보조 용언의 도움을 받음.

• 보조 용언은 본 용언 뒤에 붙어서 의미를 더해주는 용언으로 혼자 쓰일 수는 없음.

• 참고 링크: [국어] 13. 본용언과 보조용언 개념 정리, 띄어쓰기 정리

• 활용은 문장 안에서 각 용언이 담당하는 기능에 따라 형태가 변하는 것을 의미.

• 활용을 할때 용언에서 변하지 않는 부분을 어간(stem), 변하는 부분을 어미(Ending)라고 함.

어간과 어미

• 어간은 용언이 활용할 때 변하지 않는 부분으로, 찾는 방법은 사전에 실려있는 기본형에서 '-다'를 빼준 앞부분을 보면 됨. (Ex. '졸리다' --> '졸리-')
• 어미는 어간 뒤에 붙어서 변하는 부분으로, 여러 가지 문법적인 의미를 더해줌.

규칙 활용과 불규칙 활용

• 활용은 규칙 활용과 불규칙 활용으로 나뉨.
• 규칙 활용은 어간에 어미가 붙을 때 어간과 어미의 형태가 둘다 변하지 않거나 규칙적으로 변하는 것. (Ex. '가다'의 어간 '가-' + 어미 '-니' = '가니' )
• 불규칙 활용은 용언이 활용을 할 때 어간과 어미 또는 어간, 어미 둘 다 형태가 변하는 것. (불규칙 활용은 변환 형태가 많아 링크로 예시를 대체함. --> 용언)

어간 추출(stemming)

• stemming은 형태학적 분석을 단순화한 버전으로 정해진 규칙만 보고 단어의 어미를 자르는 어림직잡의 작업.
• -> 섬세한 작업이 아니기 때문에 어간 추출 후에 나오는 결과 단어는 사전에 존재하니 않는 단어일 수 있음.
• -> 한국어는 불규칙 활용이 많아 어간 추출이 어려울 수 있음.

출처

• E4. 영화리뷰 텍스트 감성분석하기
• LUT (Lookup Table) 룩업테이블, 2011.07.03, https://blog.naver.com/sapeyes/70112636840
• 순람표, 위키백과, 2020.12.04에 마지막 수정됨, https://ko.wikipedia.org/wiki/%EC%88%9C%EB%9E%8C%ED%91%9C
• PyTorch로 시작하는 딥 러닝 입문, https://wikidocs.net/64779
• 딥 러닝을 이용한 자연어 처리 입문, https://wikidocs.net/21707
• 네이버 국어사전, 언어, https://ko.dict.naver.com/#/entry/koko/0ae9a14ad6ef4513888d5f92fa263504
• 네이버 국어사전, 문자, https://ko.dict.naver.com/#/entry/koko/42af8d077699490c8edaf997af8dd140
• 한글과 한국어의 차이, 국립국어원, https://www.korean.go.kr/front/onlineQna/onlineQnaView.do?&mn_id=&qna_seq=143728&pageIndex=10
• 5언 9품사, 국립국어원, https://www.korean.go.kr/front/onlineQna/onlineQnaView.do?mn_id=216&qna_seq=136155
• 한국외국어대학교, 2018년 2학기 한국어의 이해, 김진후 교수님 강의 자료
• 한국어는 정말 9품사일까? - 권혁중 기자, 한글문화연대, https://www.urimal.org/2383
• 문법 용어들에 관해(1), 국립국어원, https://www.korean.go.kr/front/onlineQna/onlineQnaView.do?mn_id=216&qna_seq=18230
• 어근과 어간의 차이, 국립국어원, https://www.korean.go.kr/front/onlineQna/onlineQnaView.do?mn_id=&qna_seq=147778&pageIndex=18
• '[국어] 13. 본용언과 보조용언 개념 정리, 띄어쓰기 정리', 원쁠원, https://unomasuno.tistory.com/159
• 용언, 네이버 학생백과, https://terms.naver.com/entry.naver?docId=3403476&cid=47319&categoryId=47319
• '[국어] 14. 용언의 활용 정리하기!! - 용언 개념 정리, 규칙 활용, 불규칙 활용', 원쁠원, https://unomasuno.tistory.com/164

--> Word2Vec에 대해서 보긴 봤는데 어떻게 단어 간 유사도가 계산되는지에 대해서는 자세히 다루지 않았었다. 나는 그게 너무 궁금했기에 Embedding이라는 주제를 잡고 간단하게 살펴보게 되었다.

Word Embedding

텍스트 데이터를 숫자로 만들기

• 문자에 단순히 숫자를 부여하는 것으로도 텍스트를 숫자로 표현할 수 있지만, 텍스트가 내포하는 의미를 기호가 직접 내포하지는 않는다는 단점이 존재. --> 그래서 국어사전과 같이 단어와 단어의 의미를 나타내는 벡터와 짝짓는 방법을 생각하게 됨. --> 이를 'word embedding 기법'이라고 함. --> 정확히는 NLP 기법으로 단어의 특성을 저차원 벡터값으로 표현하는 것.

Word Embedding 방법

원 핫 인코딩

• 정답만 1로 표시하고 나머지는 0으로 표기하는 방법.

  • Ex. 남자와 여자를 표현하는 벡터를 만든다고 할 때 각각 [1,0] [0,1]로 만드는 방법.

  장점

• 직관적이라서 구현하기 쉬움.

  단점

• 표현할 단어가 많아지면 벡터 공간(길이)이 매우 커지게 되고, 실제 정답인 값은 1개 밖에 없어서 공간낭비가 심함. --> Sparse 표현법, 희소한 표현법.
• 해당 벡터는 단어가 어떤 단어인지는 알려주지만, 단어 간 연관성과 같은 특징을 여전히 나타내지는 못함.

분산 표현(Distributed Representation)

• 희소한 표현법의 대안으로 단어의 의미를 다차원 공간에 벡터화하는 방법.
• 기본적으로 분포 가설(distributional hypothesis)이라는 가정 하에 만들어진 표현 방법. -->가정: '비슷한 위치에서 등장하는 단어들은 비슷한 의미를 가진다.'

  • Ex. 단어 '강아지'는 '귀엽다', '예쁘다', '애교' 등의 단어가 함께 등장.
  • -> 분포 가설에 따라 해당 내용을 가진 텍스트를 벡터화한다면 저 단어들은 의미적으로 가까운 단어가 됨. --> 단어 간 유사도를 계산할 수 있음.

• 이를 위한 학습 방법으로는 Word2Vec가 유명함.

Word2Vec

• Word2Vec에는 CBOW와 Skip-Gram 두 가지 방식이 존재.

CBOW(Continuous Bag of Words)

• 어떤 단어를 문맥 안의 주변 단어들을 통해 예측하는 방법.
• Ex. '나는 오늘 _ 를 갔다.'라는 문장에서 '_'를 예측하는 것. --> 이때, '_'를 중심 단어(center word)라고 하고, 예측에 사용되는 단어들을 주변 단어(context word)라고 함. (참고자료: 딥 러닝을 이용한 자연어 처리 입문)

Skip-Gram

• 중심 단어를 가지고 특정 문맥 안의 주변 단어들을 예측하는 과정.(CBOW와 매커니즘 거의 동일)

출처

• Exploration 4. 영화리뷰 텍스트 감성분석하기
• Embedding 이란 무엇인가 이해하기, simpling, 2019.12.20, https://simpling.tistory.com/1
• 딥 러닝을 이용한 자연어 처리 입문, https://wikidocs.net/22660

1. 크롤링이란?

• 무수히 많은 컴퓨터에 분산 저장되어 있는 문서를 수집하여, 검색 대상의 색인으로 포함시키는 기술.(네이버 IT용어사전)
• 특히 웹에서 데이터를 긁어오는 '웹 크롤러'가 하는 작업을 '웹 크롤링/ 스파이더링'라고 한다.

• 멀티스레드를 이용해 웹과 HTTP 통신라고 Queue 형태의 자료구조를 이용해 아키텍처를 구현했다. 위 그림은 전문적인 크롤링 아키텍처이다.

2. 크롤링하는 법

• 인터넷을 통해 데이터를 주고 받을 때 프로토콜이라는 규약에 따라 데이터를 교환한다.
• 웹은 HTTP라는 프로토콜에 따라 데이터를 주고 받는다.
• 데이터는 웹상 어딘가에 있고, 사용자는 HTTP 프로토콜을 통해 데이터를 가져올 수 있다.
• 인터넷은 컴퓨터들 사이의 TCP/IP이라는 통신 프로토콜을 이용해 정보를 주고받는 컴퓨터 네트워크이며, 물리적으로는 해저케이블로 연결되어 있다.
• TCP/IP 기반으로 구동되는 많은 Application 프로토콜에 HTTP, HTTPS가 있다.
• 웹은 통신 규약으로 HTTP를 사용하는데, HTTP는 요청(Request)하고, 응답(Response)하는 서버/클라이언트 모델을 따른다.
• API는 다른 여러 애플리케이션 사이에 간편한 인터페이스를 제공한다.

방법 1

• 파이썬 크롤링 라이브러리 urllib의 기능은 '웹페이지 다운로드', '웹페이지 분석하기'가 있다.
• 자세한 내용은 F20-10번 노드를 참고해주시면 된다.

방법 2

• 파이썬 라이브러리 BeautifulSoup, Requests를 사용하는 방법도 있다.
• 자세한 내용은 F20-10번 노드를 참고해주시면 된다.

방법 3

• 웹앱을 테스트하는 웹 프레임워크인 셀레니움을 사용한다.
• webdriver의 API를 통해 브라우저를 제어하기 때문에 자바스크립트에 의해 동적으로 생성되는 사이트 데이터도 크롤링 할 수 있다.
• 자세한 내용은 F20-13번 노드를 참고해주시면 된다.

3. 요즘 크롤링에 대한 말들

웹 페이지 몇 개 긁는 건 '크롤러'가 아니다

• '웹 크롤러 좀 그만 만들어라'라는 글을 보면 API, BeautifulSoup4을 이용한 CSS 셀렉팅를 가지고 크롤링을 하는 것은 진정한 크롤링이 아니며, http request에 불과하다고 말하고 있다. --> API가 없어서 크롤링을 못한다면 알고리즘 수업부터 다시 듣길 바란다고 한다.

robots.txt 윤리

• 위 블로그에서 'robots.txt 윤리'에 대해서도 말하고 있다.
• 'robots.txt 파일은 크롤러가 사이트에 요청할수 있는 페이지, 파일과 요청할 수 없는 페이지, 파일을 검색엔진 크롤러에게 알려줄 수 있는 방법이다.
• 웹사이트 검색에서 로봇이 접근하는 것을 방지하는 규약으로 알려져 있으며, ‘robots.txt’라는 코드를 넣어 외부에서 데이터를 읽거나 접근하는 것을 막을 수 있다.
• 자세한 사항은 Google 검색 센터로 들어가면 알 수 있다.

크롤링, 잘못하면 법원간다

여기어때

• 여기어때의 심 전 대표 등은 2016년 야놀자 데이터에 1500만회 이상 접속해 제휴 숙박업소 목록, 입퇴실 시간, 할인금액 등 정보를 빼돌린 혐의로 기소됐다.
• 재판부는 심 전 대표 등이 야놀자 서버를 크롤링해 제휴 숙박업체 정보를 대량으로 수집하고 영업전략 파악·수집 등에 사용했다고 봤다.

스펙업애드

• 이 사건의 원고 에브리타임은 2011년부터 전국 400개 대학의 대학생들을 위한 시간표 작성 , 강의 평가 후기 등의 서비스를 제공했다. 피고 스펙업애드는 2017년 타임스프레드를 인수한 뒤, 에브리타임이 보유한 정보를 불법적으로 수집·이용해 자신들의 서비스에 활용했다.
  --> 스팩업애드가 에브리타임의 정보를 크롤링해 무단으로 사용한 것.

참고: AI Hub 안내서

• AI Hub인공지능 학습용 데이터 품질관리 가이드라인 및 데이터셋 구축안내서 개발 및 공개.
• 학습 데이터셋 구축안내서에서는 데이터 획득을 인공지능의 기계학습에 필요한 데이터를 현실 세계에서 직접 수집 또는 생성하거나, 이미 보유하고 있는 조직이나 시스템 등으로부터 법률적 제약이 없도록 ‘원시데이터’를 확보하는 활동이라고 적고 있다.
  --> 법에 저촉되면 데이터가 존재해도 사용할 수 없다.

4. 출처

• 크롤링, 네이버 IT용어사전, https://terms.naver.com/entry.nhn?docId=862349&cid=50376&categoryId=50376
• 웹 크롤러, 위키백과, 2020.12.06에 마지막 수정, https://ko.wikipedia.org/wiki/%EC%9B%B9_%ED%81%AC%EB%A1%A4%EB%9F%AC
• 아이펠 노드 펀더멘탈 20번
• '웹 크롤러' 좀 그만 만들어라, 모빈켈, 2020.05.01, https://velog.io/@mowinckel/%EC%9B%B9-%ED%81%AC%EB%A1%A4%EB%A7%81-I
• robots.txt 소개, Google 검색 센터, https://developers.google.com/search/docs/advanced/robots/intro?hl=ko
• 경쟁업체 앱 데이터베이스권 침해한 스펙업애드, 손해배상 판결, 디지털 데일리, 2020.09.28, http://m.ddaily.co.kr/m/m_article/?no=202412
• 심명섭 여기어때 전 대표, 집유 선고…경쟁사 정보 무단수집 혐의, IT 조선, 2020.02.12, http://it.chosun.com/site/data/html_dir/2020/02/12/2020021201229.html
• '야놀자 정보 복제 혐의'여기어때 전 대표, 2심서 무저ㅣ, 동아닷컴, 2021.01.13, https://developers.google.com/search/docs/advanced/robots/intro?hl=ko
• NIA, AI학습용 데이터 품질관리 가이드라인과 구축안내서 공개, 전자신문, 2021.03.05, https://www.etnews.com/20210305000030
• 인공지능 학습용 데이터 품질관리 가이드라인 및 데이터셋 구축안내서 개발 및 공개, AI Hub, 2021.03.04, http://aidatacs.aihub.or.kr/node/23533

피피티 자료

https://docs.google.com/presentation/d/1TBqqmDpgTK0oATMTenN_Uy34ltyfqwz5_dgvvRFGFtY/edit?usp=sharing

1. 컴퓨터의 역사

초기 계산 장치

주판

• 기원전 2000년 정도에 서남아시아 지역에서 사용되었으며, 그리스와 로마를 경유하여 명나라 이후에 중국으로 전래되어 개량되었음.

파스칼의 계산기

• Pascaline, 1642년 톱니바퀴를 이용해 덧셈, 뺄셈이 가능한 최초의 기계식 계산기.

라이프니츠의 계산기

• 1671년 파스칼의 계산기를 계량해 곱셈, 나눗셈도 가능하게 만든 계산기.

배비지의 차분기관, 해석기관(천공카드 계산 장치)

• J.H.뮐러가 1786년 최초의 차분 기관을 제안했으나 잊혀짐.
• 1822년 찰스 배비지가 차분기관을 다시 발명.
• 10진법 사용, 핸들을 돌려 동력을 얻음.
• 천공카드(일정한 패턴의 구멍을 뚫어 데이터를 기록하는 종이 카드)를 이용해 데이터를 기록할 수 있었음.
• 기존 기계식 계산기와는 달리 로그함수, 삼각함수 계산이 가능.
• 1837년 찰스 배비지가 해석기관을 처음으로 발표.
• 설계는 그가 죽은 해인 1871년까지 계속되지만 실제로 만들어지진 않음.

현대적인 의미의 컴퓨터

• 컴퓨터는 제2차 세계대전 직전과 대전 기간 중에 급격히 발전함.
• 전자회로가 기계식 연산 장치를 대신하고, 디지털 회로가 아날로그 회로를 대체하는 변화가 있었음.

(하도 급격한 발전이 있어서 문헌마다 자기 것이 최초라는데, 이 말이 사실인지 분간하기 어려운 것들도 있으므로 '이 시대에 이런 게 만들어졌구나~'하고 넘어가길 바람.)

Z 시리즈

• 콘라트 추제(Konrad Zuse)라는 공학자가 독일에서 독립적으로 진행한 연구의 결과물.

• Z 시리즈는 전쟁 중 공습들로 많이 파괴됨.

• 1936년부터 1938년까지 제작된 Z1은 22bit 부동소수점 연산을 수행할 수 있는 기계식 계산기으로, 천공카드를 이용한 프로그래밍을 제한적으로 지원함.

• 1939년 개발된 Z2는 기계식 릴레이(계전기) 컴퓨터로, 16bit 고정소수점 체계를 활용함.

• 릴레이(계전기): 전류가 흐르면 전기의 자기 작용의 의해 계전기에 있는 코일이 여자(자기화)되어 접점을 이동하는 장치

• 1941년 완성된 Z3는 전기 기계식 컴퓨터.
• 작동가능하며, 프로그래밍 가능한 세계최초의 완전 자동 디지털 컴퓨터.
• Z3는 추제가 죽고 1998년 완전 튜링 머신이었다는 것이 증명됨.

• Z4에 대한 연구는 독일의 경제 사정으로 인해 1949년까지 중단.
• 같은 해인 1949년 ETH 취리히에 Z4 1대를 판매하면서 세계 최초의 상업용 컴퓨터가 됨.

콜로서스

(사진은 콜로서스 마크 2)

• 1943년부터 1944년 사이에 영국의 암호 해독가들이 로렌츠 암호 해독을 위해 개발한 컴퓨터.
• 진공관을 사용해 계산을 수행.
• 세계 최초의 프로그래밍 가능한 전자 디지털 컴퓨터로 간주되나, 저장된 프로그램이 아닌 스위치와 플러그에 의해 프로그램이 작동됨.
• 콜로서스의 존재는 군사 기밀로 여겨져 1970년대 중반까지 비밀에 부쳐짐.
• 영화 '이미테이션 게임'에 나온 에니그마를 깨기 위한 장치는 콜로서스가 아닌 '봄브, The Bombe'.

Harvard MARK-I(하버드 마크원, 마크-원)

• 1944년 미국 수학자 에이컨과 IBM사에 의하여 완성된 세계최초의 전기 자동 계산기.
• 길이 15.3m/ 높이 2.4m/ 무게 31,500㎏이며, 약 80㎞의 전선과 300만 개 이상의 접속단자를 포함함.
• 릴레이 3,000개 및 4마력의 전동기가 사용되었으며, 천공카드로 제어되는 자동 순차적 제어방식(ASCC, Automatic Sequence Controlled Calculator)이 특징.
• 1초에 덧셈을 3번, 승산은 3초에 계산할 수 있었음.
• 하지만 기계적 제약때문에 연산처리 속도는 늦었음.

ENIAC(에니악, Electronic Numerical Integrator And Computer)

• 1946년 미국 펜실베이니아대학 존 에커트와 존 모클리가 개발한 다용도 디지털 컴퓨터. (미국 육군의 탄도 궤도의 수학적 도표를 계산하기 위해 만들어짐.)
• 18,000여 개의 진공관, 1,500개의 계전기를 사용한 무게가 30t이나 되는 거대한 기계였음.
• 150kw의 전력을 소비.
• 프로그램을 배선판에 일일이 배선하는 외부 프로그램 방식으로, 작업에 따라 배선판을 교체해야만 했음.
• 10진수 사용.

EDVAC(에드박, Electronic Discrete Variable Automatic Computer)

• 1946년(컴퓨터 설계 계약일 기준) 에니악을 만든 모클리와 에커트가 존 폰 노이만의 프로그램 내장방식을 적용해 만든 전자식 컴퓨터.

• 1945년 존 폰 노이만은 에드박 설계에 자문으로 참가하여, <First Draft of a Report on the EDVAC>을 요약/논의함.

• 1946년 6월 노이만은 에드박 계획을 종합해 <Preliminary Discussion of the Logical Design of an Electronic Computing Instrument; 전자계산기의 이론 설계 서론>을 발표함. 여기에는 에니악의 단점을 보완하기 위해 기억장치에 컴퓨터의 명령이나 데이터를 모두 기억시키는 프로그램 내장방식(stored programming)을 제안.

• 에니악과 다르게 최초로 2진수를 사용하여 연산 속도를 비약적으로 향상시킴.

• 오늘날의 '소프트웨어'라는 개념을 탄생시킴.

EDSAC(에드삭, Electronic Delay Storage Automatic Calculator)

• 1949년(첫 프로그램 동작 기준) 영국 케임브리지대학의 모리스 윌크스가 개발한 실용적 프로그램 내장 전자식 컴퓨터.
• 존 폰 노이만의 '전자계산기의 이론 설계 서론'에 서술된 프로그램 내장방식에서 영감을 받아 제작됨.
• 2진수 사용.

UNIVAC-I(유니박-I)

• 1951년 에니악을 만든 모클리와 에커트에 의해 미국에서 처음으로 만들어진 최초의 상업용 컴퓨터.
• 1951년 3월 31일에 최초로 미국의 조사 통계국에 설치됨.

2. 세상에 다시 없을 천재: 존 폰 노이만

• John von Neumann, 헝가리 출신 미국 수학자.
• 양자 역학, 함수 해석학, 집합론, 위상수학, 컴퓨터 과학, 수치해석, 경제학, 통계학 등 여러 분야에 걸쳐 다양한 업적을 남김.
• 1930년대에 미국으로 건너가 죽을 때까지 프린스턴 고등연구소 교수로 활동.
• 오스카 모르겐슈테른과 함께 <Theory of Games and Economic Behavior, 게임과 경제행동 이론>을 저술함.
• 제2차 세계대전 동안엔 오펜하이머, 에드워드 텔러 등과 함께 맨해튼 프로젝트에서 일함.
• 엄청난 천재였음.

3. 내장 프로그램 혁명: 폰 노이만 구조(Von Neumann Architecture)

• 1946년에 발표한 <Preliminary Discussion of the Logical Design of an Electronic Computing Instrument; 전자계산기의 이론 설계 서론>에서 제안한 프로그램 내장장식 컴퓨터 구조.

• 인간의 사고과정을 참고해서 구조를 설계함.

• 내장 메모리 순차처리 방식으로, 데이터 메모리와 프로그램 메모리가 구분되어 있지 않고 하나의 버스를 가지고 있는 구조.

• 폰 노이만 구조 내부

1. 주기억 장치 = 단일 메모리(데이터, 명령어)
2. 중앙 처리 장치 = CPU(명령어 레지스터, 클록, 계수기, 산술 연산기)
3. 입출력 장치

• 전자식 시스템에서는 처리 속도가 빠른데 반해 메모리에서 데이터를 읽는 일 등을 할 때는 기다려야 하므로 일의 처리 순서가 잘못될 수 있음. 그래서 컴퓨터 내부에 일정한 주기로 신호를 생성하는 클록을 넣고, 모든 일들이 클록 신호에 맞추어 동작하도록 했음.

• 또한 데이터 흐름 규칙을 정의해 메모리에서 읽은 명령어가 처리 중인 데이터와 섞이지 않도록 함.

장점: 소프트웨어의 시작

• 프로그램 내장식이기 때문에 이전처럼 전선을 뺐다가 꽂을 필요가 없으며 프로그램(소프트웨어)만 교체하면 되기 때문에 범용성이 크게 향상됨.

• 폰 노이만의 아이디어는 CPU, 메모리, 프로그램 구조를 갖는 범용 컴퓨터 구조를 확립시킴. --> 에드삭 이후의 컴퓨터는 대부분 폰 노이만 구조를 기본 구조로 하고 있음.

단점: 폰 노이만 병목 현상(Von-Neumann Bottleneck)

• 자료경로의 병목 현상, 기억장소의 지연 현상.
• 원인: 데이터 메모리와 프로그램 메모리가 구분되어 있지 않고 하나의 버스를 가지고 있기 때문에 CPU가 명령어와 데이터에 동시에 접근할 수 없음.

CPU가 읽고 처리한 데이터는 다시 메모리에 저장을 해야 함. --> CPU가 아무리 빨리 데이터를 처리하더라도 메모리의 속도가 느리거나 데이터 이동 속도가 느리면 전체 시스템의 성능 저하가 불가피. ==> 즉, 계산속도가 기억장치 속도에 영향을 받기 때문에 데이터 이동에 따라 필연적으로 병목현상이 발생하는 것!

• 순차적으로 한 번에 하나의 명령어만을 처리하기 때문에 CPU를 효율적으로 사용하지 못함.

4. 버스를 늘려라: 하버드 구조(Harvard Architecture)

• 메모리가 작아서 명령과 데이터를 따로 처리한 Harvard Mark I이라는 릴레이 컴퓨터로부터 나온 구조. (+ 버그 용어의 기원에 대한 재밌는 이야기(실화이긴 하나 최초는 아닐 수 있음 주의.))

• 하버드 구조는 명령용 버스와 데이터용 버스가 물리적으로 분리되어 있기 때문에, 명령을 메모리로부터 읽는 것과 데이터를 메모리로부터 읽는 것을 동시에 할 수 있음.

장점: 병목현상 완화 가능

• 명령의 처리를 끝내자마자 다음의 명령을 읽어들일 수 있기 때문에 보다 더 빠른 속도를 낼 수 있다는 것.

단점: 많은 전기회로 요구와 근본적인 원인 해결 X

• 하지만 이러한 처리 속도를 높이려면 보다 많은 전기 회로를 필요로 함.
• 병목현상을 완화시킬 수는 있지만 하버드 구조 또한 폰 노이만 구조를 기반으로 만들어진 것이기 때문에 근본적인 원인 해결은 되지 않음.

5. 수정된 하버드 구조(Modified Harvard Architecture)

• 하버드 구조와 폰 노이만 구조를 모두 도입한 구조. --> 하버드 구조를 캐시 메모리 장치에 적용하였고, 폰 노이만 구조를 CPU 외부 주 메모리에 적용.

• 하버드 구조에서 사용했던 통합 캐시 메모리 장치를 보통 명령용과 데이터용으로 분리.

• 하버드 구조는 캐시에 오류가 일어나면 주 메모리로부터 데이터를 가져오고, 명령 캐시나 데이터 캐시에 저장함.

• 요즘 성능 좋은 CPU 설계는 이 수정된 하버드 구조를 도입하고 있음.

6. 출처

• 컴퓨터의 역사에 대해서 알아보자, 2016.06.04,(https://ndb796.tistory.com/1)

• 컴퓨터의 역사, 2020.08.12에 마지막 수정, (https://ko.wikipedia.org/wiki/%EC%BB%B4%ED%93%A8%ED%84%B0%EC%9D%98_%EC%97%AD%EC%82%AC)
• 차분기관, 2018.11.02에 마지막 수정, (https://ko.wikipedia.org/wiki/%EC%B0%A8%EB%B6%84%EA%B8%B0%EA%B4%80)
• 차분기관, 전국과학관길라잡이 과학학습콘텐츠, (https://smart.science.go.kr/scienceSubject/computer/view.action?menuCd=DOM_000000101001007000&subject_sid=256)
• 해석기관, 2020.03.13에 마지막 수정, (https://ko.wikipedia.org/wiki/%ED%95%B4%EC%84%9D%EA%B8%B0%EA%B4%80)
• 콘라트 추제, 2021.02.04에 마지막 수정, (https://ko.wikipedia.org/wiki/%EC%BD%98%EB%9D%BC%ED%8A%B8_%EC%B6%94%EC%A0%9C)
• Z1(컴퓨터), 2020.09.26에 마지막 수정, (https://ko.wikipedia.org/wiki/Z1_(%EC%BB%B4%ED%93%A8%ED%84%B0))
• Z2(컴퓨터), 2020.06.07에 마지막 수정, (https://ko.wikipedia.org/wiki/Z2_(%EC%BB%B4%ED%93%A8%ED%84%B0))
• 전자계전기, 2021.01.14에 마지막 수정, (https://ko.wikipedia.org/wiki/%EC%A0%84%EC%9E%90%EA%B3%84%EC%A0%84%EA%B8%B0)
• Z3(컴퓨터), 2021.01.20에 마지막 수정, (https://ko.wikipedia.org/wiki/Z3_(%EC%BB%B4%ED%93%A8%ED%84%B0))
• Z4(computer), 2021.02.20에 마지막 수정, (https://en.wikipedia.org/wiki/Z4_(computer))
• 콜로서스, 2020.06.12, (https://ko.wikipedia.org/wiki/%EC%BD%9C%EB%A1%9C%EC%84%9C%EC%8A%A4_(%EC%BB%B4%ED%93%A8%ED%84%B0))
• MARK I, 전국과학관길라잡이 과학학습콘텐츠, (https://smart.science.go.kr/scienceSubject/computer/view.action?menuCd=DOM_000000101001007000&subject_sid=250)
• 하버드 마크 I, 2020.09.24에 마지막 수정, (https://ko.wikipedia.org/wiki/%ED%95%98%EB%B2%84%EB%93%9C_%EB%A7%88%ED%81%AC_I)
• 에드삭, 2020.06.12에 마지막 수정, (https://ko.wikipedia.org/wiki/%EC%97%90%EB%93%9C%EC%82%AD)
• EDSAC, 2021.02.01에 마지막 수정, (https://en.wikipedia.org/wiki/EDSAC)
• 에드박, 2020.09.24에 마지막 수정, (https://ko.wikipedia.org/wiki/%EC%97%90%EB%93%9C%EB%B0%95)
• 유니박 I, 2020.06.12에 마지막 수정, (https://ko.wikipedia.org/wiki/%EC%9C%A0%EB%8B%88%EB%B0%95_I)
• 'UNIVAC, the first commercially produced digital computer, is dedicated', 2010.07.20, (https://www.history.com/this-day-in-history/univac-computer-dedicated)
• EDVAC, 전국과학관길라잡이 과학학습콘텐츠, (https://smart.science.go.kr/scienceSubject/computer/view.action?menuCd=DOM_000000101001007000&subject_sid=245)
• Who Invented EDVAC?, (https://www.letusfindout.com/who-invented-edvac/)
• EDVAC, 2020.12.05에 마지막 수정, (https://en.wikipedia.org/wiki/EDVAC)
• von Neumann architecture, 2021.01.22, (https://en.wikipedia.org/wiki/Von_Neumann_architecture)
• 만화로 배우는 인공지능 '43. 역사상 최고의 천재, 존 폰 노이만', 2020.07.29, (https://post.naver.com/viewer/postView.nhn?volumeNo=28926572&memberNo=50533718)
• Britannica, Computer - ENIAC, (https://www.britannica.com/technology/computer/ENIAC#ref723664)
• 존 폰 노이만, 2021.02.04에 마지막 수정, (https://ko.wikipedia.org/wiki/%EC%A1%B4_%ED%8F%B0_%EB%85%B8%EC%9D%B4%EB%A7%8C)
• 실험심리학용어사전, 폰 노이만 구조, (https://terms.naver.com/entry.nhn?docId=274780&cid=41990&categoryId=41990)
• 폰 노이만 구조, 2021.01.12에 마지막 수정, (https://ko.wikipedia.org/wiki/%ED%8F%B0_%EB%85%B8%EC%9D%B4%EB%A7%8C_%EA%B5%AC%EC%A1%B0)
• Preliminary Discussion of the Logical Design of an Electronic Computing Instrument, John von Neumann, 1946.06.28, (https://www.ias.edu/sites/default/files/library/Prelim_Disc_Logical_Design.pdf)
• 폰 노이만과 새로운 컴퓨터의 탄생, 한빛네트워크, 2019.06.18, (https://www.hanbit.co.kr/channel/category/category_view.html?cms_code=CMS4316945379)
• [뉴메모리 시대의 암투]③ 폰 노이먼의 병목 현상을 해결하라...4차 산업혁명 개막에 뉴메모리 춘추전국 시대 열리나, chosun Biz, 2016.11.23, (https://biz.chosun.com/site/data/html_dir/2016/11/23/2016112300511.html)
• 폰노이만 구조와 하버드 구조, ckstn0777.log, 2020.10.08, (https://velog.io/@ckstn0777/%EC%BB%B4%ED%93%A8%ED%84%B0-%EA%B5%AC%EC%A1%B0)
• '버그'라는 용어의 기원, IT WORLD, 2011.09.06, (https://www.itworld.co.kr/news/71587)
• 하버드 아키텍처, 2020.09.21에 마지막 수정, (https://ko.wikipedia.org/wiki/%ED%95%98%EB%B2%84%EB%93%9C_%EC%95%84%ED%82%A4%ED%85%8D%EC%B2%98)
• Harvard Mark I, 2008.09.18에 마지막 수정, (https://web.math.pmf.unizg.hr/~nela/prteme/Mark_I_Harvard.htm)
• 폰 노이만 구조 vs 하버드 구조 vs 수정된 하버드 구조, 2017.03.30, (https://woodforest.tistory.com/164)
• 컴퓨터의 구조는 어떻게 생겼을까? 폰 노이만 구조, 과학기술정보통신부 네이버 블로그, 2020.05.28, (https://m.blog.naver.com/with_msip/221981730449)

2월도 거의 다 지나갔네요. 시간이 너무나 빠른 것 같아요. 벌써 한달일기를 쓸 때가 되었다니 시간이 그만 갔으면 좋겠네요.

1주차(2021.02.01 ~ 2021.02.05)

밑시딥 1권을 끝냈다. 나 혼자 읽었으면 정말 못끝냈을거다. 지시딥이 있어서 그나마 이정도까지 한 거 같다. 하지만 1권을 좀 더 이해하고 2권을 읽고 싶다. 사실 2권까지 사긴했다. 근데 내가 본가에 올 때 2권을 안들고 오기도 해서 우선 스터디는 잠시 쉬기로 했다. 기회가 닿으면 금요일 반에 들어가려고 한다.

화요일 노드가 망했다. 제출시간 몇 시간 전에 시작했는데, 노드를 일주일만에 열어본터라 무슨 내용이었는지 파악하는데도 한참 걸렸다. 그리고 문제는 모델을 돌리는데 1 epoch가 도는 시간이 너무 길게 나왔다. 10 epoch을 돌려야 간신히 val_loss가 2.2 밑으로 내려간다고들 하던데 나는 시간을 맞추려고 5로 두고 돌렸다. 하지만 시간이 부족해서 중단하고 제출해버렸다. 다음날 평가가 끝난 후에 다시 손봐서 올렸다. 그때는 또 epoch 당 시간이 되게 적게 걸렸다. 전날보다 5배는 빨랐다. 좀 억울해지는 순간이었다.

EDA는 재밌다. 전처리가 가장 재밌는 것 같다. 나는 청소하는 걸 좋아하는데 EDA가 그런 느낌이다. 정돈된 것을 봐야 마음이 편해지기 때문이다. 그리고 전에 한번 해봐서 더 친숙한 것 같다. 개발자보다는 데이터 분석이 더 맞는 게 아닌가 생각이 든다. ADsP는 땄으니 ADP도 준비해볼까? 사실 ADsP를 공부하고 와서 노드에 보이는 용어는 한번씩은 봤던 것들이라 도움이 많이 되었다. 근데 시계열 데이터는 정말 모르겠다. 이해 못하고 그냥 진행한 것 같다. ADsP 책이 대전에 있는데 대전 내려가면 그 부분을 다시 읽어봐야겠다.

2주차(2021.02.08 ~ 2021.02.10)

저번 주 금요일에 캐글조가 발표되었다. 오랜만에 형규님을 보게 되어서 좋았고, 병현님을 새로 알게 되서 좋았다. 내가 캐글 대횟날이 있는 주에 집안일을 도와야해서 모여야 하는 것보다 늦게 들어가기도 하고, 일찍 나오기도 해야 했는데 팀원들이 모두 이해해줘서 나는 정말 행복했다. 사실 둘쨋날 오전까지는 낼 수 있을 것이라고 심지 굳게 생각했다. 하지만 오후에도 모델 돌리는 것에 애를 먹고 있어서 잠깐 제출을 못할 수도 있겠다라는 생각을 했다. 그래도 나의 꼼수(?)와 갓병현님의 판단이 합쳐져 꽤 높은 점수를 얻고 제출할 수 있었다.

팀플 재미는 그것인 것 같다. 내가 풀지 못하는 부분을 다른 사람이 어느 순간 풀어내고, 다른 사람이 막혀있으면 또 나도 풀어보고 어느 순간 풀어내는 그런 재미 말이다. 그전까지는 발표를 하기 위해 자료를 만들어와서 합치는 팀플만 해오다가 이런 실시간적이고 생산적인 팀플을 하니까 더 재밌던 것 같다. 재미와 좋은 인연을 만들어준 캐글 대회, 참 고맙다.

3주차(2021.02.15 ~ 2021.02.19)

나는 혼자있는 시간을 중요시 여기는 사람인데 연휴에 혼자있을 시간이 별로 없어서 체력이 많이 방전되었다. 그런데 공부를 또 쉬고 온터라 월요일부터 금요일까지 꽉 들어찬 시간표를 수행하는 것이 여간 힘든 일이 아니었다.

캐글 대회 주간에 미뤄둔 프로젝트를 기한 마감 임박까지 끝내느라 이번 주 화, 목에 있던 프로젝트들은 많이 돌보지 못했다. 주말 간 할 생각에 설레이는(?) 한숨이 나온다.

인공지능 관련 도서를 찾아보다 EBS에서 내놓은 인공지능 책을 찾았다. 올해부터는 고등학교 선택과목으로 인공지능이 들어간다고 한다. 나는 26살 먹고 배웠는데 이 시대의 청소년들은 학창시절부터 배우는구나. 근데 행렬은 교육과정으로 안 배운다고 동생한테 들었다. 인공지능 과목이 생기는지도 동생한테 물어봤는데 2학기부터 생기는 것이라 잘 모르는 것인지 고3이라 잘 모르는 것인지 모르겠다.

4주차(2021.02.22 ~ 2021.02.26)

프로젝트 노트 형식을 개편했다. 그전까지는 내가 코드를 돌린 흐름을 적었다면 이번에는 앞에 주요 개념을 정리하고 목차를 살펴본 뒤, 코드의 흐름에 초첨을 두기 보단 결과물에 초첨을 뒀다. 이렇게하면 분명 노드 하나를 보는 데에도 개념을 정리하기 때문에 시간이 엄청 걸린다. 그래도 확실히 개념이 글을 정리하는 그 때만이라도 되게 머리에 잘 들어온다. 그리고 다음날이라던가 나중에 주피터 노트북을 돌릴 때도 흐름을 따라가기가 쉬운 것 같다.

우리 조에서 자격증 이야기가 나왔다. 다들 데이터분석 시험에 관심이 있으신 것 같아서 나도 대화에 곧 꼽사리를 꼈고, 함께 시험을 준비하기로 했다. 이 대화가 오가던 날이 ADsP, ADP 시험 접수 마지막 날이라서 점심시간에 빠르게 시험을 접수했다. 시험비가 8만원이라니 마음이 좀 아팠다. 아니 내 지갑이 아픈건가...? 바로 책도 주문했다. 실기까지는 한번 보고 싶다. 실기 공부까지 하면 피쳐 엔지니어링 실력이 좀 나아지지 않을까해서이다. 합격률이 5%라던데 얼마나 어려운건지 ㄷㄷㄷ... 그런데 시험 준비를 생각하시는 분들이 ADsP와 빅데이터분석기사에서 고민하시다가 후자를 택하셨고 3월에 시험을 보는 사람은 나 한명이 되었다. 순간 '헉'했지만, 원래 생각했던 것이니 밑져야 본전이다! 가는거야!

이런 나의 공부법이 빠르게 빛을 발한 것 같다. E10번 프로젝트가 우수 프로젝트로 선정되었다! 최선을 다했지만 깃헙에 올릴 때, reload? 에러가 계속 나서 에라 모르겠다하고 낸 프로젝트여서 기대는 별로 안하고 있었는데, 너무 행복했다! 이로써 6조는 헤어지기 전에 모든 팀원이 적어도 한번씩은 우수 프로젝트에 뽑힐 수 있게 되었다. 너무 좋다. 솔직히 나만 남은 상태여서 신경이 쓰였는데 이젠 마음이 편하다. :) 이건 이제 가보로 남길 것이다.

목요일 수학 스터디에 처음으로 참석했다. 이전에 자료를 선옥님을 통해 받았지만 노드가 바빠 조금밖에 살펴보지 못해서 긴장을 하고 들어갔었다. 하지만 곧 긴장을 풀 수 있었다. 파수꾼인 인학님께서 나긋나긋하신 목소리로 반갑게 맞이해주셨기 때문이다. 문제를 받고 1시간 동안 푸는데, 평생 동안 수학문제를 이만큼 편하게 푼 적이 없는 것 같다. 내가 푼 풀이가 맞는지 아닌지는 화요일이 되서야 알 수 있겠지만 되게 편하게 풀었다. 뭐랄까, '나는 이렇게 생각해서 이렇게 풀었다.'라고 생각을 말할 수 있는 분위기라서 그런 것 같다. 내 생각이 틀리면 맞춰가면 되는 것이고, 맞았다면 내 자신을 자랑스러워해주면 된다. 인학님을 보면서 깨봉수학 선생님이 생각났다. 이 두분을 내 학창시절에 만났다면 수학 5등급은 찍지 않을 수 있지 않았을까하는 생각이 든다.

목요일에 퇴실 QR을 찍지 않아 행정쌤과 퍼실님의 도움을 받아 찍을 수 있었다. 나는 내가 안찍는 사람 중 1명이 될 줄 몰랐다. 이게 이렇게 되는구나. 잠을 요근래 못자서 더 그런 것 같다. 프로젝트를 하느라 하루는 새벽 3시에 잤는데 이게 기폭제가 되어 어제도 2시가 되어야 잠을 이뤘다. 어제는 공부하지 않고 눈 감고 있다가 핸드폰을 잠깐 들여다보니 그렇게 되었다. 늦게 잘꺼면 공부라도 좀 했으면...!

살이 너무 쪄서 다이어트를 시작한 지 일주일쯤이 되었다. 빡센 식단 조절로 살이 빠지고 있으나 앉아만 있는 바람에 활동량이 적고, 근육운동을 하지 않아서 빠지는 속도가 굉장히 느리다. 몸에 힘도 없고 이 글을 쓰는 지금처럼 의욕도 푸슈슉 사라진다. 심지어 밤에 잠도 적게 자서 더 그런 것 같다. 그래서 오늘 점심시간을 일찍가지고 밥도 안먹고 잤다. 하... 치킨이 너무 먹고 싶다. 아가페 치킨...

삼일절은 휴일이라니 너무 행복합니다. 쓰다보니까 마지막 주가 유난히 기네요. 다음 달 일기도 기대해주세요.

그럼 20000~!

• 다음은 단순한 CNN 네트워크 구성임.

• 위 그림의 CNN 네트워크는 Convolution - ReLU - Pooling - Affine - ReLU - Affine - Softmax 순으로 흐름.

코드로 CNN 구현하기

• SimpleConvNet이라는 클래스로 구현해보자.
• SimpleConvNet의 초기화를 살펴보고, 받는 인수들을 알아보자.

  • input_dim: 입력 데이터(채널 수, 높이, 너비)의 차원(입력의 크기)
  • conv_param: 합성곱 계층의 하이퍼파라미터(딕셔너리 형태). 딕셔너리의 키는 다음과 같음.

  1. filter_num: 필터 수
  2. filter_size: 필터 크기
  3. stride: 스트라이드
  4. pad: 패딩
  5. hidden_size: 은닉층(완전연결)의 뉴런 수를 담은 리스트
  6. output_size: 출력층(완전연결)의 뉴런 수(출력의 크기)
  7. weight_init_std: 초기화 때의 가중치 표준편차

첫번째 코드

 def __init__(self, input_dim=(1, 28, 28), 
                 conv_param={'filter_num':30, 'filter_size':5, 'pad':0, 'stride':1},
                 hidden_size=100, output_size=10, weight_init_std=0.01):
        filter_num = conv_param['filter_num']
        filter_size = conv_param['filter_size']
        filter_pad = conv_param['pad']
        filter_stride = conv_param['stride']
        input_size = input_dim[1]
        conv_output_size = (input_size - filter_size + 2*filter_pad) / filter_stride + 1
        pool_output_size = int(filter_num * (conv_output_size/2) * (conv_output_size/2))

• 초기화 인수로 주어진 합성곱 계층의 파라미터를 딕셔너리에서 꺼냄.
• 그리고 합성곱 계층의 출력 크기를 계산함.

두번째 코드

# 가중치 초기화
        self.params = {}
        self.params['W1'] = weight_init_std * \
                            np.random.randn(filter_num, input_dim[0], filter_size, filter_size)
        self.params['b1'] = np.zeros(filter_num)
        self.params['W2'] = weight_init_std * \
                            np.random.randn(pool_output_size, hidden_size)
        self.params['b2'] = np.zeros(hidden_size)
        self.params['W3'] = weight_init_std * \
                            np.random.randn(hidden_size, output_size)
        self.params['b3'] = np.zeros(output_size)

• 학습에 필요한 매개변수는 1번째 층의 합성곱 계층과 나머지 두 완전연결 계층의 가중치와 편향.
• 이 매개변수들을 인스턴스 변수 params 딕셔너리에 저장.

  W1: 1번째 층의 합성곱 계층의 가중치, b1: 1번째 층의 합성곱 계층의 편향 W2: 2번째 층의 완전연결 계층의 가중치, b2: 2번째 층의 완전연결 계층의 편향 W3: 3번째 층의 완전연결 계층의 가중치, b3: 3번째 층의 완전연결 계층의 편향

세번째 코드

# CNN 구성 계층 생성
        self.layers = OrderedDict()
        self.layers['Conv1'] = Convolution(self.params['W1'], self.params['b1'],
                                           conv_param['stride'], conv_param['pad'])
        self.layers['Relu1'] = Relu()
        self.layers['Pool1'] = Pooling(pool_h=2, pool_w=2, stride=2)
        self.layers['Affine1'] = Affine(self.params['W2'], self.params['b2'])
        self.layers['Relu2'] = Relu()
        self.layers['Affine2'] = Affine(self.params['W3'], self.params['b3'])

        self.last_layer = SoftmaxWithLoss()

• 순서가 있는 딕셔너리인 layers에 계층들을 차례로 추가.
• 마지막 SoftmaxWithLoss 계층은 last_layer라는 별도 변수에 저장.

네번째 코드

 def predict(self, x):
        for layer in self.layers.values():
            x = layer.forward(x)
        return x

    def loss(self, x, t):
        y = self.predict(x)
        return self.last_layer.forward(y, t)

• 인수 x: 입력 데이터, 인수 t: 정답 레이블.
• 추론을 수행하는 predict 메서드는 초기화 때 layers에 추가한 계층을 맨 앞에서부터 차례로 forward 메서드를 호출하여 그 결과를 다음 계층에 전달함.
• 손실함수를 구하는 loss 메서드는 predict 메서드의 결과를 인수로 마지막 층의 forward 메서드를 호출. = 첫 계층부터 마지막 계층까지 forward를 처리함.

다섯번째 코드

 # 오차역전법으로 기울기 구하기
 def gradient(self, x, t): # x: 입력 데이터, t: 정답 레이블
        # 순전파
        self.loss(x, t)

        # 역전파
        dout = 1
        dout = self.last_layer.backward(dout)

        layers = list(self.layers.values())
        layers.reverse()
        for layer in layers:
            dout = layer.backward(dout)

        # 결과 저장
        grads = {}
        grads['W1'], grads['b1'] = self.layers['Conv1'].dW, self.layers['Conv1'].db
        grads['W2'], grads['b2'] = self.layers['Affine1'].dW, self.layers['Affine1'].db
        grads['W3'], grads['b3'] = self.layers['Affine2'].dW, self.layers['Affine2'].db

• 매개변수의 기울기는 오차역전법으로 구함.
• 이 과정은 순전파와 역전파를 반복함.
• grads라는 딕셔너리 변수에 각 가중치 매개변수의 기울기를 저장함.

• 위 코드는 MNIST 데이터셋을 가지고 손글씨 인식 문제를 풀 때 예시.
• 작은 데이터셋이지만 시험 데이터 정확도가 거의 99%로 아주 높음.

지금까지 알아본 것

• 합성곱 계층과 풀링 계층은 이미지 인식에 필수적인 모듈.
• 이미지라는 공간적인 형상에 담긴 특징을 CNN이 잘 파악하여, 손글씨 숫자 인식에서 높은 정확도를 달성할 수 있었음.

• 신경망 학습을 통해서 Loss 손실을 줄이는 방향으로 가중치는 변화함.

• 처음 가중치를 설정할 때는 랜덤으로 값을 정하기 때문에 의미없는 값들로 이루어져 있음.

• 아무런 규칙이 없는 상태에서 학습을 거치면서 필터는 규칙성이 있는 형태로 변화함.

• 학습된 필터 몇 개를 선택해서 입력받은 이미지에 합성곱 처리를 하면, 각각의 필터 측징에 맞게 어떤 특징이 부각되어 이미지를 출력함.

7.6 CNN 시각화하기

• 합성곱 계층은 입력으로 받은 이미지 데이터에서 '무엇을 보고' 있을까?

7.6.1 1번째 층의 가중치 시각화하기

• 앞에서 MNIST 데이터셋으로 CNN 학습을 했을 때, 1번째 층의 합성곱 계층의 가중치는 그 형상이 (30, 1, 5, 5)였음. = (필터 개수, 채널 개수, 높이, 너비)
• 이는 필터의 크기가 5x5이고, 1채널의 회색조 이미지로 시각화할 수 있다는 뜻.

• 합성곱 계층(1번째 층) 필터를 이미지로 나타내고 학습 전, 후의 가중치를 비교해보자.

• 가중치읜 원소는 실수지만, 이미지에서는 가장 작은 값(0)은 검은색으로, 가장 큰 값(255)는 흰색으로 정규화하여 표시.

• 학습 전 필터는 무작위로 초기화되고 있어 흑백의 정도에 규칙성이 없음.

• 학습 후 필터는 흰색에서 검은색으로 점차 변화하는 필터, 블롭(blob, 덩어리)을 가진 필터 등규칙성 있는 이미지가 됨.

• 그렇다면 규칙성이 있는 필터는 '무엇을 보고' 있을까?
• 규칙성 있는 필터들은 색상이 바뀐 경계선인 '엣지'와 국소적으로 덩어리진 영역인 '블롭'을 보고 있음.

• 위 그림처럼 왼쪽 절반이 흰색이고, 오른쪽 절반이 검은색인 필터는 세로방향 엣지에 반응하는 필터. 아래 절반이 흰색이고, 위 절반이 검은색은 필터는 가로 방향 엣지에 반응하는 필터.
• 이처럼 합성곱 계층의 필터는 엣지나 블롭 등의 원시적인 정보를 추출할 수 있음.
• 우리가 앞서 구현한 CNN에서도 이런 원시적인 정보를 뒷단 계층에 전달하는 것임.

7.6.2 층 깊이에 따른 추출 정보 변화

• 우리는 1번째 층의 합성곱 계층에서 엣지나 블롭과 같은 저수준 정보를 추출하는 것을 알게 됨.
• 그럼 겹겹이 쌓인 CNN의 각 계층에서는 어떤 정보를 추출할까?

• 딥러닝 시각화에 대한 연구에 따르면, 계층이 깊어질수록 추출되는 정보는 더 추상화됨.

• 위 그림은 일반 사물 인식을 수행한 8층 CNN.
• AlexNet이라는 네트워크 구조. (이 구조는 ImageNet 영상 데이터 베이스를 기반으로 한 화상 인식 대회인 "ILSVRC 2012"에서 우승한 CNN 구조라고 함.)
• 합성곱 계층과 풀링 계층을 여러 겹 쌓고, 마지막으로 완전연결 계층을 거쳐 결과를 출력하는 구조.
• 위 그림에서 블록으로 나타낸 것은 중간 데이터로, 이 중간 데이터에 합성곱 연산을 연속해서 적용함.

• 흥미로운 점은 합성곱 계층을 여러 겹 쌓으면, 층이 깊어지면서 더 복잡하고 추상화된 정보가 추출됨.
• 처음에는 단순한 엣지와 블롭에 반응하고, 3번째에서는 텍스처에 반응하고, 5번째에서는 사물의 일부에 반응함.
• 즉, 층이 깊어지면서 뉴런이 반응하는 대상이 단순한 모양에서 고급 정보로 변화해감. = 사물의 의미를 이해하도록 변화하는 것.

(궁금?) 정보가 추상화되는 과정을 인간이 이해할 수 있을까? 각 계층마다 추상화된 정보를 추출하는데, 우리가 각 레이와 필터에 '해당 요소를 뽑아서 추상화해라'라고 명령한 것이 아닌데 어떻게 추출이 가능한 지 의문임. (추가) XAI(eXplainable AI, 설명가능 인공지능): 인공지능이 다방면에서 사용되고 있지만 인공지능이 도출한 결과가 왜 그런지 설명하지 못함으로써 나오게 됨. 인공지능의 행위와 판단을 사람이 이해할 수 있는 형태로 설명할 수 있는 기술.

7.7 대표적인 CNN

7.7.1 LeNet

• LeNet은 손글씨 숫자를 인식하는 네트워크로 1998년에 제안됨.

• 위 그림과 같이 합성곱 계층과 풀링 계층을 반복하고, 마지막으로 완전연결 계층을 거치면서 결과를 출력.

현재 CNN과 LeNet의 차이점

1. 활성화 함수 LeNet은 시그모이드 함수를 사용하는 반면, 현재는 주로 ReLU 사용. (Leaky ReLU나 ELU같은 LU 계열이 더 성능이 좋다고 함.)
2. 풀링 계층의 여부 LeNet은 서브샘플링(평균 풀링)하여 중간 데이터의 크기를 줄이지만, 현재는 최대 풀링이 주류.

7.7.2 AlexNet

• 딥러닝 열풍을 일으키는 데 큰 역할.

• AlexNet은 합성곱 계층과 풀링 계층을 거듭하여 마지막으로 완전연결 계층을 거쳐 결과를 출력.

  LeNet과의 차이점

  1. 활성화 함수로 ReLU를 사용.
  2. LRN(Local Response Normalization)이라는 국소적 정규화를 실시하는 계층을 이용. (측면억제: 실제 뇌 세포 증상으로 강한 뉴런의 활성화가 근처 다른 뉴런의 활동을 억제시키는 현상. NN의 피처에서 한 세포가 유별나게 강한 값을 가지게 된다면, 근처의 값이 약하더라도 컨벌루션 연사을 하면 강한 피처를 가지게 되는 것.)
  3. 드롭아웃을 사용.

• 두 네트워크는 구성 측면에서는 큰 차이가 없음.

• 다만 환경과 컴퓨터 기술이 큰 진보를 이룬 것.

• 빅데이터, GPU

7.8 정리

딥러닝

• 딥러닝은 층을 깊게한 신경망.

8.1 더 깊게

8.1.1 더 깊은 신경망으로

• 위 그림은 손글씨 숫자를 인식하는 심층 CNN.

  • 이 깊은 신경망의 특징

  1. 합성곱 계층은 모두 3x3 크기의 작은 필터
  2. 층이 깊어지면서 채널 수가 늘어남.(합성곱 계층 채널 수는 16, 16, 32, 32, 64, 64로 늘어남.)
  3. 활성화 함수는 ReLU.
  4. 완전연결 계층에서는 드롭아웃 계층을 사용.
  5. Adam을 사용해 최적화(가중치 매개변수 갱신).
  6. 가중치 초깃값은 'He의 초깃값'.

• 이 심층 신경망은 학습시키는 데에 거의 반나절이 걸린다고 함.

• 대신 정확도는 99.38%(책 기준)임.

• 이 신경망이 잘못 인식할 확률은 고작 0.62%인데, 그 범위에 드는 어떤 이미지를 잘못 인식했을까?

• 각 사진의 왼쪽 상단에는 정답 레이블, 오른쪽 하단에는 신경망 추론결과가 있음.

• 이번의 심층 CNN은 정확도가 높고, 인간과 비슷한 인식 오류를 가짐. = 심층 CNN의 잠재력이 크다!

8.1.2 정확도를 높이려면

• What is the class of this image? 웹 사이트는 다양한 데이터셋을 대상으로 그동안 논문 등에서 발표한 기법들의 정확도를 순위로 정리해 둠.

• 위 사진은 책에서 인용한 2016년 12월 시점의 순위인데, 현재 2021년 2월의 순위도 위와 같음.
• MNIST 데이터셋에서의 정확도 1위는 CNN을 기초로 한 것으로, 합성곱 계층 2개에 완전연결 계층 2개 정도의 깊지 않은 신경망을 사용.

• 데이터 확장은 손쉬운 정확도 개선 방법 중 하나.
• 입력 이미지(훈련 이미지)를 알고리즘을 동원해 회전이나 이동과 같은 미세한 변화를 주어 인위적으로 이미지의 개수를 늘리는 것.
• 데이터가 몇 개 없을 때, 매우 효과적임.
• 이외에도 데이터 확장 방법에는 이미지 일부를 잘라내는 크롭, 좌우를 뒤집는 플립, 밝기 등의 외형변화, 확대나 축소 같은 스케일 변화 등이 있음.

8.1.3 깊게 하는 이유

• 층을 왜 깊게 하는가?
• 아직 근거는 부족하지만 다음과 같은 설명을 할 수 있음.

1. 주류의 경향

• ILSVRC로 대표되는 대규모 이미지 인식 대회에서 좋은 성적을 거둔 기법 대부분이 딥러닝 기법이며, 그 경향은 신경망을 더 깊게 만드는 방향으로 가고 있음.

2. 심층 사용 시 매개변수 감소

• 신경망의 매개변수 수가 줄어듦. 이는 깊지 않은 신경망보가 적은 매개변수로 같거나 그보다 위인 수준의 표현력을 달성 가능한 것.
• 5x5 필터로 구성된 합성곱 계층이 있다고 하자.
• 여기서 주목할 점은 출력 데이터의 각 노드가 입력 데이터의 어느 영역으로부터 계산되었냐는 것.
• 여기서는 각각의 출력노드는 5x5 크기 영역에서 계산됨.
• 3x3의 합성곱 연산을 2회 반복하는 경우를 생각해보자.
• 5x5 크기의 영역에서 3x3의 중간데이터가 계산되고, 3x3의 중간데이터에서 출력노드 하나가 나옴.
• 이 결과는 5x5의 합성곱 연산 1회가 3x3의 합성곱 연산 2회 수행으로 대체될 수 있음을 보여줌.
• 또한 전자는 매개변수가 25개(1회x5x5)라하면, 후자는 총 18개(2회x3x3)임. = 매개변수 수는 층을 반복할수록 작아짐. = 이를 넓은 수용영역을 소화한다고 말함.
• 반대로 말하면 층이 얕을수록 필요한 매개변수가 많아짐.
• 3x3의 합성곱 연산을 3회하면 매개변수는 27개지만, 같은 크기 영역을 1회 합성곱 연산으로 면 7x7 크기의 필터, 즉 매개변수 49개 필요한 것임. (거꾸로 올라가기: 1 -> 9 -> 25 -> 49)

3. 학습 효율성이 좋아짐.

• 층을 깊게하면 학습 데이터의 양을 줄여 학습을 고속으로 수행할 수 있음.
• 앞 장에서 우린 CNN이 층마다 엣지, 블룸, 텍스처, 사물의 부분과 같은 정보를 계층적으로 추출하고 있음을 봤음.
• 만약 '개'를 인식한다고 했을 때, 얕은 신경망에서 해결하려면 합성곱 계층은 개의 특징 대부분을 한번에 이해해야 함.
• 그런데 견종도 많고 각도에 따라 사진도 달리보일 수 있으니, 개의 특징을 이해하려면 변화가 풍부하고 많은 학습 데이터를 필요로 하게 되며 따라서 학습 시간이 오래 걸리게 됨.
• 신경망을 깊게 하면 학습해야할 문제를 계층마다 분업해서 도맡을 수 있으니, 각 층에서는 보다 단순한 문제만 해결하면 됨.

4. 정보를 계층적으로 전달 가능.

• 예를 들어 엣지를 추출한 층의 다음 층은 엣지 정보를 가져다 쓸 수 있고, 이를 바탕으로 고도의 패턴을 효과적으로 학습하리라 기대할 수 있음.

• 지금 심층 신경망이 제대로 학습할 수 있는 이유는 새로운 기술과 빅데이터, 컴퓨터 연산 기술 향상이 뒷받침된 결과.

8.2 딥러닝 초기 역사

• 딥러닝이 뜨게 된 계기는 이미지 인식 기술을 겨루는 ILSVRC(ImageNet Large Scale Visual Recognition Challenge)의 2012년 대회에서 였음.
• 압도적인 성적으로 Alexnet이 우승하면서 그동안 이미지 인식에 대한 접근법을 바꿔놓음.

8.2.1 이미지넷

• 이미지넷은 100만 장이 넘는 이미지를 담고 있는 데이터셋.

• 위 사진처럼 다양한 이미지를 포함하며, 각 이미지에는 레이블이 붙어있음.

• ILSVRC에서는 이 데이터셋을 가지고 이미지 인식 기술 대회를 여는 것.

• 대회 시험 항목 중에는 분류가 있는데, 분류 부문에서는 1,000개의 클래스를 제대로 분류하는지 겨룸.

• 위 그래프는 2010년부터 최근까지 ILSVRC의 분류 부문 우승팀의 성적 기록으로, 예측이 틀린 비율을 나타냄.

• 2012년에 AlexNet이 등장함으로 인해 오류 비율이 크게 낮아졌으며, 그 이후 2015년에는 150층이 넘는 심층 신경망인 ResNet이 오류 비율을 3.5%까지 낮춤.

• 이 결과는 일반적인 인간의 인식능력을 넘어 선 것이라고 함.

• 최근 뛰어난 성적을 거두고 있는 딥러닝 중에서는 VGG, GoogLeNet, ResNet이 특히 유명함.

1월이 거의 끝나가는 시점입니다. 주말만 지나면 2월이군요. AIFFEL에 참여하고 나니 시간을 알차게 사용하고 있는 것 같은데, 동시에 시간이 너무 빠르게 흐릅니다.

그래서 제가 느낀점들을 까먹기 전에 작게 나마 적어보려고 해요. 매주마다 쓰기에는 양이 별로 없을 것 같아서 다달이 적으려고 합니다.

1주차 (2020.12.28 ~ 2020.12.31)

교육이 시작되었다. 교육이 시작되기 전까지는 고민을 많이 했다. 단기 알바였지만 막 돈을 벌기 시작했을 때라서 교육보단 돈을 모으는 것에 집중해야하는 것이 아닌가 생각했기 때문이다. 하지만 정규직도 아니고 교육을 듣고 나서 더 좋은 일을 찾을 수 있으면 그게 더 이득일 것 같다는 생각에 교육에 참여했다. 그리고 교육을 듣고 나서도 일자리를 못 찾으면 어떤가, 그때부터 맘 잡고 아무데서나 일하면 되지.   순조롭게 흘러간 일주일이었다. 환경세팅에만 집중하는 시간이었달까? 이것저것 설치하는 데에 애먹기는 했지만 어려운 것은 없었다. 그리고 신정이라서 정규 수업시간은 4일뿐이어서 너무 좋았다. ㅎㅎ

2주차 (2021.01.04 ~ 2021.01.08)

새로운 시작이 많은 주였다. 월요일마다 CS231n을 듣고, 화요일과 목요일마다 EXPLORATION을 하고, 수요일마다 코딩마스터 수업을 듣게 되었다. 한순간 너무 많은 구글 밋 방들이 만들어졌다. 실력이 뛰어나신 분들이 많았다. 그래서 나는 좀 주눅이 들었다. '내가 저 분들만큼 성장할 수 있을까?'라는 고민을 했다. 결론만 말하자면 '못한다.'이다. 사람마다 배운 것과 그 깊이가 다른데, 어떻게 똑같아질 수 있겠는가.   내 지식과 실력에 주눅이 들 때마다 "비교의 대상은 타인이 아닌 어제의 나"라는 구문을 생각한다. 타인과 비교하다 우울증 직전까지 간 적이 있어서 타인과의 비교가 정신건강에 해롭다는 것을 정말 잘 안다. 어제의 나보다 발전하자. 그럼 됐다!   그래도 2주차 까지는 노드와 강의 등을 모두 복습했었다. EXPLORATION도 삼사일 시간을 넉넉히 두고 제출했다. 벨로그도 아주 열심히 적은 것 같다. 이정도면 완전히 AIFFEL 과정을 마스터할 수 있을 것 같았다. 하지만...아니었다는 것을 이때의 나는 몰랐다.

3주차 (2021.01.11 ~ 2021.01.15)

노드가 밀리기 시작했다! 고양이 스티커와 감성분석이 너무너무너무 어려웠다. 슬랙 질문란에서 솔루션을 눈팅하면서 하나씩 문제의 답을 동냥했다. 하루에 1시간 이상씩은 이해되지 않는 부분을 붙잡고 있었다. 결국 해결을 했지만 완전히 내것으로 만들지 못했다는 생각에 좀 시무룩했다. 노드와 CS231n을 복습하는 겸 벨로그에 올리겠다고 했는데, 이때부터 이해를 잘 못하겠어서 글을 적지를 못했다.   화요일에는 담임선생님과 상담을 했다. 상담으로 나는 뭘하고 싶은지 목표가 명확하지 않다는 것을 깨달았다. 사실 AIFFEL 자소서를 적을 때도 나는 첫번째 문항에서 막혔다. 어떤 인공지능 개발자가 되고 싶냐는 질문이었던 것 같다. 나는 아주, 아주 막연하게 자연어처리 전문가가 되고 싶다고 적은 것 같다. 대학에서 배운 지식을 써먹고 싶어서 그랬던 것이지 발명이나 발견, 사회공익 같은 큰 꿈을 가진 적이 없다. 취업준비를 하면서도 마케팅을 노렸지만 사실 마케팅이라는 분야를 고른 이유가 딱히 없다. '너는 왜 마케팅을 하고 싶니?'라는 질문에 나는 "내가 좋아하는 걸 다른 사람도 좋아하게 만들고 싶어'라고 항상 답을 적었지만 마음 속에는 '정말?'이라는 의구심이 든다. 내 생각이 과연 내 것일까? 나 스스로를 속이는 것 같다. 그래야만 한다는 강박관념에 생긴 생각이라는 느낌을 버릴 수 없다.   아이 뭐야 왜 점점 철학적이 되어가는거야! 돈은 벌어먹고 살아야 하는데 뭘하고 싶은지, 하고 싶은 걸 찾아야하는지도 잘 모르겠다. 너무나 혼돈의 카오스인 것. 아직 나는 이런 상태이다.

• 하고 싶은 것: 미상

4주차 (2021.01.18 ~2021.01.22)

일부 노드와 EXPLORATION을 당일날 처리하지 못하는 게 당연해졌다. 적응을 했달까? 화요일에 노트북을 교체해야해서 하루 숨통의 틔였다. 수업 없는 날 너무 좋다.   하루하루 배운다라기 보단 처낸다, 처리한다라는 느낌이 강했다. 그렇다고 싫은 걸 억지도 하는 것은 아니다. 하고 싶은데 이해 안 되고, 몰라서 못하니깐 꾸역꾸역 어떻게든 하는 것이다. 퍼실님들께서도 지금 이해 안해도 된다고 하시니까 나는 우선 보고 흘리고 넘어가려고 한다.   담임선생님께서는 상담에서 공부를 하루종일해도 깨우칠까 말까한 것이 인공지능이라고 하셨다. 스터디를 하는 것을 추천하셔서 지시딥이란 스터디가 있길래 얼른 신청했다. 매일반이라서 5시 반 '땡'하고 아무것도 하지 않으려는 나에게 강제성을 부여해서 책이라도 한장 더보게 할 심산이었다. 근데 의외로 좋은 것 같다. 밑바닥부터 시작하는 딥러닝 책 자체가 쉽게 쓰여져있고, 내용이 노드와 강의랑 겹쳐서 책을 읽을 동안만은 그동안 이해하지 못한 부분이 이해되었다. 물론 아직 설명은 못한다.   내가 많이 모르고 있다는 것도 깨달았다. 일전에 남자친구와 통화하다가 오늘은 어떤 것을 배웠냐는 질문에 신경망을 배웠다고 답한 적이 있다. 근데 이걸 설명하려니 개념들도 헷갈리고 어디서부터 설명을 해야할 지 하나도 생각이 안나서 말을 못했다. 이때 목표 한가지가 생겼다. 인공지능을 아무것도 몰는 사람이 들어도 이해하게 만들고 싶다는 목표였다. 가르치는 걸 정말정말 못하는 나지만 배운 지식들을 적어도 누군가에는 말할 수 있어야 하지 않을까한다. 최소한 유식한 척 뽐낼 때라도 써야지.

5주차 (2021.01.25 ~2021.01.29)

너무 한 주가 빨리간다. 지나가는 속도에 정신을 못차리겠다. EXPLORATION만 처리하는데도 시간이 많이 걸려서 다른 것들은 복습도 못한다. 그래도 시간이 부족해서 잠 시간을 줄였다. 그랬더니 목요일 아침에는 두통이 왔다. 타이레놀을 먹을까했지만 그냥 참았다. 나는 잠을 7시간 이상 자지 못하면 죽는 개복치라서 늦게까지 공부하면 죽을 것 같다. 그래서인지 이번주는 살짝 죽을 뻔했다. 일부 수강생분들께서 번아웃이 왔다는데, 나도 그건가 싶었다. 아직 뭔가 타버릴 정도는 아니라서 번아웃은 아닌 것 같다. 그냥 솔까래에 불 붙은 정도?   주말에 밀린 공부를 하려고 차곡차곡 미뤄둔 일을 이제 슬슬 처리해야한다. 이번주 안에 못하면 리듬이 완전히 깨져서 돌이킬 수 없을지도 모른다. 아침에 6시에는 일어나서 아침 루틴을 하고 공부에 임해야 하는데 늦게 자는 바람에 늦게 일어나서 루틴도 다 망가졌다. 이번 주말이 정말 중요하다.   코딩을 정말 잘하고 싶다. 수요일에 코딩마스터가 있었는데 나는 문제를 하나도 풀지 못했다. 나중에 다른 분들의 코드를 보았을 때는 정말 허탈했다. 코딩 공부를 어떻게 해야할지 생각해봤다. 우리가 일반 언어를 배우듯이 하면 되지 않을까? 그래서 내가 힌디어를 배울 때를 생각해봤다. 생각해보니 나는 힌디어 문자를 배우고, 단어를 외우고, 문법을 공부하고, 회화를 하고, 시사에 쓰이는 표현을 배웠다. 각 분야에 해당하는 걸 컴퓨터 언어와 대입시켜보자. 힌디어 문자는 자판, 키보드. 단어는 메소드, 함수(저마다 의미가 있기 때문에). 문법은 파이썬 문법(if, for 등이 움직이는 로직). 회화는 코딩 테스트나 코딩 문제를 푸는 것. 시사나 일상에 쓰이는 표현은 파이써닉하게 표현하는 것. 이렇게 두고 보니까 할 수 있을 것 같은데, 너무 어렵다. 인지부조화가 온다. 으...   아무것도 이루지 못한 한 주처럼 보이지만 우선 1주일을 견뎌냈다는 것에 내가 기특하다. 그리고 미분을 못해서 쩔쩔 매다가 저번 주말에 자고 있는 동생을 깨워서 미분하는 법을 배웠다. 애가 지금 고딩이라 그런지 참 잘한다. 내가 현역이었을 때는 얘보다 못했는데 참... 각자 잘하는 분야가 다르긴 한가보다. 어쨌든 이제 미분을 할 줄 알고 오차역전법에서 왜 미분이 그렇게 되는지 이해했다.

적고보니 생각이 많았었다는 것을 깨달았습니다. 이럴 줄 알았으면 다이어리를 새로 사서 일기를 적을 것을 그랬습니다. 이제라도 머릿 속에 있는 생각을 꺼내두니 좋군요. 열심히 적어보겠습니다.

그럼 20000~!