디지털 노마드

Lecture 3 강의를 들으면 가중치(W), Loss Function, Optimization 관계에 대해 이해할 수 있습니다. Multiclass SVM Loss Function을 이해할 수 있습니다. Regularization을 이해할 수 있습니다. L1과 L2를 비교할 수 있습니다. Gradient Descent의 종류를 알고 이해할 수 있습니다. TimeStamp 시간 내용 부가 설명 00:00 공지사항 안내 02:15 2강 복습 04:42 2강에서 설명이 부족했던 Linear Classification 보충 설명 05:55 어떻게 W를 정할지 (저번 강의에서는 임의의 W를 사용) 07:25 W가 좋은지 나쁜지 판별할 수 있는 정량화 방법 필요 → Loss Function 07:58 덜 구린 W..

처음으로 CS231n을 본 지 8개월 뒤에 다시 강의를 보고 정리한 내용입니다. Slide Lecture 2 강의를 들으면 기계의 입장에서 Image Classification의 이해를 할 수 있습니다. NN 알고리즘에서 K-NN 알고리즘까지 맛 볼 수 있습니다. L1, L2 distance의 대략적인 차이점을 알 수 있습니다. Hyperparameter의 이해에 도움이 됩니다. K-NN 입력(input)에 왜 이미지를 넣지 않는지 알 수 있습니다. Linear Classification 도 간략하게 이해할 수 있습니다. TimeStamp Time 내용 04:45 본격적인 수업 시작, image classification의 어려운 점 여러가지 09:23 Image Classifier 함수를 작성한다고 하..

기록을 해야 하는 것을 알기 때문에 이렇게 또 적어봅니다. 👏Optimization이란 Loss를 최소화하는 W를 찾아가는 과정입니다. 여기서 방법과 목적을 잊지말아야합니다. loss 최소화를 위해 그에 맞는 W를 어떻게 찾을 건지에 대한 공부입니다. Random Search 임의로 가중치(W)를 선택해서 해당 가중치의 loss를 계산합니다. 당연히 실제로 쓰이지는 않습니다. 정확도가 아주 낮기 때문입니다. Follow the slope 산 정상에서 눈을 가린 채 내려간다고할 때, step마다 기울기가 내려가는 쪽으로 한 걸음씩 걸어야 할 것입니다. 2-1. Numeric gradient (수치적으로 계산) 코드에 h = 0.00001 을 넣어서 돌린다는 것은 미분이 아니라 그저 기울기를 구하는 것이다...

맞은데 바로 맞으면 별로 안 아프거든요?(경험담) 약간 그런 느낌으로 오히려 Lec2보다 숨이 쉬어졌습니다. 지난 시간 linear classification에서 파라미터 w를 배웠습니다. 이번 시간에는 이 w를 정량화해서 평가할 수 있게 하려고 합니다. 즉 어떤 w가 좋은지 판단하기 위함이죠. w가 얼마나 더 좋은지가 아닌, 덜 구린지를 나타낸 것이 Loss function입니다. 이 loss를 구하는 방법은 두가지가 있습니다. 1.SVM 2.Softmax Classification 입니다. svm 먼저 SVM를 봐보면 위의 식처럼 Loss를 정의합니다. max(a, b)는 a와 b중에서 큰 값을 고른다는 이야기입니다. 그렇다면 여기서는 우항이 음수이면 항상 loss는 0으로만 나오겠네요. 그리고 Sj..

+이 수업을 들으먼 k-NN, softmax and 2-layer 구현할 수 있게 됩니다 +Python, Numpy 사용 Numpy는 무엇인가 - C언어로 구현된 파이썬 라이브러리로써, 고성능의 수치계산을 위해 제작됨 - Numerical Python의 줄임말이기도 한 Numpy는 벡터 및 행렬 연산에 있어서 매우 편리 - vectorized 연산에 중요 - 일단 요정도만 Matlab(MathWorks 사에서 개발한 수치 해석 및 프로그래밍 환경을 제공하는 공학용 소프트웨어) 그리고 Numpy 와 같이 vectorized tensor 계산이 익숙하지 않다면 연습하자 Image Classification - 똑똑한 포유류와 다르게 컴퓨터는 이미지가 800*600 의 격자 모양의 숫자 집합으로 보임 - 그리..