CS231n Lec3(2) Optimization & Image Features🙋

기록을 해야 하는 것을 알기 때문에 이렇게 또 적어봅니다. 👏Optimization이란 Loss를 최소화하는 W를 찾아가는 과정입니다. 여기서 방법과 목적을 잊지말아야합니다. loss 최소화를 위해 그에 맞는 W를 어떻게 찾을 건지에 대한 공부입니다. Random Search 임의로 가중치(W)를 선택해서 해당 가중치의 loss를 계산합니다. 당연히 실제로 쓰이지는 않습니다. 정확도가 아주 낮기 때문입니다. Follow the slope 산 정상에서 눈을 가린 채 내려간다고할 때, step마다 기울기가 내려가는 쪽으로 한 걸음씩 걸어야 할 것입니다. 2-1. Numeric gradient (수치적으로 계산) 코드에 h = 0.00001 을 넣어서 돌린다는 것은 미분이 아니라 그저 기울기를 구하는 것이다...
CS231n 2021. 6. 25. 00:45
1