728x90 반응형 LG Aimers3 [LG AI] 딥러닝 - BackPropagation 이 수식에서의 로지스틱 과정을 먼저 보자(순방향) 이와 같이 입력값과 가중치 초기값이 설정되었다고 할 때,최종적으로는 0.73의 값을 출력하게 된다. 이제 역전파 과정에 대해서 살펴보자최종함수인 손실함수의 결과값이자 마지막 노드에 해당하는 편미분 값을 일단 1로 설정한다.최종함수를 그 함수값 자체로 미분하므로써 $\frac{dL}{dL}$ 결과값은 항상 1이 된다. ( 사실 이해 못함.. ) 마지막 수식이었던 $\frac{1}{x}$ 을 미분하면 $ -\frac{1}{x^{2}}$ 이 되는데이전에 순방향에서의 가중치를 보면 1.37를 $\frac{1}{x}$에 대입하면 0.73이 된다는 걸 알 수 있다. 역전파에서는 미분한 $ -\frac{1}{x^{2}}$에 이전 순방향 가중치 1.37을 대.. 2024. 7. 25. [LG AI] 지도학습 - 2 Classificationbinary 데이터를 linear 분류하기 Linear Classification 선형분류기: 선형그래프를 기준으로 0보다 큰지 작은지 나누어 이진분류> 0-1 손실함수를 사용 이 선형 그래프를 어떻게 찾을 것이냐?> 퍼셉트론 알고리즘 : 데이터가 존재할 때 임의로 선을 긋는다. 이에 계속되는 데이터에 대해 업데이트 된다.gradient를 계산할 필요가 없다. 하지만 선형으로 분류되지 않는 경우에는 이 선형을 찾는 동작이 무한으로 동작한다. > Linera Programming > SVM (Support Vector Machine) : 선형분류기로부터 각 클래스의 가장 가까운 데이터와의 거리를 'margin(마진)' 이라고 하는데, 이 마진값의 크기가 큰 선형 분류기를 고른다... 2024. 7. 24. [LG AI] 지도학습 - 1 Supervised Learning Overview 지도학습 : 문제-정답 쌍이 주어졌을 때, 어떤 문제를 풀도록 학습시키는 것 예시)- 10가지 카테고리의 이미지를 분류하도록 처리- 텍스트 문장이 긍정인지 부정인지- 문장이 완성되지 않았을 때, 다음에 올 단어를 맞추는 것- 한 언어에 대한 문장을 다른 언어로 번역하여 출력- 다음날이나 몇시간 뒤의 주식정보, 상승 혹은 하강 >> 문제와 정답 쌍으로 이루어진 데이터를 사용= x에 대한 y값이 pair형태로 정해짐 예시)- 이미지가 x로 입력데이터, 분류 클래스 카테고리가 y인 출력데이터가 됨- x는 텍스트 문장, y는 긍정(1) 혹은 부정(-1)- 앞 단어가 x 입력이라면, 그 다음에 올 단어를 y- x는 전 몇일간의 주가 정보, y는 다음날의 주가(.. 2024. 7. 24. 이전 1 다음 728x90 반응형
