[기초통계학] 도함수의 활용

미분방정식

계수와 차수

계수 : 가장 큰 미분 횟수 (횟수에 따라 'n계 미분 방정식' 이라고 부름)

차수 : 미분방정식의 최고 계수항의 거듭제곱 횟수

 

독립 변수 x에만 의존하면 선형, 종속 변수 y에 의존하는 항이 있으면 비선형

 

 

상미분방정식과 편미분방정식

미분방정식 : 미지의 도함수를 포함하는 방정식

 

상미분방정식 : 독립변수 한 개로 미분한 도함수만 포함 (ex. $y = x^{2) + 1$)

편미분방정식 : 독립변수 두 개 이상으로 미분한 도함수를 포함

 

편미분 : 두 변수 중 하나를 상수로 보고 미분하는 것 (y를 상수로 보고 x를 미분 or x를 상수로 보고 y를 미분)

@에 대해 미분, $f_{@}(x,y)$ 이라고 하면 @를 기준으로 미분함

 

 

 

평균값 정리와 롤 정리

구간

어떤 지점과 다른 지점 사이를 의미

ex. (a, b), [a, b], (a, b], [a, b)

 

 

(a, b) : a < x < b (개구간)

[a, b] : a <= x <= b (폐구간)

(a, b] : a < x <= b

[a, b) : a <= x < b

 

 

평균값 정리

그래프로 표현이 어려운 미적분을 간단히 증명하는데 사용

 

정의 : 닫힌 구간 [a,b]에서 연속이고, 열린 구간 (a,b)에서 미분 가능하면, 평균변화율을 만족하는 f'(c)가 a와 b사이에 적어도 하나 존재

-> 점 A, B를 지나는 직선의 기울기와 평행한 접선의 기울기(C)가 존재한다는 의미

 

 

롤의 정리

정의 : 닫힌 구간 [a,b]에서 연속이고, 열린 구간 (a,b)에서 미분 가능할 때, f(a) = f(b)이면 f'(c) = 0(a < c < b)이 적어도 하나 존재

평균변화율이 0임

 

 

 

속도와 가속도

이동 거리와 변위

이동 거리 : 물체가 지나간 길의 거리, 방향은 없고 크기만 있는 물리량(=스칼라양)

변위 : 출발점에서 도착점까지 얼마나 떨어져 있는지 위치 변화를 나타냄, 크기와 뱡향을 모두 나타냄(=백터양)

 

 

속력, 속도, 가속도

속력 = 이동거리 / 시간

속도 = 변위 / 시간

 

미분에서 속도는 순간변화율을 의미함 

위치가 시간에 대한 함수로 표현되어 있을 때, 위치를 시간으로 미분하면 속도가 나옴

 

위치 = f(x)

속도(v) = f'(x)

가속도(a) + f''(x)

진행방향이 바뀌는 시간 == v가 0인 시점

 

 

 

미분 법칙

합(차) 법칙

f(x)와 f(g) 모두 미분 가능하다면, {f(x) + f(g)}' = f'(x) + f'(g)

 

곱 법칙

f(x)와 f(g) 모두 미분 가능하다면, {f(x) * f(g)}' = f(x)g(x)′ = f′(x)g(x) + f(x)g′(x)

 

몫 법칙

ex)

$f(x) = \frac{a}{b}$ 일 때,

f'(x)=\frac{b*a' - a*b'}{b^{2}} 

 

연쇄 법칙 (?)

함성함수의 미분법

 

 

 

오차역전파 

계산 그래프

계산 과정을 그래프로 나타냄, 노드(연산)와 엣지(계산방향)로 표현

 

순전파 : 그래프가 왼쪽에서 오른쪽으로 진행

역전파 : 그래프가 오른쪽에서 왼쪽으로 진행

 

 

오차역전파

역전파 : 계산 결과와 정답의 오차를 구하여 오차에 관여하는 노드값의 가중치와 편향을 수정

오차역전파 : 오차가 작아지는 방향으로 반복하여 수정

오차역전파 횟수가 커지면 정확성이 높지만 시간이 오래 걸림 (오차역전파 횟수를 epoch)

 

 

오차역전파 계산

- 덧셈 노드 역전파

상류(출력)의 입력 값을 그대로 하류(입력)로 보냄

 

- 곱셈 노드 역전파

상류(출력)값 * 순전파의 입력 신호를 서로 바꾼 값을 하류로 보냄

 

x(하류1) * y(하류2) = z(상류)이고 상류 값이 1이라면,

x = 1(상류 값) * y(다른 하류의 값)

y = 1(상류 값) * x(다른 하류의 값)