[기초통계학] 미분

미분

인공지능 용어 정리

입력층 (input) : 데이터가 입력되는 계층

은닉충 (hidden) : 입력층과 출력층 사이에 위치, 판별 경계를  찾는데 사용

출력층 (output) : 활성화 함수 값을 계산하여 출력을 결정

가중치 (weight) : 신호가 결과에 주는 영향력을 조절, 가중치가 클수록 중요함

가중합 (weighted sum) : 입력 값과 가중치의 곱을 모두 더한 후 편향을 더함

편향 (bias) : 가중합에 더하는 상수, 최종으로 출력되는 값을 조정하는 역할

활성화 함수 (acivation function) : 가중합 결과에 따라 다음 뉴런으로 보낼 0과 1을 판단하는 함수 (ex. 시그모이드 함수, 렐루 함수)

 

 

미분

인공지능에서 가중치와 편항을 구하는 역전파에 활용

 

미분 : 한 점에서의 기울기 (= 두 점 사이에서의 기울기)

f(x) 함수 위의 한 점 (a. f(a))의 기울기를 구함

-> f`(a) (F 프레임)라고 표기

 

f`(a) =

a라는 점에서의 기울기,

a라는 점에서 접선의 기울기,

a라는 점에서의 미분 값,

a라는 점에서의 미분 계수

 

 

기울기 = $\frac{y증가량}{x증가량} = \frac{f(a+h) - f(a)}{(a+h)-a}$

 

미분은 한 점에서의 기울기이기 때문에, x 증가량이 0에 가까운 기울기라고 봐도 됨

-> 공식에서 x 증가량은 h이므로, h를 0으로 보냄

 

$\displaystyle \lim_{x 증가량 \to 0}\frac{y 증가량}{x 증가량} = \displaystyle \lim_{h \to 0}\frac{f(a+h)-f(a)}{(a+h)-a}$ 

 

최종 수식 : $f`(a) = \displaystyle \lim_{h \to 0}\frac{f(a+h)-f(a)}{(a+h)-a}$

-> x = a라는 한 점에서의 접선의 수식을 나타냄

 

 

 

함수의 극한(수렴)

x$\neq$a 이해가 가장 중요함

$f(x)=\frac{x^{2}-1}{x-1}$

$g(x) = x + 1$

 

f(x)는 풀이 하였을 때 $f(x) = \frac{(x-1)(x+1)}{x-1} = (x+1)$와 같은 결과가 나타나지만,

x가 1인 경우 분모가 0이 되므로 성립하지 않음 (비워진 동그라미로 표현하며, 함수가 연속적이지 않음)

 

 

수렴

f(x)에서 x가 선상에 있는 (a, b)위치의 a와 다른 값을 취하면서(x$\neq$a), a에 한없이 가까워지는 경우 ' f(x)는 b에 수렴한다 '라고 표현

b = x값이 a에 한없이 가까워질 때 f(x)의 극한 값 또는 극한이라고 표현

 

$x\to a일 때,  f(x)\to b 또는 \displaystyle \lim_{x \to a}f(x)=b $

 

- $x\to a$의 의미

1) x$\neq$a를 만족하는 경우 a에 한없이 가까워지는 상태

2) 좌극한(x$\neq$a-0)과 우극한(x$\neq$a+0) 두 경우를 묶어서 나타냄

 

 

함수의 극한 = b를 찾는다

조건을 함수에 넣어서 나오는 결과 값이 b이다.

 

 

$\infty$, $-\infty$에서 함수의 극한(수렴)

f(x)에서 x가 양수이면서 그 절댓값이 한없이 커질 떄, a에 한 없이 가까워지는 경우

$x\to \infty$일 때 , $f(x)\to a$ 또는 $\displaystyle \lim_{x \to \infty}f(x)=a$

 

f(x)에서 x가 음수이면서 그 절댓값이 한없이 커질 떄, a에 한 없이 가까워지는 경우

$x\to -\infty$일 때 , $f(x)\to a$ 또는 $\displaystyle \lim_{x \to -\infty}f(x)=a$

 

 

분자와 분모에 x가 있는 형태($\frac{\infty }{\infty }$)일 때, 분모와 분자에 x의 최고차항으로 분모와 분자를 나누어줌

x는 0으로 수렴하기 때문에 0을 넣어줌 -> 나온 결과 값이 극한 값(나온 값으로 수렴)

 

 

 

함수의 극한(발산)

함수 값이 어떠한 실수 값에 수렴하지 않고 무한히 커지는 것

양의 무한대 발산, 음의 무한대 발산, 진동 등이 포함 됨

 

양의 무한대 발산

$x\to a$일 때 , $f(x)\to\infty$ 또는 $\displaystyle \lim_{ x\to a }f(x) =\infty$

 

음의 무한대 발산

$x\to a$일 때 , $f(x)\to-\infty$ 또는 $\displaystyle \lim_{ x\to a }f(x) =-\infty$

 

+0으로 한없이 가까워 질 때 $+\infty$, -0으로 한없이 가까워질 때 $-\infty$

x=0에서의 극한 값은 존재하지 않음

 

 

 

좌/우극한 및 극한값의 조건

좌극한과 우극한

f(x)에서 x가 a보다 작으면서 a로 점점 가까워질 때, f(x)가 가까워지는 값을 ' 점 a에 대한 함수의 좌극한 '이라고 표현

f(x)에서 x가 a보다 크면서 a로 점점 가까워질 때, f(x)가 가까워지는 값을 ' 점 a에 대한 함수의 우극한 '이라고 표현

 

 

극한 값의 존재 조건

좌극한과 우극한의 값이 같아야 함

 

 

 

함수의 연속

그래프가 끊기지 않고 계속 연결된 함수

 

 

 

함수의 최대, 최소

$y = t(x-p)^{2} +q$ 수식이 있을 때,

- 함수 값에 대한 범위가 지정되어 있지 않는 경우

1) a > 0 일 때, 최대 값은 없고, 최소 값은 q 

2) a < 0 일 때, 최대 값은 q이고, 최소 값은 없음 

 

 

- 함수 값에 대한 범위가 지정되어 있는 경우 { x | a <= x <= b }

1) 꼭지점 x좌표가 조건 사이에 포함되어 있는 경우,

f(a), f(x), f(b) 중 가장 큰 값이 최댓값, 가장 작은 값이 최소값이 됨

 

2) 꼭지점 x좌표가 조건 사이에 포함되어 있지 않는 경우,

f(a), f(b) 중 큰 값이 최대, 작은 값이 최소값이 됨