[모두의 인공지능 기초수학] 미분-1

---

7 함수의 극한과 연속

---

💡  함수의 극한과 최대, 최소

#1 미분

👉🏻 인공지능에서 미분은 '역전파'에서 활용됨 

① 입력층 input

 : 데이터가 입력되는 계층

② 은닉층 hidden

 : 입력층과 출력층 사이에 위치하여 복잡한 분류 문제에서 판별 경계를 찾는데 사용

③ 출력층 output

 : 활성화 함수 값을 계산하여 출력을 결정

④ 가중치 weight

 : 각 신호가 결과에 주는 영향력을 조절하는 요소로 가중치가 클수록 해당 신호가 그만큼 더 중요하다는 의미

⑤ 가중합 weighted sum

 : 입력값(x)과 가중치(w)의 곱을 모두 더한 후 그 값을 편향(b)에 더한 값

⑥ 편향 bias

 : 가중합에 더하는 상수로 하나의 뉴런에서 활성화 함수를 거쳐 최종으로 출력되는 값을 조절함

⑦ 활성화 함수 activation function

 : 가중합의 결과를 놓고 1또는 0을 출력해서 다음 뉴런으로 보내는데 이 때 0과 1을 판단하는 함수가 활성화 함수

# 미분과 인공지능 관계

- 각 원(뉴런) 값을 구하려면 입력 데이터, 가중치, 편향, 활성화 함수만 알면 됨

- 입력 데이터는 이미 알고있고 활성화 함수도 가중합으로 알 수 있기 때문에 가중치와 편향만 구하면 됨 !

- 가중치와 편향은 역전파로 구하는데 이 때 미분을 사용 

- 출력 값과 정답의 차이가 0에 가까워지도록 가중치와 편향의 값을 계속해서 조정하기 반복

# 역전파

x(i) : 입력값
y(i) : 출력값
w(i) : 현재 가중치
w(i+1) : w(i)의 업데이트 된 값
n(i) : 학습률 ( 0 < n ≤ 1)

(1) 만약, w(i) * x(i) > 0 & y(i) = -1이면,  w(i+1) = w(i) - n(i) * x(i) 

- i번째 출력값이 -1 이고 i번째 입력값과 i번째 가중치를 곱한 값이 0보다 클 때

- 정답과 출력값의 오차를 줄이려고 현재 가중치 값에 학습률과 입력값을 곱한 값을 빼면서 가중치를 업데이트

 

(2) 만약, w(i) * x(i) ≤ 0 & y(i) = 1이면,  w(i+1) = w(i) + n(i) * x(i) 

- i번째 출력값이 1이고 i번째 입력값과 i번째 가중치를 곱한값이 0보다 작거나 같을 때

- 현재 가중치에 학습률과 입력값을 곱한 값을 더하면서 가중치를 업데이트

 

→ 미분은 (출력 값 - 정답)² 값을 가중치로 미분할 때 사용

      w(i) - n(i) * x(i) 를 w(i)로 미분하거나 w(i) + n(i) * x(i) 를 w(i)로 미분한 값이 w(i+1) !!!!!

인공지능에서 학습이란 ? 신경망에서 원하는 결과를 얻기 위해 뉴런 사이의 적당한 가중치를 알아내는 것
즉, 가중치를 최적화하는 것이라고 할 때 미분은 인공지능의 가중치 계산에서 핵심

👉🏻 미분 ? 한 점에서 기울기

( 원래 두 점 사이의 기울기르 의미하지만 두 점의 사이가 0에 가까울 정도로 가까워 한 점에서의 기울기라고 표현 )

→ f(x) 라는 함수 위의 한점 ( a, f(a) )에서의 기울기이며  f'(a) 라고 씀

👉🏻 f '(a)

① a라는 점에서의 기울기

② a라는 점에서 접선의 기울기

③ a라는 점에서의 미분 값

④ a라는 점에서의 미분 계수

→ f(x) 함수 위에 P(a, f(a)) 라는 점이 있고 a에서 각 각 h만큼씩 움직인 Q( a+h, f(a+h) )라는 점이 있을 때,

                                                         점 P와 Q 사이의 기울기는 ?

** 여기서 기울기는 x의 증가량이 0과 가까워질 때의 기울기

     x의 증가량을 계산하면 결국은 h만 남으며 x의 증가량은 h가 됨

      → h를 0으로 보내면 수식 표현 가능

- 점 Q가 점 P의 0에 가까워진다면 기울기가 점점 변하면서 결국 한 점 P에서의 기울기가 됨

 

#2 함수의 극한(수렴과 발산)

👉🏻 함수의 극한(수렴)

-  함수 f(x)에서 x가 a와 다른 값을 취하면서 a에 한 없이 가까워질 때,

    즉 f(x) 값이 일정한 값 b에 한 없이 가까워지면 함수 f(x)는 b에 수렴한다고 표현

- 이때 b를 x 값이 a에 한없이 가까워질 때 f(x)의 극한 값 또는 극한이라고 함

x → a일때, f(x) → b 또는 limf(x) = b

* x  → a 의 의미는 ?
(1) x와 a가 같지 않다면 a에 한없이 가까이 가는 상태를 의미
(2) 좌극한(x  → a - 0) 과 우극한(x  → a + 0) 두 경우를 묶어서 (x  → a)로 나타냄

특히 상수함수 f(x) = c는 모든 x 값에 대해 항상 같은 값 c를 출력  

👉🏻 ∞, -∞에서 함수의 극한

- 함수 f(x)에서 x가 양수이면서 그 절대값이 한 없이 커질 때, 함수 f(x) 값이 일정한 값 a에 한없이 가까워지면(수렴하면) 

                                        x → ∞ 일 때, f(x) → a 또는 limf(x) =a 로 표현함

- 함수 f(x)에서 x가 음수이면서 그 절대값이 한 없이 커질 때, 함수 f(x) 값이 일정한 값 a에 한없이 가까워지면(수렴하면) 

                                        x → -∞ 일 때, f(x) → a 또는 limf(x) =a 로 표현함

👉🏻 함수의 발산

- f(x)에서 함수 값이 어떤 실수 값에 수렴하지 않고 무한히 커지는 것을 의미

1) 양의 무한대

- 함수 f(x)에서 x 값이 a에 한 없이 가까워질 때, f(x) 값이 한 없이 커지면 f(x)는 양의 무한대로 발산한다고 함

                                                  x → a일 때, f(x) → ∞ 또는 limf(x) = ∞

2) 음의 무한대

- 함수 f(x)에서 x 값이 a에 한 없이 가까워질 때, f(x) 값이 음수이면서 그 절대값이 한 없이 커지면 f(x)는 음의 무한대로 발산한다고 함

                               x → a일 때, f(x) → - ∞ 또는 limf(x) = - ∞

3) 진동

- 극한으로 다가 갈 수록 끊임없이 진동하는 것

 

# 파이썬으로 극한값 구하기

from sympy import Limit, S, Symbol
x = Symbol('x')
Limit(1/x, x, S.Infinity).doit()                   # 1/x에 대한 극한 값, 결과 : 0
Limit(1/x, x, 0).doit()                             # 우극한 값, 결과 : ∞
Limit(1/x,x,0,dir='-').doit()                  # 좌극한 값, 결과 : - ∞

- Limit 함수로는 극한값을 구할 수 있음

- S함수로 무한(infinity)의 정의를 포함할 수 있음

- Limit( 극한을 구하는 함수의 값, x변수, x변수에 다가가는 값)

- 극한 값을 계산하기 위해서는 doit() 함수 사용

- 좌극한은 dir='-'를 포함해야 함

👉🏻 좌/우극한 및 극한값의 조건

# 함수의 좌극한 우극한

* x 값이 3으로 가까워지는 두 가지 상태

1) 3보다 크면서 3으로 다가오는 상태를 3+로 표현 (우극한)

2) 3보다 작으면서 3으로 다가오는 상태를 3-로 표현 (좌극한)

 

→ 함수 f(x)에서 x가 a보다 작으면서 a로 점점 가까워질 때, f(x)가 가까워지는 값이 있다면 이것을 점 a에서 함수의 좌극한이라고함

→ 함수 f(x)에서 x가 a보다 크면서 a로 점점 가까워질 때, f(x)가 가까워지는 값이 있다면 이것을 점 a에서 함수의 우극한이라고함

# 극한값의 존재 조건

" 우극한과 좌극한이 같아야 함 "

 

#3 함수의 연속

- 그래프가 끊어지지 않고 계속 연결된 함수를 의미

- 함수 f(x)가 x=a에서 연속이다

① 함수 f(x)가 x=a가 정의되어야 함

② limf(x)가 존재해야 함 = 좌극한과 우극한이 같음    

③ limf(x) = f(a)어야 함

* 함수의 불연속 ? x=a에서 끊어진 함수

     ① x=a가 정의되지 않음               ② 좌극한과 우극한이 다름           ③limf(x)와 f(a)가 다름

#4 함수의 최대, 최소

👉🏻 이차함수 표현 : y = t(x - p)² + q

(1) a>0일때, 최댓값은 없고 최솟값은 q

(2) a<0일때, 최댓값은 q이고 최솟값은 없음

👉🏻 함수 값에 대한 범위가 { x | a ≤ x ≤ b } 로 정해져 있을 때

(1) 꼭지점의 x 좌표가 a ≤ x ≤ b에 포함되는 경우 f(a), f(p), f(b) 값 중 가장 큰 값이 최댓값, 작은 값이 최솟값

 

(2) 꼭지점의 x 좌표가 a ≤ x ≤ b에 포함되지 않는 경우 f(a), f(b) 값 중 큰 값이 최댓값, 작은 값이 최솟값

 

---

---

8 다항함수의 미분

---

💡  다항함수의 미분

#1 평균변화율

- 미분은 x가 변하는 양에대해 y가 얼마나 변하는지를 구하는 변화율을 구하는 것

- 변화율에는 순간변화율과 평균변화율이 있음

- 순간변화율은 찰나의 순간에 대한 변화율을 구하는 것으로 그 찰나의 변화율을 순간변화율 혹은 미분계수라고함

수학에서 증가량을 표현할 때는 △x 기호 사용
ex) x가 1에서 5로 변했다고 가졍했을 때, x는 4만큼 증가했다면 기호로 △x = 4 로 표현

👉🏻 평균변화율이란 ? 함수 f(x)가 있을 때 x 증가량 분의 y 증가량을 의미

*  x가 a에서 b로 변할 때 평균 변화율은? ( 뒤의 경우는 △x 를 h로 치환 )

 

 

 

 

두 정점을 지나는 직선의 기울기가 평균변화율

 

# 파이썬으로 평균변화율 구하기

from sympy import symbols

def average(a,b) :
    m = max(a,b)                  # a, b의 최댓값
    n = min(a,b)                    # a, b의 최솟값 
    x=symbols('x')                # 기호 변수 x 선언 
    
    fx = 2*x**2 + 4 * x + 7          #2x^2 + 4x + 7 함수 정의 
    fb = fx.subs(x, m)                  # 함수에 m 대입
    fa = fx.subs(x, n)                    # 함수에 n 대입
    
    result = (fb-fa)/ (m-n)
    return result

print(average(0,2))                  # 결과 : 8

#2 미분계수 (순간변화율)

👉🏻 미분계수는 x의 증가량이 0으로 가까이 갈 때 평균변화율

- 함수 y=f(x)인 경우 x가 a부터 a+△x로 변할 때의 평균변화율

- x의 변화량을 0으로 가까이 보낸 것이 미분계수

- 즉, x가 a부터 a+△x로 변할 때의 평균변화율에서 △x→ 0일 때의 극한값을

         x=a에서의 미분계수 또는 순간변화율이라고 하며 f'(a)로 표현 (뒤는 x=a+h)

 

 

 

 

 

f'(a)는 함수 y=f(x)가 있을 때,

(a, f(a))에서 접선의 기울기

 

# 파이썬에서 미분계수 구하기

from sympy import Derivative, symbols
 x   = symbols('x')
fx = 2*x**2 + 4 * x + 7                                                               #2x^2 + 4x + 7 함수 정의 

fprime = Derivative(fx, x).doit()                                          #fx의 x에 대해 미분하겠다는 의미 / derivativ클래스의 객체 생성
n = fprime.subs({x: 3})                                                            #x=3에서의 미분계수 f'(3) 구하기
print("fx에서 x=3에서의 순간변화율(미분계수)는", n, "입니다")                  # 결과 : 16

#3 도함수

👉🏻 도함수란? 함수f(x)를 미분하여 얻은 f'(x)

- d는 변화량(△)을 의미하는 기호, 그 변화량을 아주 작은 0으로 보내는 것

# 파이썬에서 도함수 구하기

from sympy import Derivative, symbols

x=symbols('x')
fx=2*x**2+4*x+7

Derivative(fx,x).doit()

#4 함수의 연속과 미분 가능성

- 어떤 함수가 x=a에서 미분이 가능하다는 것은 x=a에서의 미분계수가 존재한다는 의미

= 미분가능성 = 미분계수 = 평균변화율의 극한값

* 미분가능성과 연속성간의 관계 →  미분가능하면 연속이다

 

(1) 미분 가능하면 연속이다

(2) 연속이라고해서 항상 미분 가능한 것은 아님

 

 

 

# 미분의 가능한 경우

- 접선의 기울기를 정확히 구할 수 있어야 함

- 연속으로 그래프가 이어져 부드럽게 이어진 것은 구할 수 있음

#5 다항함수의 미분법

👉🏻 미분법의 기본 공식 

① f(x) = c이면 f'(x) = 0

② f(x) = xⁿ이면 f'(x)=nxⁿ˘¹

③ { cf(x) }' = cf'(x)

④ {f(x) ± g(x)}' = f'(x) ± g'(x)

⑤ {f(x)g(x)}' = f'(x)g(x) + f(x)g'(x)

# 파이썬으로 미분할 함수와 미분할 변수를 이용하여 미분 계산하기

import sypy as sym
x = sym.Symbol('x')
a = sym.diff( (2*x**3 + 3*x**2 + x + 1 ), x )
print(a)

6*x**2 +6*x + 1​

---