반응형 신경망7 CNN 딥러닝 쉬운설명 (글로만 이해하기) 기존 방식의 한계 (FCN의 한계) 1. 픽셀 수가 많을 경우 너무 많은 신경망이 필요함. 예를들어 픽셀 수가 100만개일 경우 입력이 100만개임. 2. 이미지 안의 특정 대상의 위치가 바뀔 경우 정확도 떨어짐. 예를들어 사람 얼굴이 좌측 상단에 있는 사진으로 학습된 데이터는, 우측 하단에 사람 얼굴이 있는 사진에서는 사람 얼굴을 검출하지 못함. CNN의 아이디어 CNN은 필터를 이용해 이미지로 부터 특징을 추출하는 방법입니다. 예를들어 사진에 사람 얼굴이 있는지 알고 싶다고 합시다. 사진 보다 작은 필터를 만듭니다. 이 필터는 사람 얼굴을 검출하는 필터입니다. 필터로 사진 위를 슬라이딩 하며 합성곱을 수행합니다. 결과로 얻어진 특징 맵의 값을 다 더해주면 특징맵의 값이 계산됩니다. 이 값은 특정 특징.. 2023. 11. 10. [손으로 푸는 딥러닝] 6. XOR 신경망 수식 세우기 지난시간에 찾아낸 XOR 연산의 신경망은 아래와 같습니다. 오늘은 위 신경망을 수식으로 표현해봅시다. 수식으로 표현하기 위해 위 신경망을 아래와 같이 변형하였습니다. 용어 설명을 먼저 하겠습니다. $w_{01}^{1}$에서 위첩자는 신호가 나가는 층 번호입니다. 아래첨자의 첫번째 숫자는 신호가 나가는 층의 퍼셉트론 번호이고, 두번째 숫자는 신호를 받는 층의 퍼셉트론 번호입니다. bias 는 0번으로 하였습니다. g는 활성화함수이고, y는 활성화 함수로 계산된 결과입니다. 순서대로 계산해봅시다. 먼저 $z_{1}$과 $z_{2}$가 계산됩니다. $z_{1}=w_{01}^{1}+w_{11}^{1}x_{1}+w_{21}^{1}x_{2}$ $z_{2}=w_{02}^{1}+w_{12}^{1}x_{1}+w_{22}.. 2023. 10. 16. [손으로 푸는 딥러닝] 5. XOR 연산 신경망으로 구현하기 우리는 지난시간까지 AND 와 OR 연산을 신경망으로 구현하는 방법을 알아보았습니다. 입력층과 출력층 두개의 층 만으로 구성된 단층퍼셉트론을 사용했는데요. 이번시간에는 XOR 연산을 신경망으로 구현해봅시다. XOR 연산은 아래와 같이 정의됩니다. 2차원 그래프로 나타내 보면 아래와 같습니다. 입력층과 출력층으로된 신경망인 단층퍼셉트론에서는 공간을 둘로 나누는 것 밖에 할 수 없기 때문에 XOR을 구현할 수가 없습니다. 단층퍼셉트론만 발견되었던 시절, 단층퍼셉트론이 XOR 문제를 해결할 수 없다는 것은 굉장히 큰 실망이었습니다. 단층퍼셉트론이 XOR 문제를 풀 수 없다는 것을 MIT의 마빈 민스키 교수가 증명하였습니다. 1969년의 일입니다. 이러한 단층퍼셉트론의 한계 때문에 신경망에 대한 연구가 침체기를.. 2023. 10. 16. [손으로 푸는 딥러닝] 3. OR 연산 신경망으로 구현하기 OR 연산에는 두개의 input 과 하나의 ouput 이 있습니다. input 을 $x_{1}$ 과 $x_{2}$ 라고 놓고, ouput 을 $\hat{y}$ 라고 놓겠습니다. OR 연산의 규칙을 표로 나타내면 아래와 같습니다. OR 연산은 참을 1, 거짓을 0이라고 두었을 때, 두 input 값 중 하나만 참이어도 ouput 이 참이 됩니다. OR 연산을 수행하는 신경망을 만들어봅시다. input 이 두개이고 ouput 이 하나인 신경망의 형태는 아래와 같습니다. 가장 단순한 형태인 단층퍼셉트론입니다. 입력층과 출력층으로만 구성되어 있습니다. 가장 왼쪽의 x 들이 입력층이고, 가운데 살색 층이 출력층입니다. z는 아래와 같이 계산됩니다. $z=w_{0}+w_{1}x_{1}+w_{2}x_{2}$ z를 계.. 2023. 10. 10. 계단함수를 현대신경망에서 사용하지 않는 이유 인체의 뉴런을 모방하여 만든 함수가 계단함수입니다. 초기 신경망 분야에서 사용되었던 함수입니다. 계단함수는 아래와 같은 형태의 함수입니다. $f(x)=\left\{\begin{matrix} 1 & x\geq 0 \\ 0 & others \end{matrix}\right.$ 위 함수를 미분하면 모든 구간에서 0이 나옵니다. 신경망의 핵심인 역전파 알고리즘을 사용할 수가 없습니다. 계단함수를 신경망에 사용하지 않는 이유입니다. 2023. 9. 27. 신경망 부르는 방법 신경망은 입력층, 은닉층, 출력층으로 구성된다. 신경망의 층 수를 나타낼 때는 입력층은 생략하고 나타낸다. 은닉층이 2개, 출력층이 1개이면 3계층 신경망이라고 부른다. 영어로는 3-layer neural network 라고 부릅니다. 2023. 9. 26. [손으로 푸는 딥러닝] 2. AND 연산 신경망으로 구현하기 AND 연산에는 두개의 input 과 하나의 ouput 이 있습니다. input 을 $x_{1}$ 과 $x_{2}$ 라고 놓고, ouput 을 $\hat{y}$ 라고 놓겠습니다. AND 연산의 규칙을 표로 나타내면 아래와 같습니다. AND 연산은 참을 1, 거짓을 0이라고 두었을 때, 두 input 값이 모두 참일 때만 ouput 이 참이 됩니다. AND 연산을 수행하는 신경망을 만들어봅시다. input 의 종류가 두개이고 ouput 이 하나인 신경망의 형태는 아래와 같습니다. 가장 단순한 형태인 단층퍼셉트론입니다. 입력층과 출력층으로만 구성되어 있습니다. 입력층은 층 수로 세지 않기 때문에 단층퍼셉트론 이라고 부릅니다. 가장 왼쪽의 x 들이 입력층이고, 가운데 살색 층이 출력층입니다. 위 신경망 그림은.. 2023. 9. 14. 이전 1 다음 반응형
