본문 바로가기
728x90
반응형
SMALL

DL9

인공지능이란? 인공지능이란? - 인간의 지능을 인공적으로 만든 것 - 인간의 사고방식을 흉내내는 것 인공지능 vs 머신러닝 vs 딥러닝 - 인공지능 -> Rule-based algorithms : 규칙을 찾아내서 알아낸다. - 머신러닝 -> 결정 트리, 선형 회귀, 퍼셉트론, SVM - 딥러닝 -> CNN, RNN, GAN : 깊은 인공 신경망으로 학습한다. 딥러닝의 입력과 출력 - 숫자를 입력하여 숫자를 출력한다. - 우리가 보는 이미지의 R/G/B 세개의 색(채널)로 조합되어진 것이다. -> 3차원 행렬형태로 나타낼수 있다. - RNN : 문장도 숫자로 변환되어 입력된다. - GAN : 두가지 학습이 있다. (Generator / Discriminator) GAN의 출력은 Generator의 출력이다. G와 D는 .. 2024. 1. 22.
[통계] 확률 1. 확률 시행 : 반복할 수 있으며, 매번 결과가 달라질 수 있는 실험 사건 : 시행에 따른 결과 확률 : 어떠한 사건이 일어날 가능성 확률변수 : 시행할 때마다 변할 수 있는 값 확률함수 : 확률변수 에 따라서 확률 값을 부여하는 함수 예) 동전 던지기 시행 : 동전 2개 동시에 던지기 (0,1이 적혀있다) 확률 변수 : 두 눈금의 합 -> 0,1,2 표본 공간 : (0, 0), (0, 1), (1, 0), (1, 1) 확률 함수 : 1) P(X=0) = 1/4 2) P(X=1) = 1/2 3)P(X=0) = 1/4 이산확률변수 : 확률변수가 취할 수 있는 모든 값을 셀수 있는경우 확률질량변수 : 이산확률변수가 특정한 값을 가질 확률 조건부 확률 : P(Y|X) -> X가 Y일 확률 연속확률변수 : .. 2023. 12. 21.
퍼셉트론 - 2 * 밑바닥부터 시작하는 딥러닝 도서를 참조하여 기초 공부중 * 책을 보며 필기하고 간략한 메모 형식으로 정리 [가중치와 편향 도입] [퍼셉트론의 한계] * 직선으로만 영역을 나눌 수 없는 것이 한계라고 표현하는 것 같다. 2023. 11. 2.
퍼셉트론 - 1 * 밑바닥부터 시작하는 딥러닝 도서를 참조하여 기초 공부중 * 책을 보며 필기하고 간략한 메모 형식으로 정리 [퍼셉트론] [AND Gate] [NAND Gate] 2023. 11. 1.
Multi-Node Multi-GPU Train with Mask DINO Node : machine을 의미, 위의 그림의 경우 machine이 2대이다. Global Rank : 전체 프로세스 기준으로 부여되는 번호 Local Rank : 각 node 기준으로 부여되는 번호 tcp 통신 방식으로 multi-node 학습을 하기 위해서 서로의 ethernet 이름을 동일하게 만든다. 네트워크 이름변경은 아래 링크 참고 https://sim-deeplearning.tistory.com/62 sudo vim ~/.bashrc export GLOO_SOCKET_IFNAME = eth0 export NCCL_SOCKET_IFNAME = eth0 source ~/.bashrc [Node 0] python train_net.py --machine-rank 0 --num-gpus 2 --n.. 2023. 7. 27.
[Mask DINO] Train with Custom Dataset [Error] 1. File "/home/.../detectron2/detectron2/engine/train_loop.py" TypeError: __init__() got an unexpected keyword argument 'dtype' 1- solution /detectron2/detectron2/engine/train_loop.py 에서 with autocast(dtype=self.precision): 위 문장 주석처리 2. UnboundLocalError: local variable 'losses' referenced before assignment 2-solution /detectron2/detectron2/engine/train_loop.py 에서 zero_grad_before_forwar.. 2023. 6. 21.
[Mask DINO] Environment Setting & Dataloader with Custom Dataset https://github.com/IDEA-Research/MaskDINO python=3.8, pytorch=1.9.0, cuda=11.8 [Error] ####################################################################################### "ImportError: cannot import name 'cached_property' from 'functools' (/opt/conda/lib/python3.7/functools.py)" python 3.8 이상의 버전 필요 ####################################################################################### [Envi.. 2023. 6. 20.
신경망 신경망은 여러개의 퍼셉트론을 쌓은 다층 퍼셉트론으로 볼 수 있으며 아래의 그림과 같이 입력층, 은닉층, 출력층으로 구성된다. 이전의 퍼셉트론이 임계값을 기준으로 0 아니면 1로 출력되는 계단함수를 활성화함수로 사용하는 반면 신경망은 비선형의 활성화 함수를 사용한다. 활성화 함수란 가중치가 곱해진 입력신호의 총합을 활성화 할지 정해주는 함수이다. 예를 들어 아래와 같은 시그모이드 함수는 오른쪽에 값이 대입되어 출력값을 돌려주는 형태로 입력되는 값에 따라 다른 값을 출력하게 된다. 흔하게 사용되는 활성화 함수는 ReLU이다. 아래의 그래프와 식과 같이 입력된 신호를 계산하지 않고 그대로 입력해주며 음수가 입력되는 경우는 무조건 0을 반환하는 방식이다. 2022. 3. 18.
Perceptron 퍼셉트론은 처음 제안된 인공신경망으로 위 그림과 같이 입력되는 신호를 축삭돌기를 통해 축삭말단으로 전달하는 형태이다. 위 그림과 같이 다중의 입력이 축삭돌기와 같이 신호를 전달해주는 weight(가중치)값이 부여되어 하나의 출력을 낸다. 이때 가중치 값이 클수록 중요한 신호라는 의미이다. 가중치가 부여된 값이 정해진 bias(임계값)을 넘으면 1, 아니면 0으로 분류된다. 퍼셉트론 모형으로 데이터를 학습하면서 잘못 부여되는 가중치값은 계속해서 업데이트된다. bias는 높게 설정될수록 분류기준이 엄격해지지만 underfitting의 문제가 있다. 반대로 낮게 설정되면 overfitting의 문제가 발생한다. 퍼셉트론은 1 아니면 0으로 분류하는 선형분류이기 때문에 XOR과 같이 어느 한쪽이 1일때 1인 비.. 2022. 3. 17.
728x90
반응형
LIST