본문 바로가기

반치용105

[저장]딥러닝 최적화 관련 https://sacko.tistory.com/42 문과생도 이해하는 딥러닝 (8) - 신경망 학습 최적화 2017/09/27 - 문과생도 이해하는 딥러닝 (1) - 퍼셉트론 Perceptron 2017/10/18 - 문과생도 이해하는 딥러닝 (2) - 신경망 Neural Network 2017/10/25 - 문과생도 이해하는 딥러닝 (3) - 오차 역전파, 경사하강법.. sacko.tistory.com 모멘텀, 학습률 감소 등 설명 2020. 3. 29.
CUDA out of memory error 문제 RuntimeError: CUDA out of memory. Tried to allocate 300.00 MiB (GPU 0; 4.00 GiB total capacity; 2.69 GiB already allocated; 220.35 MiB free; 2.71 GiB reserved in total by PyTorch) 결론부터 말하자면 위와 같은 에러가 발생했다면, mini_batch 사이즈를 줄이거나 이미지를 리사이징 하는 방법 정도 외에는 방법이 없다. (혹은 그래픽카드를 업그레이드/추가 하는 방법이 있긴 하다.) 작업관리자 상에서 cuda를 확인해보면 공유 GPU메모리가 7.9GB가 놀고있는게 보인다. 저걸 사용하는 방법을 찾아보려 하였으나, 사실 공유 GPU메모리는 GPU에 실존하는 메모리가 아.. 2020. 3. 29.
cnn 파라미터 수 계산 방법 및 꿀팁 (size mismatch 에러 관련) 처음 cnn을 본인 데이터에 적용 시키거나 변경을 시키다 보면 size mismatch 에러를 만나게 될 수 있다.(파이토치) 직접 파라미터 수를 계산 할 수도 있고, 꼼수를 부릴 수도 있다. 1. 계산 방법 (아래 링크 참조) - 비추천(이게 정석이고, 정말 좋은 자료이나 이 방법을 굳이 할 필요는 없다.) https://seongkyun.github.io/study/2019/01/25/num_of_parameters/ 2. 꿀팁 1) 그냥 아무 값이나 입력해서 에러를 띄운다. 2) size mismatch부분을 확인한다. m1 : 4 X 19200 m2 : 1920 x 2 라고 되어있는 부분이 중요하다. m1 : [a x b] -> [mini batch size x in features] m2 : [.. 2020. 3. 29.
파이토치를 이용한 resnet 기반 대장 내시경 종양 여부 구분 시도 640*480 / rgb 이미지를 기준으로 작성된 코드입니다. 1. 데이터 문제로 인해 과적합된 결과들입니다. 2. 펭귄브로의 3분 딥러닝 파이토치맛 resnet 에서 데이터 로딩 부분과 일부 파라미터, 모델 내 return(linear -> log_softmax)과 워닝 처리 추가 등을 한 코드입니다. 2020. 3. 28.
파이토치/토치비전 설치 관련 ModuleNotFoundError: No module named 'tools.nnwrap' 위 오류가 뜨면 이렇게 대처하면 됩니다... 몇 번을 지우고 깔고 했는데 역시 스택오버플로우... 근데 저 밑에 숨어있던 답변이라 에휴. 여튼 토치랑 토치 비전 같이 안정적으로 깔립니다. pip3 install torch===1.3.1 torchvision===0.4.2 -f https://download.pytorch.org/whl/torch_stable.html 2020. 3. 7.
2020-02-29 기준 tensorflow 2를 위한 환경 세팅(2.1.0) 환경세팅이 정말 헬하네요. 시작합니다. 기본은 https://chan-lab.tistory.com/13?category=805685 이 분 블로그로 시작합니다. 그대로 따라하면 안됩니다. 1. 가상환경 생성하실 때, python 최신버전이 3.7번대 인데... 뭔가 꼬이는지 에러가 뜨더라구요. conda create -n py368 python=3.6.8 이런식으로 밑줄 친 부분만 원하는 이름으로 바꿔서 설치합니다. 2. tensorflow 최신버전이 2.0.0 베타가 아닙니다. 2.1.0도 나왔습니다. pip install tensorflow-gpu==2.1.0 으로 설치하시면 됩니다. 3. 하는김에 pytorch도 설치하려면 pip install https://download.pytorch.org/w.. 2020. 2. 29.