CUDA out of memory error 문제

RuntimeError: CUDA out of memory. Tried to allocate 300.00 MiB (GPU 0; 4.00 GiB total capacity; 2.69 GiB already allocated; 220.35 MiB free; 2.71 GiB reserved in total by PyTorch)

 결론부터 말하자면 위와 같은 에러가 발생했다면, mini_batch 사이즈를 줄이거나 이미지를 리사이징 하는 방법 정도 외에는 방법이 없다. (혹은 그래픽카드를 업그레이드/추가 하는 방법이 있긴 하다.)

GPU가 일하고있는지를 보려면 해당 ctrl+shift+esc -> 성능 탭 -> 해당 gpu(그래픽카드) -> 빨간 동그라미 부분 copy를 Cuda로 변경 해서 볼 수 있다.

 작업관리자 상에서 cuda를 확인해보면 공유 GPU메모리가 7.9GB가 놀고있는게 보인다.

 저걸 사용하는 방법을 찾아보려 하였으나, 사실 공유 GPU메모리는 GPU에 실존하는 메모리가 아니라 가상 메모리라서 그냥은 쓸 수가 없다고 한다. 공유 GPU메모리는 안쓰고 있는게 정상이다.