분류 전체보기766 Understanding the concepts of Multi-instance GPU (MIG) A100에 새로이 적용된 MIG 기능에 대해 NVIDIA에서 제공하는 매뉴얼은 한번 다 읽어볼 필요가 있을 것 같아 필요한 부분만 일부 정리해봤다. NVIDIA MIG User Guide 정리 MIG는 최대 7 개의 CUDA Application을 위한 GPU 인스턴스를 다중 사용자에게 제공하여 GPU 사용률을 올리기 위한 기능이다. 다중 사용자의 Use case를 가지는 Cloud Service Provider를 위해, MIG는 사용자 간 작업 영향을 분리하는 것을 보장한다. NVIDIA A100 GPU를 이용했을때, 사용자는 가상 GPU Instance를 실제 물리 GPU처럼 사용하여 작업을 수행할 수 있다. MIG는 Linux operating system에서 동작하며, Docker Engine 은.. 2021. 3. 20. 이전 1 ··· 49 50 51 52 다음