엔비디아 MIG 기능에 대하여 알아 보아요?

안녕하세요? 인프라큐브 ICT사업부 이팀장입니다.

오늘은 엔비디아 MIG 기능에 대하여 리뷰 하고자 합니다. 지난3월 구글과 세일즈포스, 아마존 등 빅테크의 후원을 받아 새로운 LLM모델 클로드3가 출시되고 성능이 GPT-4보다,제미나이 보다 좋다는 평가도 있습니다.

클로드3에는 H100을 몇만장을 구매 했다는 뉴스도 있고 Meta가 2024년 발주한 H100을 35만장 이라는 뉴스도 있습니다. H100을 도입해서 프로젝트를 하고 싶은데 지금 발주하면 6개월 이상 걸린다는데 그렇게 기다릴수는 없고 업체에 물어보니 엔비디아 L40S를 추천 합니다.

MIG(Multi-Instance GPU)기능이 없네요. 이기능은 뭐지 하고 궁금하셨을텐데요!

오늘 같이 알아 보겠습니다. 엔비디아의 Multi-Instance GPU(MIG)란?

MIG는 엔비디아의 Ampere 아키텍처 GPU (A100, A30 등), Hopper아키텍쳐(H100,H200등) 에서 제공하는 기능으로, 단일 GPU를 여러 ...