로딩
요청 처리 중입니다...

Deep Learning Compiler 종류

 Deep Learning Compiler 종류

안녕하세요, MoonLight입니다. 오늘은 널리 쓰이고 있는 Deep Learning Compiler 몇 가지를 살펴보도록 하겠습니다. 1.

TVM 1.0. Overview TVM은 CPU , GPU 그 외의 다른 Deep Learning Accelerator들에 맞게 Model을 Compile하는 Framework입니다.

다양한 Hardware Backend에 맞게 Model을 최적화하고 효율적으로 계산하도록 만들어 줍니다. 1.1. Conversion & Optimization TVM이 Model을 최적화하고 Machine Code를 생성하는 방법을 소개하도록 하겠습니다.

변환하고자 하는 Tensorflow / PyTorch / Onnx File을 입력 받습니다. TVM의 High Level Model Language인 ‘Relay’ 형태로 변환합니다.

TE(Tensor Expression) 형태로 Lowering을 합니다. Lowering이란 High-Level Represe...

# Compiler # 종류 # XLA # TVM # TensorRT # tensorflow # optimization # NVCC # LLVM # Learning # jit_compile # GPU # glow # Deep # conversion # 최적화