GPU vs NPU 구조 및 NPU 목적

GPU NPU 구조 및 이러한 하드웨어를 사용할 때의 딥러닝 방식은 어떤 차이를 유발할까요. 대략 2016년 정도부터 본격적으로 딥러닝 기반 AI가 학계, 산업계에서 주목받기 시작했던 것 같은데 벌써 여러 반도체 기업들이 NPU 또는 주변장치들을 묶어 NPU 기반 SoM 이나 개발보드 등을 출시하고 있습니다. 대체 NPU 가 무엇이고 왜 AI 에 필요한 더보기…

임베디드 딥러닝 플랫폼 (1) NVIDIA Jetson

임베디드 딥러닝 플랫폼 Prologue 이제는 어렵지 않게 다양한 분야에서 인공 지능과 4차 산업 혁명에 대한 이야기를 들을 수 있게 된 것 같습니다. 그렇지만 아직까지 인공지능의 주요 연구들은 학계와 일부 대기업의 선행 연구소를 중심으로 이루어지고 있습니다. 어떤 기술이 연구 중심에서 산업이 주도하는 분야로 전이되는 과정에서는 낮은 비용으로 필드에 대량 공급할 수 더보기…

NVIDIA Jetson TX2 Yolo-v4 Inference Test

알려진 네트워크를 이용하여 Jetson TX2 Yolo-v4 Inference Test 를 진행해 보겠습니다. Quantization 을 비롯한 여러 Network Optimization 기법은 사용하지 않고 그냥 Yolo-v4 Full Network 을 이용해 high precision 추론을 수행해 보려고 합니다. NVIDIA Jetson TX2 설치를 모두 완료했다면, CUDA와 cuDNN 같은 도구들도 함께 설치가 되었을 것입니다. 이러한 도구들을 이용해 간단한 더보기…

NVIDIA Jetson TX2 설치(2020.07.07)

NVIDIA Jetson TX2 설치 과정은 대부분 자동화되어 있기 때문에 무척 간단한 편입니다. 몇 가지 주의사항만 숙지하면 누구나 쉽게 설치할 수 있습니다. 혹시 부족한 부분은 NVIDIA developer document 에서 살펴볼 수 있습니다. 관심이 있다면 NVIDIA TX2 를 이용한 시험 과정들과 DeepStream 시험 과정을 정리한 글도 살펴보시면 좋겠습니다. TX2 보드에 운영체제를 Flashing하고 더보기…