DeepLearning
GPU vs NPU 구조 및 NPU 목적
GPU NPU 구조 및 이러한 하드웨어를 사용할 때의 딥러닝 방식은 어떤 차이를 유발할까요. 대략 2016년 정도부터 본격적으로 딥러닝 기반 AI가 학계, 산업계에서 주목받기 시작했던 것 같은데 벌써 여러 반도체 기업들이 NPU 또는 주변장치들을 묶어 NPU 기반 SoM 이나 개발보드 등을 출시하고 있습니다. 대체 NPU 가 무엇이고 왜 AI 에 필요한 더보기…
DeepLearning
CPU GPU TPU NPU
최근 AI 산업의 급격한 성장으로 인해 AI 전용 칩의 생산과 판매도 활발해지고 있습니다. 그런데 의외로 IT나 실리콘 기술에 대해 어느 정도 지식이 있는 경우에도 CPU GPU TPU NPU 등의 용어에 대한 정확한 의미를 잘 모르는 경우가 있는 것 같습니다. 각각의 칩의 목적과 동작 방식에 대해 궁금하거나, 어렴풋이 알고는 있지만 정확하게 더보기…
DeepLearning
Google Coral 임베디드 딥러닝 플랫폼
Google Coral Edge TPU Google Coral 에 대해 알아보겠습니다. 검색엔진과 지메일, 유튜브와 같은 서비스로 잘 알려진 미국의 대표적인 S/W 기업 구글 에서 Edge Inference 수행을 위한 하드웨어를 출시하였습니다. 사실 구글 내부에서는 2015년부터 이미 TPU (Tensor Processing Unit) 를 사용하고 있었습니다. 그러다가 2018년부터는 구글의 클라우드의 구성 요소로 사용하면서 판매용 칩으로도 제공하기 더보기…
DeepLearning
임베디드 딥러닝 플랫폼 (1) NVIDIA Jetson
임베디드 딥러닝 플랫폼 Prologue 이제는 어렵지 않게 다양한 분야에서 인공 지능과 4차 산업 혁명에 대한 이야기를 들을 수 있게 된 것 같습니다. 그렇지만 아직까지 인공지능의 주요 연구들은 학계와 일부 대기업의 선행 연구소를 중심으로 이루어지고 있습니다. 어떤 기술이 연구 중심에서 산업이 주도하는 분야로 전이되는 과정에서는 낮은 비용으로 필드에 대량 공급할 수 더보기…
DeepLearning
DeepStream Yolo-v3 Inference 예제
이전에 DeepStream 기본 예제에서 Jetson TX2 내장 카메라인 CSI 의 영상 입력으로부터 ResNet 을 이용한 객체 감지 네트워크를 구동해 보았습니다. 이번에는 ResNet보다 계산 성능과 mAP 면에서 좀 더 활용도가 높은 Yolo-v3 를 활용하여 보겠습니다. 영상 입력으로부터 DeepStream Yolo-v3 Inference 를 수행해 보면서 DeepStream 과 Yolo-v3 Object Detection 에 대해서도 살펴보면 더보기…
DeepStream
NVIDIA DeepStream Config Overview
이번에는 간단한 DeepStream Config 내용을 좀 더 자세히 들여다 보고 각 세그먼트 그룹에서 설정하는 내용 및 커스텀하게 설정할 수 있는 항목 등을 살펴보겠습니다. 앞서 살펴본 NVIDIA Jetson TX2 DeepStream Example 에서 deepstream-app -c <CONFIG> 와 같은 형태로 DeepStream app 예제를 실행하는 것을 살펴보았습니다. DeepStream 샘플 애플리케이션을 구동해 보는 것은 어렵지 더보기…