Google Coral Edge TPU
Google Coral 에 대해 알아보겠습니다. 검색엔진과 지메일, 유튜브와 같은 서비스로 잘 알려진 미국의 대표적인 S/W 기업 구글 에서 Edge Inference 수행을 위한 하드웨어를 출시하였습니다. 사실 구글 내부에서는 2015년부터 이미 TPU (Tensor Processing Unit) 를 사용하고 있었습니다. 그러다가 2018년부터는 구글의 클라우드의 구성 요소로 사용하면서 판매용 칩으로도 제공하기 시작했습니다.
Google Coral Product Line-up
라인업은 크게 두 가지로 살펴볼 수 있습니다. SBC (Single Board Computer) 형태로 제공되는 개발보드와 SoM (System on Module) 형태로 제공되는 모듈입니다. 개발보드는 Debian 계열의 Linux를 이용해 모든 device driver를 활성화 할 수 있으므로, 초기 개발 단계에서 evaluation cost를 줄일 수 있습니다. SoM은 양산에 적합하도록 TPU 칩을 포함한 기본 모듈로만 구성되어 있습니다.
그 이외에도 USB 가속기에 사용하기 위한 모듈, 미니보드, PCIe Accelerator, M.2 Accelerator 등의 제품군을 제공하고 있습니다. 자세한 사양과 인터페이스는 여기에서 살펴볼 수 있습니다.
Coral TPU Performance
가장 중요한 성능에 대해 알아보겠습니다. SBC 형태의 개발 보드 기준 성능 스펙은 딥러닝 가속기 최대 4 TOPS입니다. NVIDIA Jetson Nano 가 0.5 TOPS, TX2가 1.5 TOPS가 안되는 것을 감안하면 NVIDIA 저가 라인에 비해 딥러닝 가속기는 준수한 수준이라고 할 수 있습니다. 가격은 NVIDIA Jetson Nano 가 개발 보드 기준 대략 99$ 정도, Coral 은 129$ 입니다. NVIDIA Jetson 시리즈와 함께 표로 정리해 보겠습니다.
| 제품 | Google Coral | NVIDIA Jetson Nano | NVIDIA Jetson TX2 |
|---|---|---|---|
| 딥러닝 가속기 성능 | 4 TOPS | 0.5 TOPS | 1.5 TOPS |
| 가격 | 130$ | 100$ | 400$ |
NVIDIA Jetson TX2 는 개발 보드에 더해 카메라도 포함되어 있고 딸려오는 주변 기기가 좀 있기 때문에 단순 가격 비교는 불가합니다. 그래도 Google Coral이 가격 대비 딥러닝 가속기 성능은 괜찮은 편이라고 생각됩니다. 여기에 더해 Vivante GC7000 GPU도 내장되어 있어 크여러가지 용도로 사용할 수 있습니다.
Coral Video Performance
비전 처리에 사용하고자 하는 경우 영상 처리 성능도 중요합니다. Coral에서 제시한 벤치마크 상으로 영상 디코딩 성능은 다음과 같습니다.
- 4Kp 60FPS H.265 main profile decoding
- 4Kp 60FPS VP9 decoding
- 4Kp 30FPS AVC/H.264 decoding
최근에는 4Kp 영상도 많이 대중화 되고 있는 중이라 영상 처리 성능이 조금 아쉬운 것은 사실입니다. 영상 처리 성능은 Jetson Nano와 크게 차이나지는 않는 것 같습니다.
참고로 NVIDIA Jetson 시리즈에 대한 리뷰도 있으니 함께 점검해 보시면 좋겠습니다.
1개의 댓글
CPU GPU TPU NPU 쉽게 개념 정리 합시다- voidint.com · 2020-10-14 23:49
[…] Edge Inference 에 좀 더 관심이 있는 분들은 NVIDIA 제품이나 Google 제품에 대한 간단한 성능 리뷰도 참고해 보시면 […]