간단한 센서 기반 사물 인터넷(IoT) 장치를 설계하는 것은 어렵지 않지만, 엣지 머신러닝(ML) 처리 기능을 갖춘 IoT 장치를 구축하는 것은 완전히 다른 문제입니다. NXP Semiconductors가 출시한 전용 프로세서 시리즈, 개발 보드 및 관련 소프트웨어는 기능, 성능 및 개발의 주요 과제를 해결하여 산업 및 IoT 애플리케이션에서 복잡한 최첨단 인공 지능(AI) 기능을 더 빠르게 배포하는 데 도움을 주는 것을 목표로 합니다.
설계자들은 클라우드 리소스에 의존하지 않고 저전력 장치에서 ML 추론을 수행할 수 있는 엣지 AI 솔루션을 활용하기 시작했습니다. 깨우기 단어 감지, 센서 데이터 패턴 분석, 기본 개체 감지와 같은 기능은 일반적으로 ML 모델(모델 최적화 도구 및 프레임워크를 사용하여 구축)을 실행하는 에너지 효율적인 프로세서로 처리할 수 있습니다. 그러나 보다 복잡한 문제, 특히 실시간 또는 거의 실시간 응답이 필요한 문제를 처리하기 위해 프로세서 리소스를 확장하려고 하면 병목 현상이 발생합니다.
멀티코어 프로세서가 ML 추론을 크게 가속화하는 방법
i.MX 93 시리즈 애플리케이션 프로세서를 갖춘 NXP Semiconductors는 이러한 새로운 실시간 에지 AI 설계의 기능 및 성능 문제를 쉽게 해결할 수 있습니다(그림 1).
그림 1: i.MX 93 애플리케이션 프로세서는 처리 리소스, 보안 시스템, 메모리, 전체 범위의 클록, 타이머, 연결 옵션 및 인터페이스를 통합하여 엣지 AI 설계의 기반을 마련합니다. (이미지 출처: NXP 반도체)
이 프로세서 시리즈는 멀티미디어, 스토리지, 인터페이스, 연결 옵션을 포함한 풍부한 기능을 통합하고 눈길을 끄는 처리 리소스를 결합합니다.
Linux 기반 애플리케이션 처리 작업을 위한 최대 2개의 고성능 Arm Cortex-A55 애플리케이션 프로세서 코어
저지연 실시간 제어 처리를 위한 초저전력 Arm Cortex-M33 플랫폼
ML 추론의 효율적인 실행을 위한 Arm Ethos-U65 microNPU 신경 처리 장치(NPU)
NXP의 통합 EdgeLock ESE(Secure Enclave)는 보안 부팅 및 키 관리, 실시간 암호화 및 엣지 애플리케이션을 보호하는 데 필요한 기타 기능을 위한 신뢰 루트를 제공합니다.
이러한 프로세서의 기능을 활용하면 대규모 엣지 AI 애플리케이션을 쉽게 관리할 수 있는 여러 부분으로 나눌 수 있습니다. NPU는 조밀한 신경망 알고리즘의 계산 작업을 맡아 Cortex-A55 코어의 부하를 줄이고 실행 중인 애플리케이션 코드 리소스의 선점을 방지합니다. 동시에 Cortex-M33 코어는 센서 데이터 수집 또는 프로세스 제어와 같은 대기 시간이 짧은 작업을 처리하는 데 계속 중점을 두고 있으며, 내장된 ESE는 전체 프로세스에서 시스템 보안, 소프트웨어 코드 및 중요한 데이터를 보호합니다. 다음에서는 거의 실시간으로 반응하는 엣지 AI 애플리케이션을 달성하기 위한 핵심 지원인 Cortex-A55 코어에서 기계 학습 추론을 오프로드하는 NPU의 기능을 소개합니다.
하드웨어 개발 보드와 소프트웨어가 애플리케이션 개발을 가속화하는 방법
프로세서의 기능과 성능이 중요하지만 엣지 AI 애플리케이션의 효율적인 개발은 프로세서의 특성을 빠르게 파악하고 효과적인 소프트웨어를 빠르게 구축하는 능력에 더 많이 의존합니다. NXP의 FRDM-IMX93 개발 기판(그림 2)은 관련 소프트웨어 개발 리소스와 결합되어 응용 제품 제작을 시작하는 데 필요한 모든 것을 제공할 수 있습니다.