TinyML: IoT 및 Edge 장치에서의 애플리케이션, 제한 사항 및 사용

에 의해

지난 몇 년 동안 인공 지능(AI)과 머신 러닝(ML)은 업계뿐만 아니라 학계에서도 인기와 응용 분야가 급격히 증가하는 것을 목격했습니다. 그러나 오늘날의 ML 및 AI 모델에는 한 가지 주요 제한 사항이 있습니다. 즉, 원하는 결과와 정확성을 달성하려면 엄청난 양의 컴퓨팅 및 처리 능력이 필요합니다. 이로 인해 상당한 컴퓨팅 성능을 갖춘 고성능 장치에만 사용되는 경우가 많습니다.

그러나 임베디드 시스템 기술의 발전과 사물 인터넷 산업의 실질적인 발전을 고려할 때 ML 기술 및 개념의 사용을 유비쿼터스 지능을 위한 리소스가 제한된 임베디드 시스템에 통합하는 것이 바람직합니다. ML 개념을 임베디드 및 IoT 시스템에 사용하려는 욕구는 리소스가 제한되고 전력이 제한되며 저렴한 여러 장치에서 ML 모델 및 애플리케이션을 허용하는 임베디드 ML 기술인 TinyML 개발의 주요 동기 요인입니다.

그러나 컴퓨팅 성능이 낮은 장치에 ML 모델을 구현하면 최적화, 처리 용량, 안정성, 모델 유지 관리 등의 측면에서 자체적인 문제가 발생하기 때문에 리소스가 제한된 장치에 ML을 구현하는 것은 간단하지 않았습니다.

이 기사에서는 TinyML 모델에 대해 더 자세히 알아보고 그 배경, TinyML을 지원하는 도구, 고급 기술을 사용하는 TinyML 애플리케이션에 대해 자세히 알아봅니다. 그럼 시작해 보겠습니다.

사물 인터넷 또는 IoT 장치는 서로 연결된 수백만 개의 센서 및 장치의 데이터를 원활하게 실시간 처리할 수 있도록 사용자 근처의 다양한 장치 및 네트워크를 나타내는 컴퓨팅 패러다임인 엣지 컴퓨팅을 활용하는 것을 목표로 합니다. IoT 장치의 주요 장점 중 하나는 네트워크 에지에 배포할 수 있으므로 낮은 컴퓨팅 및 처리 능력이 필요하므로 메모리 공간이 낮다는 것입니다.

또한 IoT 장치는 엣지 플랫폼에 크게 의존하여 이러한 엣지 장치가 감각 데이터를 수집할 때 데이터를 수집 및 전송한 다음 처리를 위해 가까운 위치나 클라우드 플랫폼으로 전송합니다. 엣지 컴퓨팅 기술은 데이터를 저장하고 컴퓨팅을 수행하며, 분산 컴퓨팅을 지원하는 데 필요한 인프라도 제공합니다.

IoT 장치에 엣지 컴퓨팅을 구현하면 다음과 같은 이점이 있습니다.

또한 엣지 장치는 센서와 클라우드 사이에 협업 기술을 배포할 수 있기 때문에 데이터 처리가 클라우드 플랫폼에서 수행되는 대신 네트워크 엣지에서 수행될 수 있습니다. 이를 통해 효과적인 데이터 관리, 데이터 지속성, 효과적인 전달 및 콘텐츠 캐싱이 가능해집니다. 또한 H2M 또는 인간과 기계의 상호 작용 및 최신 의료 엣지 컴퓨팅을 처리하는 애플리케이션에 IoT를 구현하면 네트워크 서비스를 크게 개선할 수 있는 방법이 제공됩니다.

IoT 에지 컴퓨팅 분야의 최근 연구는 여러 IoT 사용 사례에서 머신러닝 기술을 구현할 수 있는 잠재력을 보여주었습니다. 그러나 주요 문제는 기존 기계 학습 모델에 IoT 장치 및 애플리케이션에서 ML 모델 구현을 제한하는 강력한 컴퓨팅 및 처리 능력과 높은 메모리 용량이 필요한 경우가 많다는 것입니다.

또한 오늘날 엣지 컴퓨팅 기술에는 높은 전송 용량과 효과적인 전력 절감이 부족하여 주로 ML 모델 업데이트, 교육 및 배포를 위한 조화롭고 전체적인 인프라가 요구되는 주요 이유인 이기종 시스템으로 이어집니다. 임베디드 장치용으로 설계된 아키텍처는 장치마다 달라지는 하드웨어 및 소프트웨어 요구 사항에 따라 달라지기 때문에 또 다른 과제를 제기합니다. 이것이 IoT 네트워크용 표준 ML 아키텍처를 구축하기 어려운 주된 이유입니다.

또한 현재 시나리오에서는 네트워크 구현의 계산 집약적 특성으로 인해 다양한 장치에서 생성된 데이터가 처리를 위해 클라우드 플랫폼으로 전송됩니다. 또한 ML 모델은 데이터 처리를 위해 딥 러닝, 심층 신경망, ASIC(응용프로그램별 집적 회로) 및 GPU(그래픽 처리 장치)에 의존하는 경우가 많으며 전력 및 메모리 요구 사항이 더 높은 경우가 많습니다. IoT 장치에 본격적인 ML 모델을 배포하는 것은 컴퓨팅 및 처리 능력이 명백히 부족하고 스토리지 솔루션이 제한되어 있기 때문에 실행 가능한 솔루션이 아닙니다.