애플 뉴럴 엔진

애플 뉴럴 엔진은 애플 실리콘(Apple Silicon) 아키텍처의 핵심 구성 요소로, 인공지능 및 머신러닝 기능을 빠르고 효율적으로 실행하도록 설계된 특수 연산 코어 모음이다. 2017년 아이폰 8 및 아이폰 X에 탑재된 A11 프로세서에서 처음 등장했다. 당시 A11의 뉴럴 엔진은 초당 6,000억 회의 연산을 수행할 수 있는 수준이었다.

이후 애플은 매년 뉴럴 엔진의 성능을 대폭 개선해 왔다. 아이폰 14의 A16 칩은 초당 17조 회의 연산 능력을 갖추었으며, 2024년 공개된 M4 칩에 탑재된 뉴럴 엔진은 초당 약 38조 회의 연산을 수행할 수 있을 만큼 성장했다. 이는 초기 모델 대비 수십 배 이상의 성능 향상을 이룬 것이다.

애플 뉴럴 엔진은 하드웨어와 소프트웨어가 밀접하게 결합된 구조를 가진다.

• 연산 정밀도: 타사 NPU가 낮은 정밀도인 INT8이나 INT4를 주로 사용하는 것과 달리, 애플 뉴럴 엔진은 초창기부터 FP16(반정밀도 부동소수점) 연산에 최적화되어 설계되었다. 현재는 INT8 연산도 함께 지원한다.
• 소프트웨어 제약: 개발자가 하드웨어에 직접 접근하는 것은 불가능하다. 반드시 애플이 제공하는 전용 API인 Core ML 프레임워크를 통해서만 뉴럴 엔진을 활용할 수 있다.
• 효율성: CPU나 GPU가 처리하던 머신러닝 작업을 전담함으로써 전력 소모를 줄이고 전체 시스템의 성능을 최적화한다.

뉴럴 엔진은 애플 기기의 다양한 사용자 경험을 뒷받침한다.

1. 생체 인증 및 개인화: 페이스ID(FaceID)의 얼굴 인식, 애니메이션 미모지(Memoji) 구현에 사용된다.
2. 이미지 및 영상 처리: 사진 앱에서 특정 사물이나 동물을 검색하는 기능, 카메라의 야간 모드 및 인물 사진 모드 최적화 등에 관여한다.
3. 접근성 기능: 아이폰의 돋보기 기능 내 탐지 모드(버튼 인식 및 안내), 사용자의 목소리를 학습하여 대신 말해주는 기능 등 고도의 인공지능 기술이 필요한 접근성 도구에 활용된다.
4. 온디바이스 AI: 데이터를 클라우드로 보내지 않고 기기 내에서 직접 처리하여 프라이버시를 강화하고 실시간 응답성을 확보한다.

애플은 생성형 AI 시대를 맞아 뉴럴 엔진의 활용 범위를 대형 언어 모델(LLM)로 확장하고 있다. 2024년 출시된 M4 칩은 AI 기능을 담당하는 NPU 성능 확대에 주력하여 설계되었다.

또한, 소프트웨어 생태계 확장을 위해 오픈소스 프로젝트인 ANEMLL이 공개되었다. ANEMLL은 허깅페이스(Hugging Face)의 모델을 뉴럴 엔진에 최적화된 CoreML 포맷으로 변환하고 배포할 수 있는 자동화 파이프라인을 제공한다. 이를 통해 LLAMA 3.1, DeepSeek 등 최신 LLM 아키텍처를 iOS나 macOS 기기에서 효율적으로 구동할 수 있는 환경이 마련되고 있다.