SIMD

SIMD는 전통적인 SISD(Single Instruction, Single Data) 방식이 한 번에 하나의 데이터만 처리하는 것과 달리, CPU 내의 레지스터를 벡터 형태로 분할하여 여러 데이터를 병렬로 연산한다. 예를 들어, 대량의 숫자 쌍을 더해야 할 때 SIMD 단위를 사용하면 모든 단위가 동시에 덧셈 명령을 수행하되, 각 단위는 서로 다른 데이터 쌍을 처리한다.

이 방식은 하드웨어 설계의 일부로 포함되며, 명령어 집합 아키텍처(ISA)를 통해 직접 접근할 수 있다. 데이터 병렬성을 극대화하지만, 각 단위가 동일한 순간에 정확히 같은 명령어를 수행해야 하므로 동시성(Concurrency)과는 구별되는 개념이다.

SIMD 개념은 1972년 마이클 플린이 제안한 플린 분류법에서 처음 체계화되었다. 초기 슈퍼컴퓨터인 크레이-1(Cray-1)은 벡터 프로세서 형태로 이를 구현하였다.

• 1996년: 인텔이 MMX 기술을 도입하며 x86 아키텍처에 SIMD가 본격적으로 포함되었다.
• 1998년: AMD가 3D나우!(3DNow!) 기술을 발표하였다.
• 1999년: 인텔이 펜티엄 III에 스트리밍 SIMD 확장(SSE)을 도입하였으며, 이후 SSE2, SSE3, SSE4로 확장되었다.
• 2008년~2013년: 고급 벡터 확장(AVX)과 AVX-512가 등장하여 레지스터 크기와 연산 능력이 대폭 향상되었다.
• ARM 아키텍처: 모바일 및 임베디드 환경을 위해 NEON 기술이 SIMD를 지원한다.

최신 중앙 처리 장치(CPU)는 멀티미디어 성능 향상을 위해 전용 레지스터와 명령어 집합을 포함한다.

SIMD 장치는 캐시 계층 및 프리페치 메커니즘과 밀접하게 연결되어 대규모 블록 작업 시 대기 시간을 최소화한다. 특히 AVX-512 지원 프로세서는 전체 캐시 라인을 미리 가져와 단일 사이클에서 FMA 연산을 적용할 수 있다.

SIMD는 동일한 연산을 반복적으로 수행해야 하는 분야에서 효과적이다.

• 디지털 이미지 및 오디오: 대비 조정, 필터 적용, 색상 변환, 볼륨 조절, 코덱 압축.
• 게임 엔진: 물리 연산 최적화, 렌더링 가속, 셰이더 처리.
• 과학 및 수치 연산: 행렬 계산, 대규모 수치 시뮬레이션, 고속 푸리에 변환(FFT).
• 머신러닝 및 통신: 신경망 추론 가속, 채널 코딩, 변복조 처리.

소프트웨어 활용 방식

• 컴파일러 자동 벡터화: GCC, Clang, MSVC 등은 루프를 분석하여 자동으로 SIMD 명령어를 생성한다.
• 인트린직 함수(Intrinsics): C/C++에서 SIMD 명령어를 직접 호출할 수 있는 내장 함수를 제공한다.
• 라이브러리: Intel MKL, IPP 등 최적화된 라이브러리를 통해 고성능 함수를 사용할 수 있다.

한계 및 관련 개념

• 대역폭 문제: 연산 속도가 빨라짐에 따라 메모리에서 데이터를 공급하는 대역폭이 병목 현상을 일으킬 수 있다.
• 벡터화 제약: 데이터 의존성이나 복잡한 분기문이 있는 코드는 벡터화가 어렵다.
• SIMT (Single Instruction, Multiple Threads): GPU에서 주로 사용되는 방식이다. 각 스레드가 동일한 명령어를 수행하지만 데이터는 다르며, 하드웨어 수준의 진정한 동시 실행을 의미한다.