문서 검색

고대역폭 메모리(High Bandwidth Memory, HBM)는 여러 개의 D램(DRAM) 다이를 수직으로 적층하여 데이터 전송 대역폭을 획기적으로 높인 고성능 메모리 인터페이스이다. 실리콘 관통 전극(TSV) 기술을 활용해 칩을 수직으로 연결함으로써 기존 D램 대비 데이터 통로를 대폭 늘린 것이 특징이다. 주로 인공지능(AI) 가속기, 고성능 그래픽 카드, 슈퍼컴퓨터 등 대규모 데이터…

인공지능 안전성(AI Safety)은 인공지능(AI) 시스템으로 인해 발생할 수 있는 사고나 오용, 기타 유해한 결과를 예방하는 것을 목표로 하는 학제간 분야이다. 이는 AI 시스템을 도덕적이고 유익하게 만드는 기계 윤리와 AI 정렬을 포함하며, 시스템의 위험을 모니터링하고 신뢰성을 높이는 기술적 연구와 안전 증진을 위한 규범 및 정책 개발을 모두 포괄한다. AI 기술이 사회 전반에 깊숙이…

고대역폭메모리(High Bandwidth Memory, HBM)는 여러 개의 D램(DRAM) 칩을 수직으로 쌓아 데이터 처리 속도를 대폭 끌어올린 고성능 메모리 인터페이스이다. 3D 적층 기술을 활용하여 기존 D램보다 훨씬 넓은 대역폭을 제공하며, 주로 인공지능(AI) 가속기, 고성능 컴퓨팅(HPC), 그래픽 카드 등에 사용된다. 2013년 SK하이닉스와 AMD가 세계 최초로 개발한 이후,…

장단기 메모리는 정보를 유지하는 기간과 목적에 따라 단기 기억과 장기 기억으로 구분하는 체계이다. 심리학적으로는 외부 자극을 인지하여 짧은 시간 동안 유지하는 과정과 이를 물리적 변화를 통해 영구적으로 저장하는 과정을 의미한다. 현대 인공지능과 컴퓨팅 분야에서는 인간의 이러한 인지 구조를 모방하여 데이터의 접근 속도와 보존 특성에 따라 메모리를 계층화하거나, 인공지능 에이전트가 최근의 대화…

메모리스틱은 소니(Sony)가 개발한 독자적인 플래시 메모리 카드 규격이다. 주로 디지털 카메라, 캠코더, 휴대용 게임기 등 소니의 전자 제품에서 데이터 저장 매체로 사용된다. 한편, '메모리스'라는 명칭은 국내 게임사 블랙앵커가 개발하고 웹젠이 서비스하는 턴제 전략 RPG 게임의 타이틀로도 사용된다.

러스트는 다음과 같은 기술적 특징을 보유한다. 메모리 안전성: 가비지 컬렉션 없이도 메모리 안전성을 보장한다. 소유권 시스템: "이동(move)" 의미론을 통해 자원의 소유권을 관리하고 메모리 누수를 방지한다. 비용 없는 추상화: 고수준의 추상화를 사용하더라도 추가적인 런타임 오버헤드가 거의 발생하지 않는다. 병렬 프로그래밍: 데이터 레이스가 없는 스레딩을 지원하여 안전한 병렬 처리가 가능…

클로드(Claude)는 앤스로픽(Anthropic)에서 개발한 대규모 언어 모델(LLM) 및 인공지능 서비스이다. 사용자의 지시에 따라 텍스트 생성, 코드 작성, 데이터 분석 등의 복잡한 추론 작업을 수행한다. 인공지능의 안전성을 확보하기 위해 '헌법적 AI(Constitutional AI)' 원칙을 적용하며, 개발자용 코딩 도구인 클로드 코드(Claude Code)와 일반 사용자용 작업…

게이트 순환 유닛(Gated Recurrent Unit, GRU)은 순환 신경망(RNN)의 한 종류로, 장단기 메모리(LSTM)의 복잡한 구조를 단순화하면서도 유사한 성능을 내도록 설계된 모델이다. 2014년 조경현 교수 등이 제안하였으며, 업데이트 게이트와 리셋 게이트를 통해 정보의 흐름을 제어함으로써 기존 RNN의 기울기 소실 문제를 완화하고 장기 의존성을 효과적으로 학습한다.

mHC(Manifold-Constrained Hyper-Connections)는 중국 AI 연구소 딥시크(DeepSeek)가 개발한 대규모 언어 모델(LLM) 학습을 위한 새로운 아키텍처 프레임워크이다. 기존 딥 트랜스포머 모델이 깊어질수록 겪는 정보 흐름 저하와 불안정성을 해결하기 위해 설계되었다. mHC는 하이퍼커넥션(Hyper-Connections) 구조에 다양체 제약(Manifold…

공간 복잡도(Space Complexity)는 알고리즘이 문제를 해결하기 위해 사용하는 메모리 공간의 크기를 의미한다. 입력값의 크기에 따라 알고리즘이 완전히 실행될 때까지 필요한 총 메모리 양을 측정하며, 시간 복잡도와 함께 알고리즘의 효율성을 평가하는 주요 지표로 활용된다. 공간 복잡도는 일반적으로 빅오 표기법을 사용하여 점근적으로 표현하며, 입력 공간과 보조 공간을 모두 포함한다.

KVzip은 Transformer 기반 대규모 언어 모델(LLM)의 추론 과정에서 발생하는 KV 캐시 메모리 병목을 해결하기 위해 제안된 질의-무관(Query-Agnostic) 캐시 압축 방법이다. 이 방법은 LLM 자체를 활용하여 캐시된 KV 쌍으로부터 원래 컨텍스트를 재구성하는 능력을 기반으로 각 KV 쌍의 중요도를 정량화하고, 중요도가 낮은 쌍을 제거함으로써 캐시 크기를 줄인다. KV…

KV 캐시(Key-Value Cache)는 트랜스포머 기반 대규모 언어 모델(LLM)에서 추론 효율을 높이기 위해 사용하는 메모리 최적화 기법이다. 모델이 텍스트를 생성할 때 각 토큰의 어텐션 Key와 Value 행렬을 저장하여, 이후 토큰 생성 시 이전 토큰을 다시 계산하지 않도록 한다. 이를 통해 중복 연산을 제거하고 추론 속도를 크게 향상시킨다.