문서 검색

대형언어모델(LLM)은 수많은 파라미터(보통 수십억 웨이트 이상)를 보유한 인공 신경망으로 구성되는 언어 모델이다. 자기 지도 학습이나 반자기지도 학습을 사용하여 레이블링되지 않은 상당한 양의 텍스트로 훈련된다. LLM은 2018년 즈음에 모습을 드러냈으며 다양한 작업을 수행하기 위해 사용된다. 이전의 특정 작업에 특화된 지도 학습 모델의 훈련 패러다임에서 벗어나 자연어 처리 연구의 초점이…

10조 파라미터 모델은 인공지능의 지능을 결정하는 매개변수(Parameter)의 총합이 10조 개에 이르는 초거대 모델을 의미한다. 2020년대 중반 기술 기업들이 1조 파라미터 규모의 모델을 잇달아 공개함에 따라, 10조 규모는 인공지능 성능 고도화의 다음 단계이자 인간 수준의 추론 능력을 갖추기 위한 기술적 목표로 평가받는다. 이러한 모델은 방대한 데이터를 학습하여 텍스트, 이미지, 비…

거대언어모델(Large Language Model, LLM)은 수많은 매개변수(Parameter)를 보유한 인공 신경망 기반의 언어 모델이다. 방대한 양의 데이터 세트를 학습하여 콘텐츠를 인식, 요약, 번역, 예측 및 생성하는 기능을 수행한다. 2017년 발표된 트랜스포머(Transformer) 아키텍처를 주요 기반으로 하며, 2018년경부터 본격적으로 등장하여 자연어 처리 연구의 중심이…

대형 언어 모델(Large Language Model, LLM)은 수많은 파라미터를 보유한 인공 신경망으로 구성되는 언어 모델이다. 일반적으로 수십억 개 이상의 웨이트를 가지며, 레이블링되지 않은 방대한 양의 텍스트 데이터를 자기 지도 학습이나 반자기지도학습 방식으로 훈련한다. 2018년경부터 본격적으로 등장하였으며, 특정 작업에 특화된 기존의 지도 학습 패러다임에서 벗어나 자연어 처리 연…

대규모 언어 모델(Large Language Model, LLM)은 수십억 개 이상의 파라미터를 보유한 인공 신경망으로 구성된 언어 모델이다. 자기 지도 학습이나 반자기지도학습을 통해 레이블링되지 않은 방대한 양의 텍스트 데이터를 훈련하며, 이를 통해 자연어의 맥락과 패턴을 파악한다. 2018년경부터 본격적으로 등장하였으며, 텍스트 생성, 번역, 요약, 추론 등 광범위한 자연어 처리 작업을…

하이브리드 어텐션은 트랜스포머 모델에서 서로 다른 어텐션 메커니즘을 결합하거나 어텐션과 다른 연산(예: 상태 공간 모델)을 혼합하여 계산 효율성과 장거리 의존성 포착 능력을 동시에 향상시키는 기법이다. 표준 어텐션의 이차 복잡도를 완화하면서도 모델의 표현력을 유지하는 데 목적이 있다.

클로드(Claude)는 앤스로픽(Anthropic)에서 개발한 대규모 언어 모델(LLM) 및 인공지능 서비스이다. 사용자의 지시에 따라 텍스트 생성, 코드 작성, 데이터 분석 등의 복잡한 추론 작업을 수행한다. 인공지능의 안전성을 확보하기 위해 '헌법적 AI(Constitutional AI)' 원칙을 적용하며, 개발자용 코딩 도구인 클로드 코드(Claude Code)와 일반 사용자용 작업…

Reality Composer는 애플이 개발한 3D 콘텐츠 저작 도구이다. 원래 iOS·macOS용 Reality Composer에서 출발했으나, 2023년 WWDC에서 Reality Composer Pro로 확장되어 visionOS 및 RealityKit 앱 개발에 특화된 기능을 제공한다. 사용자는 오디오, 3D 모델, 파티클 효과, 조명, 애니메이션 등 여러 자산을 조합하여 복잡한 장면…

딥시크-R1(DeepSeek-R1)은 중국 인공지능 스타트업 딥시크가 2025년 1월 20일에 출시한 고성능 추론 모델이다. MIT 라이선스로 공개된 오픈 소스 모델이며, 수학·코딩·과학 추론에서 오픈AI의 o1과 유사한 성능을 보였다. 개발 비용은 약 557만 6천 달러로 경쟁 모델 대비 매우 낮았고, 엔비디아 H800 GPU 2,048개로 훈련되었다. 출시 직후 딥시크-R1 기반 챗봇은…

DeepSeek V4는 중국의 인공지능 기업 딥시크(DeepSeek)가 2026년 4월 22일 프리뷰(preview) 버전으로 공개한 4세대 대규모 언어 모델이다. Mixture-of-Experts(MoE) 아키텍처를 기반으로 하며, 100만 토큰의 컨텍스트 길이를 지원하는 것이 핵심 특징이다. 두 가지 변형 모델인 DeepSeek-V4-Pro와 DeepSeek-V4-Flash로 구성되며,…

KV 캐시(Key-Value Cache)는 트랜스포머 기반 대규모 언어 모델(LLM)에서 추론 효율을 높이기 위해 사용하는 메모리 최적화 기법이다. 모델이 텍스트를 생성할 때 각 토큰의 어텐션 Key와 Value 행렬을 저장하여, 이후 토큰 생성 시 이전 토큰을 다시 계산하지 않도록 한다. 이를 통해 중복 연산을 제거하고 추론 속도를 크게 향상시킨다.

노션(Notion)은 노트 필기, 데이터베이스, 프로젝트 관리, 협업 도구를 하나로 통합한 올인원 생산성 애플리케이션이다. 개인 일기, 예산 추적부터 팀 단위 업무 관리까지 다양한 용도로 사용된다. 2020년대 들어 Notion AI, Context Link, MCP(모델 컨텍스트 프로토콜) 등 인공지능 기능을 지속적으로 도입하며 생태계를 확장하고 있다.