문서 검색

Unsloth는 Unsloth AI 팀이 개발한 오픈소스 프레임워크로, 대규모 언어 모델(LLM)과 비전 언어 모델(VLM)의 훈련, 미세 조정, 추론을 2~5배 빠르게 수행할 수 있도록 돕는다. Apache-2.0 라이선스로 배포되며, PyTorch 기반에서 동작하고 QLoRA 등 효율적인 미세 조정 기법을 지원한다. 500K 이상의 긴 컨텍스트 길이 훈련, 메모리 사용량 최적화, 노코드…

대형언어모델(LLM)은 수많은 파라미터(보통 수십억 웨이트 이상)를 보유한 인공 신경망으로 구성되는 언어 모델이다. 자기 지도 학습이나 반자기지도 학습을 사용하여 레이블링되지 않은 상당한 양의 텍스트로 훈련된다. LLM은 2018년 즈음에 모습을 드러냈으며 다양한 작업을 수행하기 위해 사용된다. 이전의 특정 작업에 특화된 지도 학습 모델의 훈련 패러다임에서 벗어나 자연어 처리 연구의 초점이…

대형 언어 모델(Large Language Model, LLM)은 수많은 파라미터를 보유한 인공 신경망으로 구성되는 언어 모델이다. 일반적으로 수십억 개 이상의 웨이트를 가지며, 레이블링되지 않은 방대한 양의 텍스트 데이터를 자기 지도 학습이나 반자기지도학습 방식으로 훈련한다. 2018년경부터 본격적으로 등장하였으며, 특정 작업에 특화된 기존의 지도 학습 패러다임에서 벗어나 자연어 처리 연…

대규모 언어 모델(Large Language Model, LLM)은 수십억 개 이상의 파라미터를 보유한 인공 신경망으로 구성된 언어 모델이다. 자기 지도 학습이나 반자기지도학습을 통해 레이블링되지 않은 방대한 양의 텍스트 데이터를 훈련하며, 이를 통해 자연어의 맥락과 패턴을 파악한다. 2018년경부터 본격적으로 등장하였으며, 텍스트 생성, 번역, 요약, 추론 등 광범위한 자연어 처리 작업을…

거대언어모델(Large Language Model, LLM)은 수많은 매개변수(Parameter)를 보유한 인공 신경망 기반의 언어 모델이다. 방대한 양의 데이터 세트를 학습하여 콘텐츠를 인식, 요약, 번역, 예측 및 생성하는 기능을 수행한다. 2017년 발표된 트랜스포머(Transformer) 아키텍처를 주요 기반으로 하며, 2018년경부터 본격적으로 등장하여 자연어 처리 연구의 중심이…

컴퓨터 비전(Computer Vision)은 디지털 이미지와 영상 데이터를 분석하여 의미 있는 정보를 추출하고 이해하는 인공지능 기술이다. 딥러닝과 GPU의 발전으로 급격히 성장했으며, 자율주행, 의료 영상 분석, 보안 시스템 등 다양한 산업에서 핵심 기술로 활용된다. 특히 합성곱 신경망(CNN)의 등장 이후 컴퓨터 비전의 정확도는 인간 수준에 근접하는 성과를 보이고 있다.

10조 파라미터 모델은 인공지능의 지능을 결정하는 매개변수(Parameter)의 총합이 10조 개에 이르는 초거대 모델을 의미한다. 2020년대 중반 기술 기업들이 1조 파라미터 규모의 모델을 잇달아 공개함에 따라, 10조 규모는 인공지능 성능 고도화의 다음 단계이자 인간 수준의 추론 능력을 갖추기 위한 기술적 목표로 평가받는다. 이러한 모델은 방대한 데이터를 학습하여 텍스트, 이미지, 비…

액티비전 블리자드(Activision Blizzard)는 미국의 비디오 게임 지주회사이다. 2008년 액티비전과 비벤디 게임스의 합병을 통해 설립되었으며, 액티비전, 블리자드 엔터테인먼트, 킹(King) 등을 주요 사업부로 두고 있다. 2023년 마이크로소프트에 인수되어 마이크로소프트 게이밍의 일원이 되었다.

상층언어(High variety, H-variety)는 한 사회 내에서 두 개 이상의 언어 변이가 서로 다른 환경에서 사용되는 양층언어(Diglossia) 현상 중, 사회적 위상이 높고 공식적인 상황에서 쓰이는 언어를 의미한다. 주로 교육, 종교, 행정, 공식 문건 등에서 사용되며, 일상적인 구어체인 하층언어와 구별되는 특징을 가진다.

언어 접촉(language contact)은 두 가지 혹은 그 이상의 언어가 서로 상호작용하고 영향을 미치는 현상을 말한다. 이는 지리적 근접성이나 인구 이동 등 다양한 사회적 요인에 의해 발생하며, 언어 구조나 어휘의 변화를 초래하는 주요 원인이 된다.

언어 사멸은 특정 언어를 구사하는 화자들의 언어 능력이 감소하거나 우세 언어의 영향으로 어휘, 어법, 문법 체계가 잠식되어 언어 체계가 무너지는 현상을 의미한다. 이를 언어 붕괴라고도 하며, 최종적으로 해당 언어를 사용하는 화자가 아무도 남지 않게 되었을 때 언어가 완전히 사멸되었다고 판단한다. 사멸한 언어는 사어(死語)라고 부른다.

역사비교언어학은 둘 이상의 언어를 비교하여 그들 사이의 친족 관계를 밝히고, 공통의 조상 언어인 조어(祖語)를 재구성하는 학문이다. 역사언어학의 핵심적인 방법론으로 활용되며, 언어의 변화 과정과 계통적 분류를 체계화하는 것을 목적으로 한다.