문서 검색

Unsloth는 Unsloth AI 팀이 개발한 오픈소스 프레임워크로, 대규모 언어 모델(LLM)과 비전 언어 모델(VLM)의 훈련, 미세 조정, 추론을 2~5배 빠르게 수행할 수 있도록 돕는다. Apache-2.0 라이선스로 배포되며, PyTorch 기반에서 동작하고 QLoRA 등 효율적인 미세 조정 기법을 지원한다. 500K 이상의 긴 컨텍스트 길이 훈련, 메모리 사용량 최적화, 노코드…

CoreML은 애플(Apple)이 개발한 머신러닝 프레임워크로, 개발자가 학습된 머신러닝 모델을 앱에 통합할 수 있도록 지원한다. 모든 모델에 대해 통합된 표현 방식을 제공하며, 사용자 데이터를 활용한 예측, 학습, 미세 조정(Fine-tuning) 작업을 모두 사용자의 기기 내에서 직접 수행하는 온디바이스(On-device) 방식을 취한다.

자산 가격 조정은 법인이나 개인이 보유한 자산의 가액을 현실적인 시장 가치나 법령이 정한 기준에 부합하도록 수정하는 과정이다. 부동산 공시가격 산정, 기업의 자산 재평가, 세무 목적의 시가 평가 등이 이에 포함된다. 이는 조세 형평성 제고, 복지 수급 자격의 공정한 판정, 기업 재무 구조의 합리화를 목적으로 수행된다.

빅테크 구조조정은 메타, 아마존, 오라클 등 세계적인 대형 기술 기업들이 인공지능(AI) 중심의 사업 개편과 수익성 제고를 목적으로 대규모 인력을 감축하는 현상을 말한다. 2023년 역대 최대 규모인 약 26만 명의 인력이 감축된 이후, 최근에는 단순한 인력 정리를 넘어 AI 인프라 투자 재원 확보와 인공지능에 의한 업무 대체가 주요 원인으로 부각되고 있다.

항공 산업 구조조정은 급변하는 글로벌 시장 환경에서 생존하고 운영 효율성을 확보하기 위해 항공사가 시행하는 인력 감축, 기단 재편, 인수합병(M&A) 등의 일련의 과정을 의미한다. 대한민국에서는 대한항공과 아시아나항공의 통합을 통한 메가 캐리어(Mega Carrier) 출범이 대표적인 사례로 꼽히며, 저비용항공사(LCC) 업계에서도 기단 현대화와 재무 구조 개선을 통한 체질 개선이 진행되고…

미세 플라스틱은 크기가 5mm 이하인 합성 고형 입자 또는 중합체 매트릭스를 의미한다. 물에 녹지 않는 불용성 물질이며, 크기에 따라 마이크로플라스틱과 나노플라스틱으로 세분된다. 자연 환경에서 매우 안정적인 화학 구조를 유지하기 때문에 쉽게 분해되지 않고 먹이사슬을 통해 생물 체내에 축적되는 특성을 가진다.

BERT는 제이콥 데블린(Jacob Devlin), 명휘 창(Ming-Wei Chang), 켄턴 리(Kenton Lee), 크리스티나 투타노바(Kristina Toutanova)가 구글에서 개발한 딥러닝 언어 모델이다. 기존의 언어 모델들이 텍스트를 한 방향으로만 읽거나 얕은 수준의 결합을 시도했던 것과 달리, BERT는 모든 층에서 왼쪽과 오른쪽 문맥을 동시에 고려하는 깊은 양방향 표현을…

데이터 라벨링은 주로 '휴먼 인 더 루프(HITL)' 방식으로 수행된다. 사람이 직접 데이터에 레이블을 할당하거나, 기계 지원 도구를 통해 반자동으로 작업한다. HITL은 인간 데이터 레이블 지정가의 판단을 활용하여 ML 모델을 생성하고 학습시키며 미세 조정하고 테스트한다. 최근에는 반자동 라벨링 도구와 사전 학습 모델을 활용한 자동 라벨링 기술도 발전하고 있다.

증류 과정은 크게 교사 모델의 지식 추출과 학생 모델의 학습 단계로 나뉜다. 1. 교사 모델 준비: GPT-4, Llama 3, DeepSeek-R1과 같이 이미 대규모 데이터로 학습된 고성능 모델을 선정한다. 2. 학생 모델 설계: 교사 모델보다 레이어 수나 파라미터가 적은 간단한 구조의 모델을 설계한다. 3. 지식 전달: 교사 모델의 출력을 학생 모델의 학습 데이터로 사용한다. 이때 단…

Core ML의 핵심적인 특징은 다음과 같다. 온디바이스 처리: 모든 예측과 모델 훈련, 미세 조정이 사용자의 기기 내에서 이루어진다. 이는 개인정보 보호에 유리하며 인터넷 연결 없이도 작동이 가능하다. 통합 표현: 다양한 머신러닝 모델에 대해 단일화된 표현 방식을 제공하여 일관된 API 사용을 지원한다. 성능 최적화: Apple 하드웨어에 최적화되어 빠른 실행 속도를 제공한다.

Codex는 GPT-3의 아키텍처를 계승하면서도 코드 데이터셋에 대한 미세 조정(Fine-tuning)을 거쳤다. 이를 통해 단순한 텍스트 생성을 넘어 논리적인 코드 구조를 이해하고 생성하는 능력을 갖추었다. 주요 기술 사양 다국어 지원: 파이썬(Python), 자바스크립트(JavaScript), 고(Go), 루비(Ruby) 등 12개 이상의 주요 프로그래밍 언어에 능숙하다. 문맥 이해:…

최근에는 전통적인 모델 기반 제어 방식에 인공지능 학습 기법을 결합하는 시도가 활발하다. PPF(Pre-training and Preservative Fine-tuning): 모델 기반 제어기의 동작을 모방하도록 사전 학습시킨 후, 실제 환경의 복잡한 동역학에 적응하도록 미세 조정하는 프레임워크이다. 강건성 강화: 모델 가정을 기반으로 한 정규화 기법을 통해 학습 과정에서 발생할 수 있는…