문서 검색

인공지능 안전은 AI 기술이 인류에게 이익이 되고 잠재적인 피해나 부정적인 결과를 최소화하는 방식으로 설계되고 사용되도록 하는 관행과 원칙을 의미한다. AI 시스템이 더욱 정교해지면서 사람들의 삶, 인프라, 금융, 국가 안보 등 중요한 영역에 깊숙이 통합됨에 따라 AI 안전의 중요성이 커지고 있다. 주요 위험으로는 편향, 데이터 보안, 외부 위협에 대한 취약성 등이 있으며, 이를 방지하고…

안전한 AI를 구축하기 위해 연구자들은 기술적 원칙과 엄격한 평가 프로세스를 적용한다. AI 정렬 (Alignment) 인간의 가치와 목표를 AI 모델에 인코딩하여 시스템이 의도한 대로 작동하게 만드는 프로세스이다. 주요 기법으로는 인간 피드백을 통한 강화 학습(RLHF), 유해 콘텐츠 필터링, 레드 티밍(Red Teaming) 등이 있다. RICE 원칙 AI 안전의 핵심적인 기술적 지표로…

일론 머스크는 2015년 비영리 AI 연구 기관인 오픈AI(OpenAI)의 창립에 참여하였으나, 경영권 및 AI 안전에 대한 의견 차이로 2018년 이사회를 떠났다. 이후 2023년 3월 9일 네바다주에서 xAI를 설립하였다. 2023년 7월 12일, 머스크는 xAI의 출범을 공식 발표하였다. 발표 날짜의 숫자 합(7+12+23)이 42가 되는 점을 들어, 소설 《은하수를 여행하는 히치하이…

의료 AI 가이드라인은 의료 분야에 인공지능(AI) 기술을 적용할 때 준수해야 하는 개발, 허가, 심사 및 사후 관리 기준을 정의한 지침이다. 인공지능 기술의 급격한 발전에 따른 데이터 편향, 정확성 부족, 윤리적 문제 등의 잠재적 위험을 관리하고 의료기기의 안전한 상용화를 지원하는 것을 목적으로 한다. 대한민국 식품의약품안전처를 비롯하여 세계보건기구(WHO), 국제의료기기규제당국자포럼(I…

AI 거버넌스는 인공지능(AI) 기술의 연구, 개발, 적용 전 과정을 감독하여 시스템이 안전하고 윤리적으로 운영되도록 보장하는 관리 체계이다. 이는 AI 모델의 편향성, 개인정보 침해, 오용 등의 위험을 완화하고 사회적 신뢰를 확보하는 것을 목적으로 한다. 효과적인 거버넌스는 기술적 혁신과 규제 준수 사이의 균형을 맞추며, 데이터 관리부터 모델 배포 이후의 모니터링까지 AI 생애주기 전반을…

헌법적 AI(Constitutional AI)는 인공지능 시스템의 운영을 국가의 헌법 원칙과 법적 프레임워크에 맞게 정렬하는 체계를 의미한다. 이는 AI가 헌법이나 기본 법률 문서에 명시된 권리, 특권, 가치를 존중하고 준수하도록 보장하여 기술적 우수성뿐만 아니라 윤리적·법적 정당성을 확보하는 데 목적이 있다. 현대 사회에서 데이터와 알고리즘이 새로운 권력으로 부상함에 따라, 기술에 대한…

AI 의료 윤리는 보건의료 영역에 인공지능(AI) 기술이 도입됨에 따라 발생하는 도덕적, 법적, 사회적 문제를 다루는 분야이다. 인공지능은 질병의 조기 발견, 맞춤형 치료, 의료 자원 최적화 등 혁신적인 잠재력을 지니고 있으나, 데이터 프라이버시 침해, 알고리즘의 편향성, 책임 소재의 불분명함과 같은 복잡한 윤리적 과제를 동시에 제기한다. 이를 해결하기 위해 인간의 자율성 존중, 투명성,…

ARC Raiders는 엠바크 스튜디오(Embark Studios)가 개발 및 배급한 2025년 출시 멀티플레이어 3인칭 익스트랙션 슈팅 게임이다. 미래의 황폐해진 지구를 배경으로 하며, 플레이어는 '레이더(Raider)'가 되어 기계 위협인 '아크(ARC)'와 다른 경쟁자들로부터 살아남아 자원을 확보해야 한다. 언리얼 엔진 5를 기반으로 제작되었으며 플레이스테이션 5, 윈도우, 엑스박스…

스케일AI(Scale AI, Inc.)는 미국 캘리포니아주 샌프란시스코에 본사를 둔 인공지능(AI) 인프라 및 소프트웨어 기업이다. 2016년 알렉산더 왕과 루시 궈가 설립했으며, 인공지능 개발에 필수적인 데이터 라벨링, 모델 평가, 인간 피드백을 통한 강화 학습(RLHF) 서비스를 제공한다. 자율주행, 생성형 AI, 국방 등 다양한 분야의 데이터를 처리하며, 오픈AI와 메타 등 주요 기술…

오픈AI(OpenAI)는 미국의 인공지능 연구 및 배포 회사이다. 2015년 12월 8일에 설립되었으며, 비영리 단체 OpenAI Inc와 영리 기업 OpenAI LP로 구성된 이중 구조를 가진다. 설립에는 일론 머스크, 샘 올트먼, 일리야 수츠케버 등이 참여했다. 회사의 사명은 인류 전체가 범용 인공지능(AGI)의 이점을 누리도록 하는 것이다. 대표 제품으로는 대화형 AI 챗봇 ChatG…

AI 에이전트는 주어진 목표를 달성하기 위해 환경을 인식하고, 스스로 워크플로를 설계하며, 필요한 도구를 호출하여 작업을 완수하는 지능형 시스템이다. 대규모 언어 모델(LLM)을 핵심 엔진으로 삼아 자연어 이해뿐만 아니라 추론, 계획, 실행 능력을 갖춘 것이 특징이다. 단순한 대화형 인터페이스를 넘어 외부 환경과 상호작용하며 독립적으로 하위 작업을 생성하고 실행한다.

생물안전 격리 시설은 잠재적으로 인체나 환경에 위해를 끼칠 수 있는 생물체 또는 생물재해로부터 실험자와 지역사회를 보호하기 위해 지식, 기술, 장비 및 시설을 적절히 사용하는 조치를 수행하는 공간이다. 주로 유전자변형생물체(LMO)의 개발 및 실험, 고위험 병원체 연구 등을 목적으로 운영되며, 위해 수준에 따라 등급별로 관리된다.