다리오 아모데이

다리오 아모데이는 1983년 미국 캘리포니아주 샌프란시스코에서 태어났다. 아버지는 이탈리아 투스카니 출신의 가죽 공예가였으며, 어머니는 유대계 미국인으로 도서관 프로젝트 매니저로 활동했다. 샌프란시스코 로웰 고등학교를 졸업했으며, 2000년에는 미국 물리 올림피아드 대표팀의 일원으로 선발되었다.

학업적으로는 캘리포니아 공과대학교를 거쳐 스탠퍼드 대학교에서 물리학 학사 학위를 취득했다. 이후 프린스턴 대학교에서 전기생리학을 전공하여 물리학 박사 학위를 받았다. 그의 학문적 배경인 물리학과 생물학적 신경망에 대한 이해는 이후 인공지능 연구의 기초가 되었다.

2016년부터 2021년까지 오픈AI(OpenAI)에서 연구 부사장으로 재직하며 대규모 언어 모델 연구를 지휘했다. 특히 GPT-2와 GPT-3의 개발 과정에서 핵심적인 역할을 수행했다. 2019년 GPT-2 공개 당시, 모델이 생성하는 텍스트가 인간과 구별하기 어려울 정도로 정교하여 악용될 가능성이 크다고 판단하고 전체 모델의 공개를 보류하는 결정을 주도했다.

그러나 오픈AI가 영리 법인으로 전환하고 마이크로소프트로부터 대규모 투자를 유치하면서 모델 공개 정책과 안전성 우선순위에 변화가 생겼다. 아모데이는 인공지능의 안전성과 정렬(Alignment) 문제를 기업의 상업적 이익보다 우선시해야 한다는 입장을 고수했고, 이 과정에서 경영진과 견해 차이가 발생하여 퇴사를 결정했다.

2021년 2월, 여동생 다니엘라 아모데이(Daniela Amodei)를 포함한 오픈AI 출신 연구자들과 함께 인공지능 안전 전문 기업인 앤트로픽(Anthropic)을 설립했다. 앤트로픽은 인공지능이 인간의 가치관에 부합하도록 스스로를 규제하는 '헌법적 AI(Constitutional AI)' 개념을 도입하여 기술적 차별화를 꾀했다.

2023년에는 오픈AI의 챗GPT에 대응하는 대규모 언어 모델 '클로드(Claude)' 시리즈를 출시했다. 클로드는 안전성과 가독성 면에서 높은 평가를 받으며 시장의 주목을 받았고, 아모데이는 이를 통해 기술 발전과 안전 확보가 병행될 수 있음을 증명하고자 했다.

아모데이는 인공지능 모델의 성능 향상을 설명하는 '스케일링 법칙(Scaling Law)'의 강력한 지지자이다. 그는 컴퓨팅 자원과 데이터의 투입량이 늘어남에 따라 모델의 성능이 예측 가능한 방식으로 향상된다고 본다.

또한 그는 인공지능의 사회적 영향력에 대해 다음과 같은 비전을 제시한다.

• 협상(Entente) 전략: 민주주의 국가 연합이 군사 및 경제 분야에서 고급 AI 시스템을 활용하여 적대국에 대해 우위를 확보해야 한다는 전략이다.
• 긍정적 미래 전망: 2024년 발표한 에세이 '자비로운 기계(Machines of Loving Grace)'를 통해 AI가 질병 퇴치, 빈곤 해결, 민주주의 강화 등 인류에게 가져올 수 있는 비약적인 발전을 강조했다.
• 안전성 연구: AI가 가상의 상황에서 인간을 기만하거나 협박할 수 있는 위험성을 경고하며, 이를 방지하기 위한 기술적 장치 마련을 촉구하고 있다.