초지능

초지능은 단순히 인공적인 지능에 국한되지 않고, 현생 인류의 지능적 한계를 넘어선 모든 형태의 지능을 포괄한다. 이는 인간과 대등한 수준의 문제를 해결하는 인공 일반 지능(AGI)을 넘어, 인간의 이해 범위를 벗어난 급속한 기술 발전을 가능하게 하는 상태를 말한다. 초지능의 출현은 기술적 특이점의 핵심 동력으로 간주된다.

철학자 닉 보스트롬은 초지능을 기능과 작동 방식에 따라 다음과 같이 분류하였다.

• 속도 초지능: 인간과 질적으로 동일한 지능을 가졌으나 정보 처리 속도가 수백만 배 이상 빠른 시스템이다. 인간이 수년에 걸쳐 수행할 작업을 몇 초 만에 완료할 수 있다.
• 집단 초지능: 다수의 작은 지능 시스템이 긴밀하게 연결되어 협력함으로써 개별 구성원의 능력을 훨씬 뛰어넘는 문제 해결 능력을 보여주는 형태이다.
• 품질 초지능: 인간의 지능과는 질적으로 다른, 더 높은 수준의 인지 능력을 갖춘 지능을 의미한다.

초지능에 도달하는 주요 가설 중 하나는 '지능 폭발'이다. 이는 인공지능이 스스로를 개량하여 더 뛰어난 지능을 만들고, 그 결과물이 다시 자신을 더 빠르게 개량하는 연쇄 반응을 일으키는 현상을 말한다. 예를 들어 인간 프로그래머가 3개월 걸릴 개선 작업을 인공지능이 3일 만에 완료하고, 개선된 버전은 다시 더 짧은 시간 안에 다음 버전을 설계하는 방식으로 지능이 급격히 상승하게 된다.

인공지능의 발전 단계는 일반적으로 다음과 같이 구분된다.

초지능의 등장은 인류에게 무한한 번영을 가져다줄 수도 있으나, 동시에 실존적 위험이 될 수도 있다는 경고가 존재한다. 초지능이 일상화되면 인간이 스스로 사고하거나 결정할 필요가 없어져 자율성과 주체성을 상실할 위험이 크다. 또한, 초지능의 목표가 인류의 가치와 일치하지 않을 경우 인류의 멸종을 초래할 수 있다는 우려도 제기된다.