AI가 인류를 멸종시킬 확률은 27% source

1. AI 2027 저자 Eli Lifland가 AI의 발전과 인류의 미래에 관한 충격적인 전망을 제시함

2. 기업들은 몇 년 내 인간의 지능을 뛰어넘는 AI를 개발할 수 있으며, 그 확률은 2027년 말까지 15%, 2030년까지 50%

3. AI 기업들이 개발 속도를 늦추지 않을 경우, AI가 인류의 통제권을 빼앗을 확률을 무려 67%로 평가함

4. 나아가 AI에 통제권을 빼앗긴 상황에서 인류가 멸종할 조건부 확률을 40%로 추정함. 단순 계산하면 27%의 멸종 위험

5. 개별 확률의 정확성보다 주목할 부분은 AI의 발전 속도와 인간의 통제 능력 사이에 발생할 수 있는 격차임

6. 특히 AI가 스스로 연구하고, 코드를 작성하고, 차세대 AI 개발까지 가속하는 단계에 진입한다면 인간이 문제를 인지하고 개입 자체가 줄어듦

7. 인류가 직면한 가장 중요한 문제는 초지능을 언제 개발하느냐가 아니라, 그 전에 통제할 수 있는 능력을 확보할 수 있느냐