크리스티안 카탈리니가 PostAGI에서 정리한 프레임워크입니다.
축은 두 개입니다. 자동화 비용이 얼마나 싼가, 그리고 검증이 얼마나 어려운가.
📉 두 비용은 정반대로 움직입니다
🔵자동화 비용은 컴퓨팅과 데이터센터, 파운데이션 모델의 발전을 그대로 받아 빠르게 떨어지고 있습니다.
🔵반면 검증 비용은 사람의 생물학적 한계에 묶여 있습니다.
🗺 그래서 네 구역으로 갈립니다
🔵 안전한 산업 구역
🔵 폭주 위험 구역
🔵 순수 암묵 구역
🔵 장인 구역
⚠️ 위험은 두 번째 구역에 몰려 있습니다
확인할 수 없는 것을 그냥 내보내고 싶어지는 유혹이 정확히 이 자리에 있습니다.
☑️ 결국 전부 측정에 달려 있습니다. 측정이 충분해지는 순간, 경계선은 다시 움직입니다.
🔗 공지 원문 보기