크리스티안 카탈리니가 PostAGI에서 던진 경고입니다.
모두가 배포 경쟁에 뛰어드는 사이, 위험은 조용히 쌓이고 있습니다.
🕳 눈에 안 보이는 축적
⏺ 검증되지 않은 결과물이 조금씩, 또 조금씩 더해집니다.
⏺지표는 통과하니 겉보기엔 아무 문제가 없습니다.
⏺ 시니어 엔지니어들은 지금 벌어지는 일에 흥분과 두려움을 동시에 느끼고 있습니다.
🏦 LTCM이 그랬습니다
⏺ 노벨상 수상자와 최고의 인재들이 세운 헤지펀드였습니다.
⏺오랫동안 시장에서 아주 좋은 성과를 냈고, 그러다 무너졌습니다.
⏺ 아무도 모르는 사이 뒤에서 부채가 쌓였고, 이상한 엣지 케이스 하나가 전체 연쇄 붕괴를 촉발했습니다.
☢️ 체르노빌 패턴
⏺우리는 완전히 이해하지 못한 코드를 계속 집어넣고 있습니다.
⏺조심하지 않으면 이상한 사건의 연쇄가 꽤 치명적인 결과로 이어질 수 있습니다.
🎯 지표가 통과한다고 안전한 건 아닙니다.
🔗 공지 원문 보기