뜬금없이 Anthropic에서
AI 개발을 잠시 멈추자고
공식 제안을 했습니다.

이유가 꽤 섬뜩한데,
조만간 AI 모델들이 인간 개입 없이
스스로 성능을 개선하는
'자가 개선' 단계에 도달할 위험이
코앞에 와서 그렇다고 합니다.

그렇기에 엔트로픽은 개발 일시 중단을
해야 된다고 경고하고 나섰습니다.

최근에 Claude Code나
다른 코딩 어시스턴트들 써보면서
매번 능지 발전하는 속도 보고
무섭다고 느끼긴 했는데,

정작 개발사에서 직접
이런 경고를 때려버리니까
느낌이 확 다릅니다.

조금만 더 가면 진짜 우리가
통제 못 하는 수준으로
알아서 코딩하고 배포하는
세상이 오는 걸까요?

원문