추론용 gpu를 사려는 사람들께 들려주는 후기

딥시크 4.1 flash를 api로 써보고, 이걸 로컬에서 돌릴수있다고? 뭔가 멋진데? 하고 며칠동안 끙끙 알면서 결국 rtx pro6000을 "중고"로 거의 1억 주고 샀음

트위터에선 막 개인이 돌리는데 250 t/s 속도도 나오고 난리도 아니여서 와 시발 api급 속도가 나오네? 하면서 gpt랑 상의해가면서 그정도 속도 나오냐고 확실하냐고 N번 물어보면서 확인함

그리고 그래픽 카드 열심히 설치하고 이제 claude한테 시켜서 설치하고 이것저것 튜닝하면서 돌리는데

문제점)
1 존나 시끄러움, 이거 계속 쓴다하면 집에 전투 항공기 날라다니는거랑 동일한 소음임
2 존나 더움 시발 찜질방 18도로 에어컨 틀어도 더움
3 시발 존나 느림 아무리 뭔짓을해도 100 t/s 겨우겨우 나옴 근데 이것도 세션을 여러개 하는건 불가능함
4 시발 그럼 전기세는 어떡하지?

교훈)
1억? 1억이면 시발 아 opus 5계 codex 5계 해봐라 얼마냐 한달에 300정도라고 치자 그냥 간단하게 30개월을 쓸수있음
근데 이 그래픽카드로 30개월치 뽕을 뽑을 수 있을까?
이 소음과 이 열기 그리고 이 전기세를 감당하며?
게다가 존나 속터지게 느림 그리고 자꾸 뭐만하면 에러 터짐
그냥 딸깍하면 되는게 아님 존나 ai가 자꾸 아오 진짜 개빢치네 :씨발 사지마 시발 제발 사지마

맥스튜디오 산다는새끼들도 사지를 절단해버린다 진짜
그냥 그 돈으로 다계정 구독해 시발
딥시크같은거 쓰고 싶으면 천달러 api 결제하고 써 진짜 10년 쓸수있어