kone
ainovel
ainovel

아 요새 자꾸 새컴 맞추고싶네

잡담
6,101 views · 1 point

잼마4 26B도 괜찮지만 컨텍스트 여유가 없고

젬마4 26B가 생각보다 괜찮으니까 31B 쓰고싶음

1
20 comments
오늘이 제일 싸다! 사시죠...
비...비싸요...
전 포기해씀...
사면 풀로 활용 가능할 거 같긴한데 비쌈...
젬마4 31b q5_k_m 좋습니다. 다른 사람들이 gpt 아스트라 솔 이런거로 번역한거랑 품질 차이 별로 안나던데요.
요새 구글 서버 상태가 너무 구려서 진짜 고민임
한달전보다 40만원 최소로 오름, 1년 전보다 100가까이 오름 이게 맞아?
컴끼야아아악
램값이 미쳐서 답안나옴
정상화 마려운 거지요
28년 쯤 되야 제한 좀 풀리고 30년 쯤 되야 가격이 어느정도 나올 꺼라는 말이 있길래 저는 그냥 군대 다녀와서 산 컴퓨터에 매일 오래 살아달라고 만수무강 비는 중...
저도 다른 용도로는 사양이 모자란 게 아닌데 로컬ai 돌리려니까 Vram에 여유가 없음... 돌아는 가는데...
저도 오늘 갑자기 업글하고 싶다... 충동이 들긴 했지 말임다 2년만 더 묵혀봐야지
사실 메인보드만 더 상급으로 바꾸고 10~16GB 정도 vram 달린 글카만 사도 되긴하는데 기왕 사는 거 새로 맞추고 싶지만 너무 비쌈
제가 지금 983d 5080 램64인데, 이 정도면 젬마4 31b 돌릴 수 있나요? 로컬 번역은 아무것도 모릅니다.
일반 램이 아니라 그래픽카드 Vram이 중요함 Q4 양자화 모델 기준으로 대충 3090 같은 Vram 24GB 이상 필요하다고 보면 됨. 근데 3090 1장으로도 컨텍스트 윈도우 여유가 널널하진 않을 거에요. 물론 모자라면 CPU로 모델 일부가 오프로딩 되긴 하는데 그러면 병목 생겨서 느려짐
All
Title
Body