kone
소미소프트
소미소프트

MV/MZ 실시간 번역기 LM Studio 설정 공유 (VRAM 16기가)

정보
26,615 views · 31 points

최적의 설정은 아니고 그냥 제가 현재 쓰는 세팅입니다.

그냥저냥 쓸만한 옵션... 글카 체급 대비 속도 좀 포기하고 품질이 높은 옵션입니다. 더 좋은거 있으면 알려주세요.




모델 선택: 16기가에 26b@IQ4_XS 겨우 넣을 수 있습니다. (완전히 다 들어가지는 않는 것 같음)

단순번역은 26b 경우 거의 검열 안해서 그냥 기본 쓰고있습니다.


현재 mradermacher/gemma-4-26B-A4B-it-ultra-uncensored-heretic-i1-GGUF@IQ4_XS 사용중


1




Max Concurrent Requests 더 늘리면 번역기도 여러개를 동시에 번역합니다.

Offload 무조건 30


1



최대한 VRAM에 쑤셔넣는 옵션


1



토큰 속도 테스트 66 tps


1





번역기 저녁에 3.2.6 업뎃했음

업데이트 체크하는 기능 포함

31
51 comments
비검열이 의외로 빛을 발하는 분야가 범죄관련 묘사
검열함? 진짜 이상한거 시켜도 단순번역이라고 검열안하던데
아 검열하긴하네 ㅋㅋ
나도 소미 와서 뒤늦게 깨달은거지만 검열에 걸려도 할말 없는 테마가 동인겜들 중에 정말 많이 나오긴 함 ㅋㅋ
난 건전한 야겜만 해서 모르겠다 ㅋㅋ
모델 파라미터는 기본값으로 씀? 온도랑 Top P 라던지
그냥 구글이 젬마4에 디폴트로 주는거 쓰는중 번역기에서 설정하게되어있는데 그냥 그 값들 쓰는중임 영 이상한거 안하면 번역은 별 차이 없는듯
잘 모르겠지만 굉장해
알려준데로 하고있는데 4060ti 8gb는 스펙이 많이 부족한가? 번역이 안되지는 않는데 생각보다 많이 느리네
모델이나 설정 문제임 빠르게 괜찮은 퀄리티 나옴 실험해보셈
게임 실행하면 뜨는 live translator monitor 항상 안뜨게 하는 방법 없음?
없는데 담엔 옵션 만들까 거슬리면 챗지피티한테 ui-launcher.js 주고 고쳐달라고 하셈
우가부가나 코볼트로는 안되나요?
누군가 지원하겠다고 나서는거 아닌 이상 현재로썬 어려울듯요 저 부분은 어차피 처음부터 갈아엎어야 하는 쓰레기장 코드라 기능 더 추가하기도 힘듭니다
그래픽카드 램이 8기가고, 램은 32기가 쓰는데 예시로 보여주신 모델 그대로 사용해도 되는건가요? 아니면 다른 모델 써야하나요?
절대 안돌아갑니다 e4b 쓰셔야할겁니다
애매하게 VRAM 12GB라 애매하네요 흐규흐규 gemma-4-E4B쓰는게 맞겠죠?
(edited )
26b 극한의 양자화한거랑 뭐가 더 나을진 모르겠네요... 16기가도 26b 겨우 돌리는거라
밑에서 2번째 사진에 셋팅사진에서 하드웨어칸이 없으면 어캄??
개발자 모드 켜야하던가
덕분에 쉬고있던 제 5080이 일자리를 찾았어요
똥컴 1060따리인데 무슨 모델을 써야하나요
6기가면 e4b로 속도 잘 나오는 양자화 쓰면 되고 3기가면 아무래도 힘들지 않을까요
이 설정 그대로 잘 쓰고있었는데 오늘 해보니까 갑자기 추론기능 없는 모델이라고 번역거부되서 작동이 안되던데 혹시 지금도 이설정 그대로 잘 쓰시고 계신가요??
저는 잘 작동하는데... LM Studio 업뎃하고 추론이 강제 활성화되서 4.2.3b0에서 강제 비활성화시켰는데 추론 없는 모델을 쓸 경우 없는데 비활성화했다고 문제 생긴 것 같네요.
4.2.5 올려놨어요
All
Title
Body