Qwen 3.8 27b 번역 후기

그래픽카드 3090

RAM 64GB로 테스트 합니다.

로컬 LLM 런처는 LM 스튜디오를 사용했으며

헤르메스에 연결하여 작업을 실행했습니다.

모델은 Qwen 3.8 27b 3양자화를 사용했습니다.

1

3양자화가 원본에 92.5% 정도 하고 artificial을 기준으로 단순 계산하면

48점 정도 하는데 어느 정도 수준이냐면

6개월 전에 주력으로 사용했던 오푸스 4.6보다 훨씬 더 좋습니다.

사실 양자화 4를 하고 사용하고 싶었는데 작업을 해보려고 컨텍스트를 128K로 돌렸더니

KV 캐쉬를 4양자화를 해도 6~7GB를 먹습니다.

일단 128K로 해보고 싶어서 줄이지 않고 이 세팅으로 진행하겠습니다.

속도는 MTP 2/0/0.75를 사용하여 초당 30토큰이 나왔는데

이후에 MTP 2/0/0을 사용하니 초당 40~50토큰이 나옵니다.

1

(0~2토큰 예측에 정확도 20% 설정을 했습니다.)

추가로 Qwen 3.8 27b는 오버해서 추론하는 버그가 있어서 그것을 해결하기 위해

qwen에게 작업 난이도를 평가해서 추론값을 높이거나 낮추는 스킬을 사용했습니다.

이 스킬도 qwen이 만들어 줬습니다.

테스트는 당연히 야겜을 번역해 볼겁니다.

테스트 게임은 RJ01665325로 MZ 형식의 게임입니다.

1

로컬로 야겜 번역하는 건 처음이라서 두근 거리네요.

결론부터 말하면 실패했습니다.

계획서 작성하고 게임 파일 인식하고 백업하고 번역 준비까지 1시간 30분 걸렸습니다.

번역은 시작도 못 했는데 1시간 30분 걸렸으면 사실 실패했다고 보는게 맞는 것 같습니다.

무검열 버전을 사용해서 해야하는 일이 있는거 아니면 사용하지 마세요.

차라리 같은 성능의 딥시크 v4 플래쉬가 $0.04/$0.08입니다.

70/30으로 계산하면 100만당 대략 72원이고

5억 토큰을 사용해야지 AI의 구독료인 28,800원이 나옵니다.

다신 이딴 똥 쓰레기 같은 실험 안한다