로컬ai로 번역 돌리기.

어떤분이 로컬로 번역 돌리는 방법 소개하면 어떠냐고 해서, 가볍게 써볼게요.

순서는

1. 준비물

2. 설치

3. 번역 실행

입니다.

시작하기 전에 준비물이 필요하죠. 좋은 컴퓨터가 필요합니다.

일단 gpu가 필요해요.

4060ti 16g 모델 이상이면 아무거나 써도 다 vram이 16g는 넘습니다. 90 가지 않는 이상 다 16g라는게 문제긴 하지만. 진짜 죽고싶나 황회장.

개인적으로 구글에서 무료배포하는 gemma4 26b a4b를 쓰는데, 이게 속도도 엄청 빠르고 번역퀄도 그냥저냥 괜찮아서 이걸 쓰고 있거든요.

근데 이거 vram이 최소 16g는 필요하고… 사실 제대로 돌리려면 그 이상이 필요합니다. 저는 5060 + 4080s egpu로 쓰고 있어요.

(지금 양자화 한번 봐밨는데 iq3s면 13.5g정도 먹어서 vram 16g인 분들은 이게 적당할 것 같긴 하네요. iq3s 퀄리티가 훌륭하진 않지만요… 저는 mxfp4라는 이상한 양자화를 쓰고 있습니다. )

그리고 램 용량도 은근히 중요합니다. 저는 32g 쓰는데 이게 모자라는게 느껴져요. 한참 번역하면 95%씩 램 사용량이 찍힙니다.

제가 gemma 31b로 못넘어가는 이유가 램이 모자라서입니다..

쩄든 gpu랑 램용량이 있으면 이제 설치해볼께요.

우선 로컬 llm을 설치하셔야 합니다.

저는 ui가 편리하게 되어 있어서 lm 스튜디오를 쓰고 있습니다. 인터넷에서 바로 설치하실 수 있어요.

설치를 했으면 llm 모델을 골라야 합니다.

예전엔 중국에서 나온 qwen3.5 를 썼었는데, 지금은 구글에서 나온 gemma 4 가 대세인 것 같습니다.

vram 넉넉하고 ram 넉넉하신 분들은 31b 쓰셔도 되구요, 16g정도 되시는 분들은 gemma4 26b a4b 쓰시면 되겠습니다. (스샷에 나온거 그대로 찾아서 다운로드 하시면 되요)

물론 스펙에 맞춰서 다른거 쓰셔도 됩니다!

1

설치했으면, 이제 이 모델을 컴퓨터에 로드합니다. 사실 여기까지는 너무 쉬워서 그냥 하셨을것 같아요.

로드가 됐으면, 이제 ram용량이 꽉꽉 들어찰 겁니다. 이제 번역할 준비가 끝난 거에요.

아, 번역 프로그램 돌리기 전에 서버가 돌아가는지 체크해야 합니다. 밑에 스샷에서 스테이터스 : 러닝 부분을 토글해줘야해요.

1

이제 번역 프로그램을 돌려야 합니다.

aHR0cHM6Ly9raW8uYWMvYy9kdFRNVnE2Q3JBTnV6NEVJN2gwajRi

국룰 30일입니다. html 프로그램이라 30kb? 그정도밖에 안됩니다.

이 html프로그램은… 제미나이한테 딸깍 시켰습니다. 아, 클로드였나?

1

1

사용 방법도 간단해요.

1. 그냥 txt파일 드롭에서 원문 txt 파일 넣고

2. 청크 만들기 눌러서 적당한 글자수로 쪼개고

3. 용어집 txt 파일을 불러오거나 하나하나 추가하셔도 되요.

4. 프롬프트 적당히 읽어보고 수정할게 있으면 수정한 다음에(저는 귀찮아서 안건드려요.

5. 실행 모드에서 1차 번역 + 2차 누락 점검 하면 너무 시간이 많이 걸리고 오류도 나서 그냥 1차 번역만 하고

6. 전체 번역을 눌러서 기다리면 됩니다.

그러면 왜앵 하고 글카가 돌아가기 시작합니다.

8메가 하는데 한 10시간? 좀 안 걸렸던 것 같습니다. 그떄그때 다르긴 하지만요.