kone
소미소프트

소미소프트

LLM AI번역도 점점 딸깍스러움이 사라져간다

01/20/2026, 01:19:36
작업현황
10228 views · 28 likes
1
1




내가 좋아하던 어투로 한달 좀 안되게 가스라이팅 하니까 점점 손댈게 줄어드네.


LLM 모델은
https://huggingface.co/mradermacher/aya-expanse-32b-heretic-GGUF


이미 일한번역에서는 제법 유명한 aya-expanse 32b의 heretic 모델임.

오리지널 모델에서 윤리적 이슈로 답변을 피하는 영역을 열기 위해 거절 로직을 통으로 거세한게 기존의 abliterated 모델이라면,

heretic은 능지 너프를 피하면서 조금 더 정교하게 민감한 주제에 정밀타격으로 공략하는 모델인데,

ai가 씹선비식 변명 안하니 슬슬 불쾌한 골짜기가 걷어지는게 느껴져서 입꼬리가 올라감.


분명 근시일 내에 번역 자체가 완전히 자동화되는 시대도 오겠지...우린 어떤 시대 속에 살고있는 것인가.




*오치돌 왜 번역이 안돌아가냐고 묻던 솜붕이 하나가 비추와 무관심만 받던 거 보고 왠지 마음이 좀 그래서,

오늘 짠 브릿지 서버 앱 테스트용으로 LLM에 물려보고 퍼포먼스 체크중인데...이 게임 '야'가 너무 엉성한데? 3d모델끼리 겹치는 현상은 보기 좀 그래.......

28
21 comments
프롬프트 깍아서 손본거임ㅋㅋ? 비주얼노밸용으로 개인 작업모델 써보니까 여러줄 넣으니까 번역 찐빠내사 포기했는데 이거보니 한줄식 넣는게 맞는거 같기도
VRAM 빨로 높은 양자화를 취하는 것도 꽤 큰 거 같음. 모델이 한 덩어리로 로드 되지 못하면 맥락맹에 치매 증상이 더 쉽게 일어나는게 체감이 되더라고
01/20 Edited 01/20

Deleted comment.

그땐 하드웨어도 더 상향평준화 돼서 짱짱할거고 그런거 안키우는 사람들도 클라우드 기반으로 쉽게 서비스 받을테니 모든게 실시간으로 다 해결되고도 남을 거 같음 ㅋㅋ
01/20
01/20
능력이 부럽다 다 노력에 의한거겠지
01/20
툴 사용법 알려주면 다른 것도 해볼게
와~ Oliver쌤 보소
01/20 Edited 01/20
ㅋㅋㅋㅋ멜론로더써도 안되고 쉐어써도 안되서 결국 물어본건데 희망이 보이는구나 다행이다
01/20 Edited 01/20
bepinex 692빌드로 하니까 되더라 대사 볼륨이 어느정돈진 모르겠지만 슬렁슬렁 대화 오토모드 켜놓고 돌려볼게
오 프로그램 UI 특이하네. 번역 프로그램은 안써봤는데 LM 전용 프로그램임?
LM이랑 오토트랜슬레이터 연결해줄려고 파이썬으로 하나 뚝딱함