애초에 버전은 소수점 값이 아니라고... ㅋ
그런데 8b 수준에선 일 시켜보면, 아... 할 수 밖에 없어서. ㅋ 진짜 이 정도면 쓸만하네 하려면, command a 111b 같은 걸 써야 하는데, 이건 뭐... 그냥 일반적으론 못 돌리니...
로컬 LLM은 개인적으로 mistral small 27b 가 제일 좋았음. 일한 번역 기준이긴 하지만... 간혹 somehow 나오는 것만 logit bias 조정해 주면 좀 연식 있는 모델이지만, 일반적으로 구동 가능한 것 중에선 제일 나은 듯. 문제는 dense 모델이라 느려 터졌으니, 속도까지 고려하면 gemma 4 26b-a4b도 괜찮은데, 얘는 가끔 정신 못 차릴 때가 있어서 검수 필수.
코딩도 AI가 해주지 않을까?
한참 멀었음
짱깨들은 지들 말이 세계 공용어인 줄 알걸
오늘 밤엔 누구 집을 털까
0.16에서 1년쯤 지난 것 같은데 아직도 0.16.x네... 언제 다 만드나 ㅋ
직장에 5일이나 있으면 터지기도 하고 그런거지
같은 걸 3등분 해서 올리니까 번역해 주네요 ㅋ 그냥 맘 편하게 로컬 LLM 돌려서 해보려고 합니다.