kone
sub_icon

소미소프트

3060ti 따위로 로컬 LLM은 무리였나

일반
조회 7415 · 좋아요 1

대사한줄번역하는데 10초씩걸리네

1
댓글 3개
댓글 쓰기
사이즈가 뭐냐에 따라 다르지 젬마4 엣지ai용 보니까 4기가 짜리도 있던데
04.21 (04.21)
모델사이즈가 VRAM에 전부 들어오는 걸로 해야 빠름 gemma 4 e4b 써 텍스트 번역용이면 비전모델 날려버리고
04.21
100에 99 GPU에 다 안들어가서 느려지는거임 gpu offload 슬라이드 끝까지 땡겨도 모자란다싶으면 조용히 오프로드 실패하고 개느림
0 / 500
asdsdadsadas
일반
코네
06.11 189 0
dsdsadasdsadas
일반
코네
06.11 858 0
제4목
일반
Magic
05.29 454 0
제3목
일반
Magic
05.29 174 0
제목
일반
Magic
05.29 245 0
sdadsadsa
일반
Magic
05.29 511 0
의술사 로드하려면 겜끄고 다시켜야되는거 진짜 존나불편하네
일반
nagisa8262
05.28 673 0
오늘은 진짜 엔딩보고 딴 거 해야지
일반
ENE
05.28 520 2
삼성갤러리 원드 연동 종료
일반
정실은스쿨드
05.28 671 0
요즘 서브컬쳐겜은 콜라보 할데가 없나
일반
kunarin
05.27 584 -2
마도사 카나데의 후타나리 던전 퀘스트 노모도있고 한글패치도있는데
일반
momoko
05.27 356 0
로리메시아) 아니 죽음의 계곡 ㄹㅇ 죽음의 계곡인데?
일반
qqqqq
05.27 817 1
하램
일반
에로탐구가
05.27 774 0
다들 야겜할때 버릇같은거 있음?
일반
guguki
05.27 1381 0
요즘 야겜판은 점점 빵ㅋㅋ해지는구나
일반
tommy5801
05.27 1402 1
아이....뭔데 이 색깔놀이는
일반
ascorona
05.27 1122 3
챔버겜도 스팀나오것지?
일반
guguki
05.27 600 0
유니슨코드 이거 전투는 노잼 인데...
일반
sinbiru
05.27 692 0
리본 아일랜드 후기
일반
desk1519
05.27 1393 0
솔직히 동인 야겜 초대형 서클이나 작가가 만들어주면 땡큐이긴 한데
일반
annihilation
05.27 1293 1
SAO 완결내고 빨리 마린 드가자
일반
인생좆망함
05.27 1188 0
(스포) 의술사 스토리 솔직히 그 정돈 아님;
일반
happy3
05.27 1251 1
전에 ao madousi 작가가 올렸던 쿠소가키물..
일반
핥는맛
05.27 711 0
흑전차야 3분기까지 한 달 남았구나
일반
라붕
05.27 872 0
내 기준 3대 갓겜
일반
akha12
05.27 1737 2
엽빛나 영상도 올리려 했는데 이미 있군
일반
kawineo
05.27 965 0
피카소 26년작
일반
마사지
05.27 1511 7
에로검열관 넣는곳
일반
masker
05.27 835 0
리지넷타 시리즈가 개꼴리긴 해...
일반
천마파천장
05.27 495 0
통풍인 줄 알고 병원갔것만
일반
마크울프
05.27 689 1