kone
sub_icon

소미소프트

3060ti 따위로 로컬 LLM은 무리였나

일반
조회 7449 · 좋아요 1

대사한줄번역하는데 10초씩걸리네

1
댓글 3개
댓글 쓰기
사이즈가 뭐냐에 따라 다르지 젬마4 엣지ai용 보니까 4기가 짜리도 있던데
04.21 (04.21)
모델사이즈가 VRAM에 전부 들어오는 걸로 해야 빠름 gemma 4 e4b 써 텍스트 번역용이면 비전모델 날려버리고
04.21
100에 99 GPU에 다 안들어가서 느려지는거임 gpu offload 슬라이드 끝까지 땡겨도 모자란다싶으면 조용히 오프로드 실패하고 개느림
0 / 500
태그검열하는 곳이 점점 생기네
일반
블랙패킷
05.20 2881 2
너무 힘들다
일반
이상한 사람
05.20 2537 0
꿈에서 찝찝한 근친물 봤음
일반
antarctica
05.20 2864 2
여성인권 신장을 위해 왜 맨날 투디만 잡냐 ㅠㅠ
일반
렐루
05.20 2782 0
ㅁㅊ.. 나 Nas 망가지면 꿈도 미래도없네
일반
아로나
05.20 2525 -1
판티아가 일본계 후원 사이트 중에서 제일 기능 구린 곳이었는데
일반
날개 로봇
05.20 5475 2
왜 판티아 알림 메일이 줄줄이 올라오나 했더니
일반
번거
05.20 2308 1
판티아 단순하게 모자이크 더 강화하라는 건 줄 알았는데
일반
단또
05.20 2086 0
이러면 판티아 쓸 이유가 있나?
일반
notmyark
05.20 2582 0
의술사 이거 존나 재밌네
일반
Noel
05.20 2060 0
판티아 왜 그러냐
일반
dtgft6
05.19 1584 0
오늘 예비군이다...
일반
겜믈리에
05.19 2945 3
방주 정리하면서 나도 모르게 삭제한게 좀 있나보네
일반
toung
05.19 3663 1
(스포)Lost chapter 이거 감정선이 좀 이상한데
일반
paddackmon
05.19 3127 0
게임샀다
일반
페비
05.19 2916 4
판티아도 지랄났네
일반
페비
05.19 2773 10
아무도 낚시 안했는데 혼자 제목낚시당함...
일반
발바닥
05.19 2076 1
펄스미스2 배분이 왜 이러지
일반
un1542
05.19 3532 1
케모노 뒤진거 안타깝네
일반
페로로질라
05.19 4445 0
후속작 떡밥 있는 야겜이 너무 무섭딘
일반
부탄가스
05.19 1744 0
ntr을 너무 즐겨보니까 좀 이상해짐
일반
ikusa-1
05.19 2478 0
이 씨발년 결국 찍싸고 튀었네
일반
마사지
05.19 4463 6
어으 씨 모니터 주사율 문제엿나
일반
제이워드
05.19 1360 1
불사설정 캐릭터 볼 때마다 엄한 생각나네
일반
puccho
05.19 2289 3
흑발 존예 히토미 추천 받아요
일반
haha19
05.19 2293 -2
의술사 톰보이 어흐 ㅋㅋㅋ 하고있었는데
일반
noname1919
05.19 1886 1
비월선행록 이거 맵탐사보다는 퀘따라가야되네
일반
allon
05.19 2080 0
오늘 아무런 사전 예고 없이 회사에 연차 냈다....
일반
shingoldhammer
05.19 2334 3
악재다
일반
화앨
05.19 2024 1
capslock같은건 누가 만든거야
일반
슬래시
05.19 1430 0