kone
AI 채팅 - LLM
AI 채팅 - LLM

자주 안 오는 이유

02/20/2026, 10:47:39
일반
1113 views · 4 likes

일단 할 일도 엄청 많았고, 한 일도 엄청 많았음.

1. 집에 클러스터 만듬 = 원래 AWS에서 들어가던 비용 좀 아끼고 싶어서. EKS 비용 자체가 AWS가 비싸기도 하고.
2. 프레임워크 개발에 좀 집중함 = 리스로는 한계가 너무 명확함. DAG기반 프레임워크를 만들고 있음.
3. 마마잼 공개가 꺼려짐 = 여러가지 복합적인 이유가 있었음. 일단 당분간 신버전 공개는 안 하려고 함.


어차피 도약 할거면 빅 퀀텀 리프로 도약하는게 나을 것 같음. 필요한것들은 다 준비됨.
가장 오래 걸렸던게 서버였는데.

9950x 2개 + 64 GB linux 2대
10코어 + 32GB 맥미니 3대
8TB 하드 9개 EC(Erasure Coding) + 2 TB SSD 4개 Warm Cache + 256 GB SLC SSD x 4개 Hot Cache 분산 스토리지
10GbE 인터넷에 Ingress
Cloudflared + Tailscaled로 Zero Trust

이런식으로 탄탄하게 서버 설계해 놔서 앞으로 활용 잘 하면 될것같음.
나는 좀 뭘 하던 진심이라 아마 엔진 만들고 프론트 만드는것도 꽤 진심이 될것같음. 서버 세팅만 한 2000만원 정도 들었음.
아직 안 온것들 많아서 더 해야함. 2020 프로파일로 랙도 만들어야함. UPS도 사야하고.


그리고 소신발언 하자면 마마젬 잼삼일 맛없음. 이미 잼삼일 특징 자체는 다 분석하긴 했어.

1. 일단 지시 이행력 높아진건 사실임. 근데 순수하게 높아진건 아님. 추론이 과하게 터지는 문제가 있음. 아마 모델을 경량화하고 추론을 더 터지게 만들었을 가능성이 매우 농후함. => 기존 CoT 방식으로 하면 완전히 망가짐. 잼삼도 심했는데 잼삼일은 더 심함.

2. 마마젬이 이전부터 약했던게 있음. 바로 대화 지속 능력임. 물꼬를 트는게 어려우면 유지해나갈 힘도 있어야하는데 이게 없음. 그래서 말이 계속 끊김. 침묵 자체는 딱히 지시를 한 적이 없음. 지속한다라는 선택지가 없는게 문제임. 이게 추론에 의존하는게 심해져서 매몰이 더 심해짐. 정확히 말하자면 유연성과 지시이행의 트레이드오프를 한 것으로 보임.


아래가 대충 인프라 세팅인데. 더 있는데 대충 일부만 짤라서 올렸음.

1



4
7 comments
이미지 잘 보여!
그리고 추론 과하게 터지는 건 맞는거 같아 확실히 어제 쓴 글도 그렇지만 종종 추론을 미친듯이 길게 끌다가 끊겨버리고 막 계속 뭐 반복하고 그런 찐빠가 보이더라
02/20
그래서 할거면 추론을 과하게 하는 문장들을 다 빼야함. 마마젬은 이미 그런 문장은 없고, 잼3에서도 추론 토큰 700 ~ 1300정도를 유지하긴 했는데. 더 빼야할것같음.
잼삼 지시이행력 이슈로 잡아두느라 만들었던게 확실히 역효과있긴 한듯 아무래도 잼삼일은 다른 프롬을 한동안 쓰긴 해야하나봄... 다음 마마젬 버전도 기대할게
02/20
걍 버전 하나는 올려줌. 사실... 고치긴 다 고침...
02/20
근데 더 픽스는 안해줄것같음... 일단 일을 두번하는거라.
생존신고
일반
이오치 마리
08/08 568 1
여기 활동은 어려울듯
일반
너굴맨
07/11 1485 0
요즘 하는거
개발
이오치 마리
07/01 1376 0
Termux에서 claude code 세팅 및 사용하기
정보
이오치 마리
06/25 1202 1
아직은 리스 쓰고 있긴 한데
일반
너굴맨
06/23 1474 0
마마젬 개?조판
프롬프트
이오치 마리
06/14 1504 1
나 살아는 있다
일반
aanaan
06/12 1468 0
매우 조용하네
일반
이오치 마리
06/10 1230 0
논문 끝남
일반
aanaan
04/19 1401 4
블아 미카) 테스트
로그
이오치 마리
04/15 1259 1
요즘 안보이는 이유
일반
aanaan
04/13 1173 2
미안하다 오늘도 안나온다 ㅋㅋㅋㅋ
일반
aanaan
03/29 1366 0
파도 파도 계속 뭐가 나온다 나와
일반
aanaan
03/28 1083 0
현 상태
일반
aanaan
03/27 1420 1
기대 ㄴㄴ
일반
aanaan
03/27 954 0
라고 말했지만 이번주 내에 출시 가능할것같음
일반
aanaan
03/25 1066 0
다음주 내에도 출시 못할것같음 ㅋㅋㅋㅋ
일반
aanaan
03/22 1408 0
삘이 오늘 안에 안 나올것같음
일반
aanaan
03/22 1145 0
Pomollu 현재 호환되는 형식으로 변환한 프롬프트랑 봇 프롬 올림
프롬프트
이오치 마리
03/21 1357 0
오늘 아마 beta가 나올 것 같음
일반
aanaan
03/21 1311 0
유틸봇) D.P.S.G: Universal 0.6 업데이트
이오치 마리
03/18 1789 0
바빴는데 잠시 돌아옴
일반
너굴맨
03/17 1689 0
Auto-completion
일반
aanaan
03/16 1173 0
베타 릴리즈 준비중
일반
aanaan
03/16 1092 1
포몰루 v0.0.1-alpha3 업데이트
일반
aanaan
03/14 1507 1
HTML 테이블 복붙용
일반
이오치 마리
03/14 908 0
유니버설 캐릭터 시트 (DPSG: Universal 에 있는 것)
자료
이오치 마리
03/14 1699 0
포몰루 v0.0.1-alpha2 업데이트
일반
aanaan
03/13 1284 3
유틸봇) 마마젬을 증류하고 초고봉밥 시트도 증류한 극한의 혼종
이오치 마리
03/13 1576 0
쓰으읍...
일반
이오치 마리
03/10 1457 0