kone
AI 채팅 - LLM
AI 채팅 - LLM

자주 안 오는 이유

02/20/2026, 10:47:39
일반
1112 views · 4 likes

일단 할 일도 엄청 많았고, 한 일도 엄청 많았음.

1. 집에 클러스터 만듬 = 원래 AWS에서 들어가던 비용 좀 아끼고 싶어서. EKS 비용 자체가 AWS가 비싸기도 하고.
2. 프레임워크 개발에 좀 집중함 = 리스로는 한계가 너무 명확함. DAG기반 프레임워크를 만들고 있음.
3. 마마잼 공개가 꺼려짐 = 여러가지 복합적인 이유가 있었음. 일단 당분간 신버전 공개는 안 하려고 함.


어차피 도약 할거면 빅 퀀텀 리프로 도약하는게 나을 것 같음. 필요한것들은 다 준비됨.
가장 오래 걸렸던게 서버였는데.

9950x 2개 + 64 GB linux 2대
10코어 + 32GB 맥미니 3대
8TB 하드 9개 EC(Erasure Coding) + 2 TB SSD 4개 Warm Cache + 256 GB SLC SSD x 4개 Hot Cache 분산 스토리지
10GbE 인터넷에 Ingress
Cloudflared + Tailscaled로 Zero Trust

이런식으로 탄탄하게 서버 설계해 놔서 앞으로 활용 잘 하면 될것같음.
나는 좀 뭘 하던 진심이라 아마 엔진 만들고 프론트 만드는것도 꽤 진심이 될것같음. 서버 세팅만 한 2000만원 정도 들었음.
아직 안 온것들 많아서 더 해야함. 2020 프로파일로 랙도 만들어야함. UPS도 사야하고.


그리고 소신발언 하자면 마마젬 잼삼일 맛없음. 이미 잼삼일 특징 자체는 다 분석하긴 했어.

1. 일단 지시 이행력 높아진건 사실임. 근데 순수하게 높아진건 아님. 추론이 과하게 터지는 문제가 있음. 아마 모델을 경량화하고 추론을 더 터지게 만들었을 가능성이 매우 농후함. => 기존 CoT 방식으로 하면 완전히 망가짐. 잼삼도 심했는데 잼삼일은 더 심함.

2. 마마젬이 이전부터 약했던게 있음. 바로 대화 지속 능력임. 물꼬를 트는게 어려우면 유지해나갈 힘도 있어야하는데 이게 없음. 그래서 말이 계속 끊김. 침묵 자체는 딱히 지시를 한 적이 없음. 지속한다라는 선택지가 없는게 문제임. 이게 추론에 의존하는게 심해져서 매몰이 더 심해짐. 정확히 말하자면 유연성과 지시이행의 트레이드오프를 한 것으로 보임.


아래가 대충 인프라 세팅인데. 더 있는데 대충 일부만 짤라서 올렸음.

1



4
7 comments
이미지 잘 보여!
그리고 추론 과하게 터지는 건 맞는거 같아 확실히 어제 쓴 글도 그렇지만 종종 추론을 미친듯이 길게 끌다가 끊겨버리고 막 계속 뭐 반복하고 그런 찐빠가 보이더라
02/20
그래서 할거면 추론을 과하게 하는 문장들을 다 빼야함. 마마젬은 이미 그런 문장은 없고, 잼3에서도 추론 토큰 700 ~ 1300정도를 유지하긴 했는데. 더 빼야할것같음.
잼삼 지시이행력 이슈로 잡아두느라 만들었던게 확실히 역효과있긴 한듯 아무래도 잼삼일은 다른 프롬을 한동안 쓰긴 해야하나봄... 다음 마마젬 버전도 기대할게
02/20
걍 버전 하나는 올려줌. 사실... 고치긴 다 고침...
02/20
근데 더 픽스는 안해줄것같음... 일단 일을 두번하는거라.
버텨!!!!
일반
aanaan
02/26 1229 0
공포물;
일반
너굴맨
02/25 1237 0
으... 개같은거... 랙 왔다...
일반
aanaan
02/24 1027 0
마마잼 다음 마일스톤
일반
aanaan
02/24 947 3
내가 상태창 쓰는 이유
일반
너굴맨
02/24 978 1
제작자로서 개인적인 바람
일반
aanaan
02/23 1131 2
테오리아 고쳐놓음
일반
aanaan
02/23 897 2
장기챗 테스트 하나 남았는데....
일반
aanaan
02/23 645 2
현실 주입 토글 고쳐놨음
일반
aanaan
02/23 974 2
무관심 테스트
일반
aanaan
02/23 782 3
재미없는 비밀
일반
aanaan
02/23 637 2
v1.26.6은 약간 말을 좀 더 하게 바꿈
일반
aanaan
02/23 901 5
이곳이 원피스
일반
삣삐
02/23 1138 8
FolderManager v3.0 (Plugin API 3.0)
플러그인
이오치 마리
02/22 1516 4
볼트 쓰는 사람들 공지
일반
aanaan
02/22 787 4
잼삼일 마마잼 최신 버전은 현실 주입 토글을 켜지 않는걸 추천함
일반
aanaan
02/22 766 4
마마잼 v1.25.7 업데이트
프롬프트
aanaan
02/22 1764 5
v1.22.2 vs v1.25.7
로그
aanaan
02/22 768 3
마마젬 1.25.6 로그
로그
너굴맨
02/22 983 2
마마젬 v1.24.6 업데이트
프롬프트
aanaan
02/21 1316 4
🔞 🌙 달의 낙인이 찍힌 소년 : 김시윤 (보추봇)
우잼
02/21 3298 4
앞으로 당분간 마마잼 운영 방향
일반
aanaan
02/21 1401 5
참고로 FolderManager v3.0은 API 3.0 마이그레이션 버전입니다
일반
이오치 마리
02/20 750 0
마마잼 1.24.0
프롬프트
aanaan
02/20 1582 4
자주 안 오는 이유
일반
aanaan
02/20 1112 4
잼삼일 좀 써보니까 일단 쿰질할때만 쓸듯
일반
우잼
02/19 823 0
아니 ㅅㅂ 쓰자마자 찐빠나네
일반
너굴맨
02/19 1061 0
마마젬 잼삼일로 써보니까 좋은듯
일반
우잼
02/19 849 1
Anthropic Claude Sonnet 4.6 출시
정보
이오치 마리
02/17 856 1
저장 아이콘 바 (SavingProgressBar) API 2.1
플러그인
이오치 마리
02/16 654 2