kone
AI 채팅 - LLM
AI 채팅 - LLM

자주 안 오는 이유

02/20/2026, 10:47:39
일반
1114 views · 4 likes

일단 할 일도 엄청 많았고, 한 일도 엄청 많았음.

1. 집에 클러스터 만듬 = 원래 AWS에서 들어가던 비용 좀 아끼고 싶어서. EKS 비용 자체가 AWS가 비싸기도 하고.
2. 프레임워크 개발에 좀 집중함 = 리스로는 한계가 너무 명확함. DAG기반 프레임워크를 만들고 있음.
3. 마마잼 공개가 꺼려짐 = 여러가지 복합적인 이유가 있었음. 일단 당분간 신버전 공개는 안 하려고 함.


어차피 도약 할거면 빅 퀀텀 리프로 도약하는게 나을 것 같음. 필요한것들은 다 준비됨.
가장 오래 걸렸던게 서버였는데.

9950x 2개 + 64 GB linux 2대
10코어 + 32GB 맥미니 3대
8TB 하드 9개 EC(Erasure Coding) + 2 TB SSD 4개 Warm Cache + 256 GB SLC SSD x 4개 Hot Cache 분산 스토리지
10GbE 인터넷에 Ingress
Cloudflared + Tailscaled로 Zero Trust

이런식으로 탄탄하게 서버 설계해 놔서 앞으로 활용 잘 하면 될것같음.
나는 좀 뭘 하던 진심이라 아마 엔진 만들고 프론트 만드는것도 꽤 진심이 될것같음. 서버 세팅만 한 2000만원 정도 들었음.
아직 안 온것들 많아서 더 해야함. 2020 프로파일로 랙도 만들어야함. UPS도 사야하고.


그리고 소신발언 하자면 마마젬 잼삼일 맛없음. 이미 잼삼일 특징 자체는 다 분석하긴 했어.

1. 일단 지시 이행력 높아진건 사실임. 근데 순수하게 높아진건 아님. 추론이 과하게 터지는 문제가 있음. 아마 모델을 경량화하고 추론을 더 터지게 만들었을 가능성이 매우 농후함. => 기존 CoT 방식으로 하면 완전히 망가짐. 잼삼도 심했는데 잼삼일은 더 심함.

2. 마마젬이 이전부터 약했던게 있음. 바로 대화 지속 능력임. 물꼬를 트는게 어려우면 유지해나갈 힘도 있어야하는데 이게 없음. 그래서 말이 계속 끊김. 침묵 자체는 딱히 지시를 한 적이 없음. 지속한다라는 선택지가 없는게 문제임. 이게 추론에 의존하는게 심해져서 매몰이 더 심해짐. 정확히 말하자면 유연성과 지시이행의 트레이드오프를 한 것으로 보임.


아래가 대충 인프라 세팅인데. 더 있는데 대충 일부만 짤라서 올렸음.

1



4
7 comments
이미지 잘 보여!
그리고 추론 과하게 터지는 건 맞는거 같아 확실히 어제 쓴 글도 그렇지만 종종 추론을 미친듯이 길게 끌다가 끊겨버리고 막 계속 뭐 반복하고 그런 찐빠가 보이더라
02/20
그래서 할거면 추론을 과하게 하는 문장들을 다 빼야함. 마마젬은 이미 그런 문장은 없고, 잼3에서도 추론 토큰 700 ~ 1300정도를 유지하긴 했는데. 더 빼야할것같음.
잼삼 지시이행력 이슈로 잡아두느라 만들었던게 확실히 역효과있긴 한듯 아무래도 잼삼일은 다른 프롬을 한동안 쓰긴 해야하나봄... 다음 마마젬 버전도 기대할게
02/20
걍 버전 하나는 올려줌. 사실... 고치긴 다 고침...
02/20
근데 더 픽스는 안해줄것같음... 일단 일을 두번하는거라.
마마젬 사육푸스로도 잘 돌아가나
일반
너굴맨
02/13 835 0
Claude System Prompt
정보
이오치 마리
02/13 758 0
제로의 사역마 고오오급 상태창 (수정됨)
모듈
이오치 마리
02/06 991 0
상태창 갈아 엎는 중
개발
이오치 마리
02/06 813 0
마마젬 v1.22.4
프롬프트
aanaan
01/29 2371 5
Voyage AI는 이제 MongoDB Atlas에서 사용 가능합니다.
정보
이오치 마리
01/28 1011 0
구글 공홈 구독에 GCP 크레딧 제공
정보
이오치 마리
01/27 1076 2
Voyage AI (임베딩)
정보
이오치 마리
01/27 1227 1
마마젬 v1.22.3
프롬프트
aanaan
01/27 1630 6
무제
프롬프트
이오치 마리
01/27 1479 2
Claude API Rate Limits
정보
이오치 마리
01/26 956 0
HTML로 이미지를 추가하는 용도의 이미지 호스팅 사이트
자료
이오치 마리
01/26 1157 1
마마젬 하이파 v3.1
프롬프트
aanaan
01/26 1810 5
테스트
프롬프트
이오치 마리
01/26 1289 2
🔞 얌전한 고양이가 부뚜막에 제일 먼저....
이오치 마리
01/25 3982 6
☄️간략 상태창
모듈
이오치 마리
01/25 957 2
NAI 메타데이터 확인하는 사이트
자료
이오치 마리
01/25 1990 1
언젠가는 레거시가 될 🔦 NPC-LIST
모듈
이오치 마리
01/25 1044 2
공홈 Gemini 호들갑 줄이는 프롬
프롬프트
이오치 마리
01/25 1199 1
풀사칭이 가능한 고봉밥 페르소나 시트 + 능력 성장 메커니즘
페르소나
이오치 마리
01/25 1903 1
Gemini API Rate Limit
정보
이오치 마리
01/25 991 1
공지를 반드시 읽고 활동해주시기 바랍니다
공지
characterai
01/25 4658 1
프롬프트 템플릿 개발할 때 언제나 신경 쓰이는 부분
개발
aanaan
01/25 898 3
FolderManager v2.0
플러그인
이오치 마리
01/25 939 3
아마 앞으로 투트랙으로 개발할듯함
개발
aanaan
01/25 1140 3
AI 채팅 서브 기본 공지
공지
characterai
01/25 5770 1
이제는 혼자가 되어버린 마마젬 v1.22.2
프롬프트
aanaan
01/25 2276 6