kone
AI 채팅 - LLM
AI 채팅 - LLM

자주 안 오는 이유

02/20/2026, 10:47:39
일반
1115 views · 4 likes

일단 할 일도 엄청 많았고, 한 일도 엄청 많았음.

1. 집에 클러스터 만듬 = 원래 AWS에서 들어가던 비용 좀 아끼고 싶어서. EKS 비용 자체가 AWS가 비싸기도 하고.
2. 프레임워크 개발에 좀 집중함 = 리스로는 한계가 너무 명확함. DAG기반 프레임워크를 만들고 있음.
3. 마마잼 공개가 꺼려짐 = 여러가지 복합적인 이유가 있었음. 일단 당분간 신버전 공개는 안 하려고 함.


어차피 도약 할거면 빅 퀀텀 리프로 도약하는게 나을 것 같음. 필요한것들은 다 준비됨.
가장 오래 걸렸던게 서버였는데.

9950x 2개 + 64 GB linux 2대
10코어 + 32GB 맥미니 3대
8TB 하드 9개 EC(Erasure Coding) + 2 TB SSD 4개 Warm Cache + 256 GB SLC SSD x 4개 Hot Cache 분산 스토리지
10GbE 인터넷에 Ingress
Cloudflared + Tailscaled로 Zero Trust

이런식으로 탄탄하게 서버 설계해 놔서 앞으로 활용 잘 하면 될것같음.
나는 좀 뭘 하던 진심이라 아마 엔진 만들고 프론트 만드는것도 꽤 진심이 될것같음. 서버 세팅만 한 2000만원 정도 들었음.
아직 안 온것들 많아서 더 해야함. 2020 프로파일로 랙도 만들어야함. UPS도 사야하고.


그리고 소신발언 하자면 마마젬 잼삼일 맛없음. 이미 잼삼일 특징 자체는 다 분석하긴 했어.

1. 일단 지시 이행력 높아진건 사실임. 근데 순수하게 높아진건 아님. 추론이 과하게 터지는 문제가 있음. 아마 모델을 경량화하고 추론을 더 터지게 만들었을 가능성이 매우 농후함. => 기존 CoT 방식으로 하면 완전히 망가짐. 잼삼도 심했는데 잼삼일은 더 심함.

2. 마마젬이 이전부터 약했던게 있음. 바로 대화 지속 능력임. 물꼬를 트는게 어려우면 유지해나갈 힘도 있어야하는데 이게 없음. 그래서 말이 계속 끊김. 침묵 자체는 딱히 지시를 한 적이 없음. 지속한다라는 선택지가 없는게 문제임. 이게 추론에 의존하는게 심해져서 매몰이 더 심해짐. 정확히 말하자면 유연성과 지시이행의 트레이드오프를 한 것으로 보임.


아래가 대충 인프라 세팅인데. 더 있는데 대충 일부만 짤라서 올렸음.

1



4
7 comments
이미지 잘 보여!
그리고 추론 과하게 터지는 건 맞는거 같아 확실히 어제 쓴 글도 그렇지만 종종 추론을 미친듯이 길게 끌다가 끊겨버리고 막 계속 뭐 반복하고 그런 찐빠가 보이더라
02/20
그래서 할거면 추론을 과하게 하는 문장들을 다 빼야함. 마마젬은 이미 그런 문장은 없고, 잼3에서도 추론 토큰 700 ~ 1300정도를 유지하긴 했는데. 더 빼야할것같음.
잼삼 지시이행력 이슈로 잡아두느라 만들었던게 확실히 역효과있긴 한듯 아무래도 잼삼일은 다른 프롬을 한동안 쓰긴 해야하나봄... 다음 마마젬 버전도 기대할게
02/20
걍 버전 하나는 올려줌. 사실... 고치긴 다 고침...
02/20
근데 더 픽스는 안해줄것같음... 일단 일을 두번하는거라.
파이어폭스 전체화면 에드온
자료
이오치 마리
03/10 1186 0
포몰루 v0.0.1-alpha1 업데이트
개발
aanaan
03/10 1196 2
오늘은 버그 고치느라 잠시 안될예정
일반
aanaan
03/09 1070 1
마마젬 마지막 버전
프롬프트
aanaan
03/09 1883 5
작가 추천 목록 및 추?측
정보
이오치 마리
03/09 1100 1
마마잼 이게 제작자의도인건지 찐빠인건지 모르겠다
일반
ninnee
03/09 1260 0
포몰루 해보는중
로그
이오치 마리
03/08 1060 0
포몰루용 엔드포인트 모음 (찾는중)
자료
이오치 마리
03/08 962 0
ㅎㅇ
개발
aanaan
03/08 3750 3
쓰흡... 오늘 안엔 안 나올듯....
일반
aanaan
03/07 903 0
오늘 알파 버전이 나올것같음
일반
aanaan
03/07 903 0
쓰흠... 어째 UI 개발이 코어보다 ㅈ같지
일반
aanaan
03/07 999 0
오늘부터 UI개발 들어갈게
일반
aanaan
03/06 981 2
캐시 + 상태 관련된 작업 진행중
일반
aanaan
03/05 602 2
오늘 작업한거
일반
aanaan
03/04 1162 0
이 속도면 이번주 안에 UI 안 나올수도있음
일반
aanaan
03/04 992 2
미방용 이미지
일반
이오치 마리
03/04 3248 1
데모 영상 올려놨음
일반
aanaan
03/04 982 0
진행사항 공유
일반
aanaan
03/03 1114 0
베타 목표들
일반
aanaan
03/03 1042 9
자 이새끼가 할 수 있는게 무엇이냐?
일반
aanaan
03/02 1318 0
독재자가 되어서 돌아온 유저 플레이 재밌네
일반
너굴맨
03/02 1059 0
가장 기본적인 기능들은 돌아가는거 체크함
일반
aanaan
03/02 1026 0
오케스트레이션도 끝남
일반
aanaan
03/02 877 0
샘플이 직관적이지 않아서 변경함
일반
aanaan
03/01 865 2
다음 프론트엔드는 비밀을 제대로 숨길 수 있음
일반
aanaan
03/01 937 0
플레이그라운드 확인해보셈
일반
aanaan
03/01 973 1
지금까지 안 쳐오고 만든거
일반
aanaan
02/28 1095 1
오늘 큰거 옵니다.
일반
aanaan
02/28 1256 1
볼트에 재밌는걸 추가해둠.
일반
aanaan
02/28 741 0