QWEN 3.8 27B, gpt 루나와 동급

1

장점:

27b 오픈모델이 대형 llm인 gpt 루나와 동급으로 성능테스트가 나왔다.

입력에 동영상도 포함되어 있다.

단점:

27b가 대형 llm을 이긴 대가가 혹독하다.

그럼 추론을 낮추면 되지 않나요.

그래서 표를 가지고 왔다

낮음과 중간의 차이가 없어 낮음으로 사용하면 되고

밴치마크는 BlackwellBoy, 50문항 어려운 추론 밖에 없어서 가지고 오면

중간은 낮음과 비슷하니 그걸로 같이 보면 되겠다.

표를 보면 낮음으로 돌려도 생각보다 잘 돌아간다.

그래서 사용 추천 방식은 평소에는 낮음으로 사용하다가

막히면 매우 높음을 사용을 권장한다.

Qwen 공식에서도 낮음으로 재시도를 자주하면 매우 높음보다 시간과 토큰이 더 빨릴 수 도 있기 때문에

막히면 매우 높음을 하라고 한다.