3.5 3.6 Flash로 번역할 때 이상한 단어 등장 의심되는 원인 발견했습니다.

3.5 flash부터 온도와 top p 설정이 사라졌습니다. 만약 배치번역기를 쓰신다면 설정이 여전히 있을텐데 온도 설정이나 top p설정은 작동하지 않습니다.

top p 설정은 간단하게 예를 들자면

오늘 날씨는 매우 —. —에 올 단어를 예측할 때의 확률인 셈인데 좋다(30%), 덥다(20%), 춥다(20%), 화창하다(10%), 변덕스럽다(5%), 기타… 라고 했을때 top p 85로 설정하면 변덕스럽다까지의 단어중에 하나를 선택합니다.

그런데 지금은 top p 설정이 아예 없기 때문에 기타의 단어들 까지도 선택지에 포함되는겁니다.

반드시 이 이유때문에 이상한 단어가 등장한다라고는 할 수 없지만 가능성이 높아보입니다. 저는 프롬프트에 확률이 낮은 단어 혹은 문맥상 어색한 단어는 쓰지 말고 한국인이 정말 이런 단어를 사용할까?<자문하도록 했습니다. 확실히 어느정도 효과가 있는 것 같습니다. 아예 말도 안되는 번역은 이제 거의 없고 거슬리는 정도의 단어는 막을수가 없는 것 같네요.

결론은 [top p 설정이라는 안전장치가 없기때문에 기존에는 자동으로 걸러지던 확률이 매우 낮은 단어까지 등장할 수 있게 되었다.] 입니다.