-
Temperature : 텍스트 생성의 랜덤성을 조절 (일반적 범위 : 0.5 - 2.0)
낮은 온도에서는 모델이 안정적이고 직선적인 답변, 높은 온도에서는 다양하고 랜덤한 답변
-
Top-p : 다음 단어의 가능성 커트라인 조절 (일반적 범위 : 0.1 - 0.9)
Top-p 값을 줄일수록 모델은 더 제한적인 선택, Top-p 값을 늘릴수록 모델은 더 다양한 선택
-
Beam width : 고려하는 후보 단어의 수를 조절 (일반적 범위 : 1 - 10)
빔 폭을 늘리면 모델은 더 다양한 선택, 빔 폭을 줄이면 모델은 더 일관된 선택