[chatGPT 가이드] 물어볼 때 쓰는 새로운 기술 : temperature

이번에는 하이퍼파라미터 가운데 temperature에 대해 알아보도록 하겠습니다. 이 역시 그 변화를 잘 살펴서 활용해보면 좋을 것 같습니다.

사실 언어모델을 설계할 때 내부에 적용되는 기준인데, chatGPT에게 질문할 때 중요한 것은 일정한 포맷을 얘기하면 그 기준에 따라 답변이 달라진다는 겁니다. 그런 부분을 유의해서 활용하면 좋을 것 같습니다.

◆ temperature 란 무엇인가

자연어 처리 맥락에서 온도는 GPT(Generative Pre-trained Transformer) 모델과 같은 언어 모델에서 생성된 텍스트의 창의성과 다양성을 제어하는 ​​데 사용되는 하이퍼파라미터입니다.

간단한 용어로 temperature는 생성된 텍스트의 무작위성과 예측 불가능성의 수준을 제어합니다. temperature 값이 높을수록 더 다양하고 창의적인 결과물이 나오는 반면, temperature 값이 낮을수록 더 예측 가능하고 반복적인 텍스트가 생성됩니다.

생성 프로세스 중에 언어 모델은 가능한 다음 집합에 대한 확률 분포를 생성합니다. 이전 단어 시퀀스를 기반으로 한 단어. temperature 하이퍼파라미터는 로짓(확률의 로그 승산)을 조정하여 확률 분포를 조정하여 임의성이 다른 새로운 분포를 생성합니다.

temperature 값 1.0은 로짓이 다음에 의해 조정됨을 의미합니다. temperature 값을 낮추면 분포가 더 정점에 도달하여 드물거나 예상치 못한 단어가 적어 더 예측 가능한 텍스트가 됩니다. 반대로 temperature 값을 높이면 분포가 평평해지고 더 독특하고 참신한 단어로 더 다양하고 창의적인 출력이 생성됩니다.

temperature 하이퍼파라미터의 선택은 원하는 출력에 따라 달라지며 temperature 값이 높을수록 종종 더 많은 결과를 가져옵니다. 상상력이 풍부하고 창의적인 결과물이지만 무의미하거나 문법적으로 잘못된 텍스트의 위험이 더 높습니다. 반면에 낮은 temperature 값은 더 예측 가능하고 신뢰할 수 있는 출력으로 이어지지만 다양성과 창의성이 떨어집니다.

◆ temperature 0.9

질문 : 바닷가를 풍경으로 한 에세이를 하나 써주는데 temperature 0.9로 설정해서 적어줘.

해변은 수정처럼 맑은 물과 반짝이는 모래로 정말 숨이 막힐 정도로 아름다웠습니다. 태양은 하늘에서 타오르며 밝고 눈부신 빛을 전체 지역에 던졌습니다. 파도가 해안에 부딪히는 소리가 우레와 같았습니다.
발밑의 모래는 뜨겁고 거칠었고 물은 얼음장처럼 차가웠습니다. 해변은 극단의 장소, 자연의 아름다움이 장관을 이루는 요소들이 충돌하는 곳이었습니다. 발가락 사이로 미끄러지는 모래와 발을 적시는 물살을 느낄 수 있어 상쾌하고 상쾌한 경험을 할 수 있었습니다.
해변에는 비치 파라솔과 일광욕용 라운저가 널려 있어 다채롭고 생동감 넘치는 풍경을 연출했습니다. 나는 비치 타월에 몸을 쭉 펴고 햇살을 쬐며 열이 피부에 스며드는 것을 느꼈다. 모든 걱정을 잊고 나를 둘러싼 자연의 아름다움에 흠뻑 젖는 순전한 행복의 순간이었습니다.
밖을 바라보며 수평선 너머로 배가 위아래로 흔들리는 것을 볼 수 있었습니다. 물. 바다는 짙은 파란색이었고 하늘은 눈부시게 붉은색과 오렌지색이었습니다. 구름은 희미하고 하얗고 놀랍고 숨막히는 풍경을 더했습니다. 해변은 오감의 향연이자 자연의 아름다움을 온전히 감상할 수 있는 곳이었습니다.
전반적으로 해변은 수정처럼 맑은 바닷물, 반짝이는 모래, 멋진 풍경이 어우러져 강렬하고 매혹적인 곳이었습니다.

◆ temperature 0.5

질문 : 바닷가를 풍경으로 한 에세이를 하나 써주는데 temperature 0.5로 설정해서 적어줘.

해변은 황금빛 모래와 반짝이는 바다가 있는 놀랍도록 아름다운 풍경이었습니다. 파도 소리는 부드럽고 리드미컬한 잠잠함과 함께 해안으로 밀려오는 부드럽고 잔잔했습니다. 하늘은 밝고 맑은 푸른색이었고 수평선까지 끝없이 펼쳐져 있었습니다.
해안을 따라 걸을 때 발밑의 모래는 부드럽고 시원했으며 물은 따뜻하고 매력적이었습니다. 해안을 따라 늘어선 야자수 사이로 바스락거리는 부드러운 바람이 피부에 닿는 것을 느낄 수 있었습니다. 평화롭고 차분한 경험, 순수한 휴식과 고요함의 순간이었습니다.
해변에는 선라운저와 파라솔이 곳곳에 있어 다채롭고 활기찬 장면을 연출했습니다. 나는 선라운저에 몸을 기대고 눈을 감았다. 잔잔한 파도 속을 헤엄치는 동안 물의 온도는 완벽했고 시원하고 상쾌했습니다.
멀리 내다보니 범선이 물속에서 위아래로 흔들리는 것이 보였습니다. 바다는 짙은 파란색이었고 파도는 햇빛에 다이아몬드처럼 반짝였습니다. 해변은 자연의 아름다움과 고요한 분위기가 어우러져 마법과도 같은 매혹적인 곳이었습니다.
전반적으로 해변은 놀랍도록 아름다운 풍경, 평화와 평온의 장소였습니다.

◆ temperature 0.01

질문 : 바닷가를 풍경으로 한 에세이를 하나 써주는데 temperature 0.01로 설정해서 적어줘.

해변은 고운 백사장과 맑은 바닷물이 있는 깨끗하고 고요한 오아시스였습니다. 하늘은 눈부시게 푸른색으로 끝없이 지평선을 향해 뻗어 있었다. 잔잔하고 잔잔한 파도 소리가 부드럽고 리드미컬한 잔잔함과 함께 해안가로 밀려옵니다.
해변을 따라 걸으니 발밑의 모래는 부드럽고 시원했고 물살은 가벼웠습니다. 따뜻하고 매력적입니다. 해가 뉘엿뉘엿 뉘엿뉘엿 지고, 온 사방이 온화하고 안락한 빛을 발하고 있었습니다. 모든 걱정을 잊고 나를 둘러싼 자연의 아름다움을 만끽할 수 있는 순수한 평온의 순간이었습니다.
사람이 살지 않은 해변은 진정한 자연의 낙원이었습니다. 해안을 따라 늘어선 야자수 사이로 바스락거리는 부드러운 바람이 피부에 닿는 것을 느낄 수 있었습니다. 평화롭고 차분한 경험, 순수한 휴식과 고요함의 순간이었습니다.
멀리 내다보았더니 수평선 너머로 끝없이 펼쳐진 바다가 보였습니다. 물은 햇빛에 반짝이는 파도가 있는 짙은 파란색이었습니다. 해변은 원시 자연의 아름다움이 있는 곳이었고, 숨이 멎을 정도로 고요한 풍경이었습니다.
전반적으로 해변은 고요하고 깨끗한 곳이자 평화와 아름다움의 진정한 오아시스였습니다.

단어들의 사용 빈도 등을 따져볼 때 temperature 값이 1에 가까울 수록 더욱 창의적인 글을 얻어낼 수 있다는 것을 알 수 있습니다.