[chatGPT 가이드] 물어볼 때 쓰는 새로운 기술 : top-p

chatGPT를 쓸 때 물어볼 수 있는 새로운 기술에 대해서 알아볼까 합니다. 일명 하이퍼파라미터라는 것인데요. 그 중 하나인 top-p를 소개합니다.

◆ top-p 란 무엇인가

자연어 처리에서 top-p(핵 샘플링이라고도 함)는 생성된 텍스트의 다양성과 창의성을 제어하기 위해 언어 모델에서 사용되는 하이퍼 매개변수입니다. Top-p 샘플링은 다음 단어에 대한 모델의 확률 분포에서 가장 가능성이 높은 단어를 선택하는 확률적 알고리즘입니다. 여기서 확률 분포는 누적 확률이 동적으로 선택된 확률보다 크거나 같은 가능한 가장 작은 단어 집합으로 제한됩니다. 

 

top-p 샘플링에 사용되는 p 값은 0에서 1 사이로 설정할 수 있으며, p 값이 높을수록 더 다양하고 예상치 못한 단어와 구문이 생성되고 낮은 p의 값은 학습 데이터와 거의 일치하는 보다 예측 가능하고 일관성 있는 텍스트를 생성할 수 있습니다. 예를 들어, p = 0.5인 경우 모델은 확률 질량의 50%를 차지하는 가장 가능성이 높은 상위 k개의 단어를 선택하고 나머지 단어는 버립니다. 반대로 p = 1.0일 때 모델은 항상 가능성이 가장 높은 단어를 선택합니다.

 

Top-p 샘플링은 언어의 동작을 제어하기 위해 온도 및 top-k와 같은 다른 초매개변수와 함께 자주 사용됩니다. 모델. 온도 하이퍼파라미터는 softmax 함수를 적용하기 전에 로짓(예측 단어에 대한 모델의 신뢰도 측정)을 조정하여 생성된 텍스트의 무작위성과 창의성 수준을 제어하여 가능한 단어에 대해 보다 균일한 확률 분포를 유도합니다. top-k 하이퍼파라미터는 누적 확률에 관계없이 가장 가능성이 높은 k개의 단어로 선택할 수 있는 단어 집합을 제한합니다.

 

전반적으로 top-p는 제어하는 ​​데 사용할 수 있는 강력한 하이퍼파라미터입니다. 언어 모델에서 생성된 텍스트의 다양성과 창의성, 특정 작업이나 애플리케이션의 필요에 따라 조정할 수 있습니다.

◆ top-p 0.9 샘플

질문 : 바닷가를 풍경으로 한 에세이를 하나 써주는데 top-p 0.9로 설정해서 대답해줘.

해안선에 섰을 때 숨막히는 광경이 저를 맞이했습니다. 해가 바다 위로 지고 있었고, 물 위에 따뜻한 빛을 드리우고 하늘을 분홍색, 주황색, 금색으로 물들였습니다. 파도가 해안에 부딪혀 공기 중에 메아리치는 부드러운 리듬을 만들었습니다. 갈매기는 바다 소리와 어우러져 머리 위를 활공했습니다.
해변은 조개껍질과 유목이 여기저기 흩어져 있는 드넓은 모래사장이었습니다. 발밑의 모래는 부드럽고 따뜻했고 피부에 태양 광선을 느낄 수 있었습니다. 해안선을 따라 걸으며 물살이 발끝까지 스며드는 것을 느끼고 발밑의 모래가 바스락거리는 소리를 들었습니다.
바다를 내다보니 눈앞에 수평선이 펼쳐져 있는 것이 보였습니다. 나. 물은 짙은 푸른색이었고 저 멀리 배들의 윤곽이 보였다. 산들바람이 짭짤한 바다 내음을 실어와 상쾌한 향으로 폐를 가득 채웠습니다.
아이들의 웃음소리가 귀를 사로잡았고, 돌아보니 아이들이 물놀이를 하고 있었습니다. 그들은 모래성을 쌓고 서로 물장구를 쳤고 그들의 즐거운 함성은 공기를 가득 채웠습니다. 해변에서 찾을 수 있는 소박한 즐거움을 일깨워주는 것이었습니다.
바닷가 풍경의 아름다움은 정말 경외감을 불러일으켰습니다. 그곳은 자연의 경이로움과 평화로움이 있는 곳으로 세상의 모든 문제가 사라지는 것 같았습니다. 

◆ top-p 0.5 샘플

질문 : 바닷가를 풍경으로 한 에세이를 하나 써주는데 top-p 0.5로 설정해서 대답해줘.

해변은 수정처럼 맑은 물과 황금빛 모래가 있는 놀라운 광경이었습니다. 태양은 하늘에서 밝게 빛나고 있었고 전체 지역에 따뜻하고 환영하는 빛을 비추고 있었습니다. 잔잔한 파도 소리는 해안을 따라 걸을 때 귀에 음악과 같았습니다.
발밑의 모래는 따뜻하고 부드러웠고 물은 시원하고 상쾌했습니다. 나는 발가락 사이로 미끄러지는 모래와 내 발을 씻는 물이 내 감각을 달래고 활력을 주는 것을 느낄 수 있었습니다. 해변은 긴장을 풀고 휴식을 취하기에 완벽한 장소였으며 일상의 번잡함에서 고요한 탈출구였습니다.
해안선 곳곳에 형형색색의 파라솔과 선베드가 있어 그림 같은 풍경을 연출했습니다. 나는 비치 타월에 앉아 끝없는 파도를 바라보며 내 얼굴에 햇살을 느꼈다. 모든 근심 걱정을 잊고 나를 둘러싼 자연의 아름다움에 흠뻑 빠져들 수 있는 목가적인 순간이었습니다.
밖을 내다보니 바다 위를 미끄러지는 범선이 보였습니다. 바다는 짙은 푸른색이었고 하늘은 선명한 파란색이었습니다. 구름이 보송보송 하얗게 피어 그림 같은 풍경을 더했다. 해변은 오감의 향연이자 자연의 아름다움을 충분히 감상할 수 있는 곳이었습니다.
전반적으로 해변은 수정처럼 맑은 바닷물과 황금빛 모래사장, 그림처럼 완벽한 고요하고 아름다운 곳이었습니다. 

◆ top-p 0.01 샘플

질문 : 바닷가를 풍경으로 한 에세이를 하나 써주는데 top-p 0.01로 설정해서 대답해줘.

해변은 모래가 바다까지 뻗어 있는 매우 아름다운 곳이었습니다. 파도는 잔잔한 밀물과 썰물과 함께 해안에 부딪쳤고, 그 소리는 배경에 부드럽게 메아리쳤습니다. 하늘은 구름 한 점 없이 완벽한 푸른색이었다.
해안을 따라 여유롭게 산책하는 동안 발 아래 모래는 시원하고 부드러웠다. 산들바람이 부드러웠고 바닷물 냄새와 갈매기 소리를 머리 위로 실어 날랐다. 최면에 걸린 듯한 파도 소리가 저를 완전히 이완시켜 주었습니다.
해변을 따라 걸으며 풍경의 단순함에 감탄했습니다. 웅장한 건물이나 분주한 인파는 없었고 모래, 물, 하늘만 있었습니다. 가장 원시적인 형태의 자연의 아름다움.
따뜻한 햇살이 피부에 닿았고 걱정거리가 서서히 녹아내리는 것을 느낄 수 있었습니다. 해변은 일상의 스트레스로부터의 평화로운 탈출구이자 내면의 평화를 생각하고 찾을 수 있는 곳이었습니다.
멀리서 바람에 돛을 펄럭이는 보트 몇 척이 보였습니다. 그들 역시 해변의 고요함에 사로잡힌 듯 정처없이 표류하는 것 같았다.
전체적으로 해변은 아름답고 고요한 곳으로, 번잡한 일상에서 벗어나 완벽한 탈출구였다.

자 변화를 느낄 수 있나요? chatGPT를 잘 활용해보시기 바랍니다.