에이전트가 최적의 결과를 생성하게 만들기 위해서는 프롬프트를 작성하고 테스트를 해보며 반복적으로 수정해나가는 과정이 필요합니다. 여러 시도를 반복하는 과정에서 고려하면 도움이 될 기본적인 사항에 대해 소개합니다.
명확하게 지시하기
업무에 대해 아직 어떤 지식도 없는 신입 직원이 채용되었다고 생각해보세요. 해당 신입 직원이 해야할 업무를 상세하게 알려주지 않는다면 신입 직원은 우리가 원하는 방향으로 움직여주지 않을겁니다. 에이전트도 동일합니다. 에이전트가 수행해야할 태스크에 대해서 명확하게 지시하지 않는다면 에이전트는 태스크를 완벽하게 끝내기 어렵습니다.
외국어를 한국어로 번역하는 에이전트를 만든다고 가정해봅시다. 에이전트가 우리가 원하는 대로 번역을 하게 만드려면 에이전트가 어떤 위치의 텍스트를 어떤 언어로 번역해야하는지를 명확하게 지시해야합니다.
좋지 않은 예시 :
짧게 해석해줘 hello word
Plain Text
복사
좋은 예시 :
### 지시 ###
제시된 <문장>을 한국어 2문장 이내로 번역해줘
----
<문장> : "I want to cancel a reservation."
<번역된 문장> :
Plain Text
복사
명확하게 지시하기 위해서는 다음과 같은 방법을 고려해볼 수 있습니다.
1.
### 또는 ——와 같은 구분자로 지시문과 제시된 정보 등을 명확하게 구분해주기
2.
짧게라는 추상적인 지시사항보다 2문장 이내와 같이 구체적인 지시사항 포함하기
3.
에이전트가 집중해야하는 정보가 있다면 <문장>과 같이 레이블링해주고 항상 통일된 단어를 사용하기
구체적인 예시 제공하기
에이전트가 어떤 결과를 생성해야하는지 구체적인 예시를 제공해주세요. 예시가 다양하게 제시된다면 에이전트는 태스크를 더 잘 이해할 수 있습니다.
좋은 예시 :
### 지시 ###
제시된 <문장>을 한국어 2문장 이내로 번역해줘
그리고 <번역된 문장>의 끝에 감정을 분석한 결과도 같이 표시해줘
감정은 긍정, 부정, 중립 중에 하나만 선택해서 [긍정]과 같이 표시해줘
### 예시 ###
<번역된 문장> : 사랑해[긍정]
<번역된 문장> : 이게 맛이 왜 이래요?[부정]
<번역되 문장> : 체크아웃하려는데요 [중립]
----
<문장> : "I want to cancel a reservation."
<번역된 문장> :
Plain Text
복사
하지 않아야하는 것보다 해야하는 것에 집중하기
에이전트를 컨트롤하는 것은 매우 어렵습니다. 안정적인 서비스 운영을 위해서 에이전트가 하지 않아야하는 것들에 대해서 여러 방식으로 지시를 해도 이 지시사항을 따라 주지 않을때가 종종 발생합니다.
이런 경우 에이전트에게 하지 말아야할 태스크들에 대해 지시하는 것보다는 대신 해야할 행동들로 바꿔서 지시해주세요.
예를들어 문서를 참조하여 정보를 제공해주는 챗봇을 만든다고 가정해볼 수 있습니다. 만약 고객이 문서 내 제공되지 않은 정보에 대해 질문하게되면 에이전트는 새로운 정보를 생성해내서 고객에게 거짓 정보를 제공하게 될 가능성이 있습니다. 이를 방지하기 위해 문서에서 찾을 수 없는 정보에 대해 질문을 받았을때 대신 해야하는 동작에 대해서 구체적으로 지시한다면 에이전트를 더욱 안정적으로 컨트롤할 수 있습니다.
좋지 않은 예시 :
### 지시 ###
당신은 주어진 <문서>를 참조하여 질문에대해 정확한 답변을 제공하는 에이전트입니다
문서에 나타나지 않은 정보는 절대로 답변에 포함해선 안됩니다
### 문서 ###
{검색된 문서 내용}
----
질문 : "화장실이 잠겨있는데요?"
답변 :
Plain Text
복사
좋은 예시 :
### 지시 ###
당신은 주어진 <문서>를 참조하여 질문에대해 정확한 답변을 제공하는 에이전트입니다
문서에 나타나지 않은 정보는 절대로 답변에 포함해선 안됩니다
만약 문서에서 찾을 수 없는 정보에 대해 질문이 인입된다면 "제가 배우지 않은 내용이에요."라고 대신 대답합니다
### 문서 ###
{검색된 문서 내용}
----
질문 : "화장실이 잠겨있는데요?"
답변 :
Plain Text
복사