[GeekNews] OpenAI의 프롬프트 엔지니어링 가이드

출처

- 원글 : Prompt engineering - OpenAI API

- 번역 : OpenAI의 프롬프트 엔지니어링 가이드 | GeekNews (hada.io)

 

이 글은 원글과 GeekNews의 요약을 보고 개인 의견 메모를 위해 작성되었습니다.

---

요약

• 대규모 언어 모델(GPT 모델이라고도 함)에서 더 나은 결과를 얻기 위한 전략과 기술을 공유하는 가이드
• 여기서 설명하는 방법들은 때때로 결합하여 더 큰 효과를 낼 수 있으며, 가장 적합한 방법을 찾기 위해 실험을 권장
• 예시 프롬프트를 탐색하여 모델이 할 수 있는 일을 배울 수 있음

더 나은 결과를 얻기 위한 여섯 가지 전략

명확한 지시사항 작성

• 모델은 마음을 읽을 수 없으므로, 원하는 것을 명확히 요청해야 함.
• 세부사항을 포함하여 더 관련성 높은 답변을 얻고, 모델에게 특정 인물을 연기하도록 요청하거나, 입력의 구별된 부분을 명확히 나타내기 위해 구분자 사용.
• 작업을 완료하기 위해 필요한 단계를 명시하고, 예시를 제공하며, 출력의 원하는 길이를 지정.

참조 텍스트 제공

• 언어 모델은 특히 난해한 주제나 인용문, URL을 요청할 때 가짜 답변을 자신 있게 만들어낼 수 있음.
• 모델에게 참조 텍스트를 사용하여 답변하도록 지시하거나, 참조 텍스트에서 인용하여 답변하도록 지시.

복잡한 작업을 간단한 하위 작업으로 분할

• 복잡한 시스템을 모듈식 구성 요소로 분해하는 것이 소프트웨어 엔지니어링에서 좋은 관행처럼, 언어 모델에 제출된 작업도 마찬가지.
• 복잡한 작업은 오류율이 높으며, 종종 간단한 작업의 워크플로우로 재정의될 수 있음.
• 의도 분류를 사용하여 사용자 쿼리에 가장 관련성 높은 지시사항을 식별하고, 매우 긴 대화가 필요한 대화형 애플리케이션의 경우 이전 대화를 요약하거나 필터링.
• 긴 문서를 조각별로 요약하고 재귀적으로 전체 요약을 구성.

모델에게 "생각할 시간" 주기

• 모델이 답변을 서두르기보다는 답변을 작성하기 전에 "생각의 연쇄"를 요청하면 더 신뢰할 수 있는 답변을 도출할 수 있음.
• 모델에게 자체 해결책을 먼저 마련하도록 지시하고, 모델의 추론 과정을 숨기기 위해 내부 독백이나 일련의 쿼리 사용.
• 이전 패스에서 놓친 것이 있는지 모델에게 물어봄.

외부 도구 사용

• 모델의 약점을 보완하기 위해 다른 도구의 출력을 모델에게 제공.
• 임베딩 기반 검색을 사용하여 효율적인 지식 검색 구현, 코드 실행을 사용하여 더 정확한 계산 수행 또는 외부 API 호출.
• 모델에게 특정 함수에 대한 접근을 허용.

변경 사항을 체계적으로 테스트

• 성능 개선은 측정 가능할 때 더 쉬워짐.
• 변경이 전반적인 성능에 긍정적인 영향을 미치는지 확인하기 위해 포괄적인 테스트 스위트(또는 "eval") 정의 필요.
• 모델 출력을 금본답안과 비교하여 평가.

---

개인 의견

ChatGPT를 사용하면서 느끼는 점은 두려움이 아니라 학습욕구였다.

앞으로 생성형 AI를 사용하는 사람과 아닌 사람의 격차는 더욱 벌어질 것이라는 것은 명확하다.

이번 포스팅을 읽어보니 프롬프트 엔지니어링을 배운 사람과 아닌 사람 또한 마찬가지라는 생각이 들었다.

물론 이러한 방법론을 익히는 것도 좋지만 왜 이런 결과가 나올까?를 생각해보는 것도 좋은 것 같다.

사람의 두뇌를 닮아가는 모델들의 학습 결과는 결국 사람과 대답과 유사한 확률을 내놓는 것 같다.

사물의 모습은 기능을 따라간다는 건축계의 거장의 말이 생각난다.

결국 로봇의 모습은 사람의 기능을 따라가는 것일까?