1. Prompt Engineering 이란
2. 관련 기술
3. 필수 요소
4. Life Cycle
5. 고급 기술
6. 보안 관련
7. 요약
1. Prompt Engineering 이란
"prompt engineering"에 대해 3문장으로 요약해서 알려줘
- ChatGPT
프롬프트 엔지니어링에는 GPT-3.5와 같은 자연어 처리 모델을 활용할 때 정확하고 효과적인 입력 지침이나 쿼리를 작성하는 작업이 포함됩니다. 이 관행은 원하는 정보나 응답을 이끌어내기 위해 프롬프트를 개선하여 모델과의 의사소통을 최적화하는 것을 목표로 합니다. 성공적인 프롬프트 엔지니어링을 위해서는 모델의 기능과 한계를 이해해야 합니다.
- Bard
프롬프트 엔지니어링은 대규모 언어 모델(LLM)에게 원하는 결과를 얻도록 지시하는 프롬프트를 개발하고 최적화하는 과정입니다. 프롬프트는 LLM에게 수행할 작업, 사용하는 데이터, 출력 형식 등을 지시합니다.
프롬프트 엔지니어링은 LLM의 성능을 향상시키고 새로운 기능을 개발하는 데 중요한 도구입니다.
프롬프트 엔지니어링의 주요 목표는 다음과 같습니다.
- LLM이 원하는 결과를 생성하도록 하는 것
- LLM이 보다 정확하고 창의적인 결과를 생성하도록 하는 것
- LLM이 새로운 기능을 수행하도록 하는 것
- Claude
prompt engineering에 대해 3문장 요약하자면 다음과 같습니다:
Prompt engineering은 대화형 AI 시스템에 입력하는 프롬프트를 최적화하기 위한 기술입니다.
적절한 프롬프트 설계를 통해 시스템의 성능과 응답 결과를 향상시킬 수 있습니다.
주로 프롬프트의 길이, 문장 구조, 예시 데이터 추가 등을 조정하여 시스템에 주는 힌트를 최대화하는 것이 목표입니다.
# 요약: "양질의 답을 얻기 위한 양질의 질문을 하는 것"
2. 관련 기술 요약
- 프롬프트 엔지니어링 >> 블라인드 프롬프팅 또는 프롬프트 라이팅 의미와 같음
- 일관성 있는 답변을 나오게 하는 체계를 만드는 것
- Easy Tech
- Zero-shot
- One-shot learning
- Few-shot learning
- Chain of Thought
- Zero Shot Chain of Thought
- ... etc ...
https://cobusgreyling.medium.com/12-prompt-engineering-techniques-644481c857aa
12 Prompt Engineering Techniques
Prompt Engineering can be described as an art form, creating input requests for Large Language Models (LLMs) that will lead to a envisaged…
cobusgreyling.medium.com
3. 필수 요소
- Prompt 에는 생각보다 복잡한 구성 요소들로 구조화 되어 있음
- 다양한 가이드라인들이 있지만 핵심은 구체적으로, 명확하게 지시를 내리는 것임
Master Prompt Engineering: Demystifying Prompting Through a Structured Approach
Master AI Prompting with a structured framework for crafting, optimizing, and customizing prompts, ensuring top performance in various AI models.
promptengineering.org
4. Life Cycle
5. 고급 기술
- Retrieval-Augmented Generation (RAG)
# 관련 지식 검색 >> 정확도 향상 기여
# 관련 지식을 Embedding 하여 Vector DB로 저장 >> Vector Search를 이용하여 검색
# 아주 중요한 핵심 기술 중 하나임
# 관련 논문: https://arxiv.org/abs/2005.11401
- Tree-of-Thought
# 중간 단계에 스스로 생각 및 확장을 통한 조정을 할 수 있게 하는 방법
# 매우 체계 적이며 높은 사고 유도 >> 높은 성능 기대
# 관련 논문: https://arxiv.org/abs/2305.10601
- Prompt 기술의 핵심
- 예시 제공
- 스스로 생각 유도
- 스스로 전략 수립
- 스스로 평가 유도
6. 보안 관련
- 완전 방어는 어려운 현실
- 실제 서비스 시 취약점들 고려해야 함
LLM Security Concerns Shine a Light on Existing Data Vulnerabilities | Cutter Consortium
AMPLIFY VOL. 36, NO. 8 ABSTRACT Arthur D. Little’s Michael Papadopoulos, Nicholas Johnson, Michael Eiden, Philippe Monnot, Foivos Christoulakis, and Greg Smith debunk the idea that security concerns about LLMs are entirely new. They examine each
www.cutter.com
7. 요약
- Prompt 기술 >> 사용자의 목적에 맞게 생성한 일꾼 = 프로그램
- Prompt 기본 구성 (Cumstomized)
| R | Role | expert, professor 등 전문 분야의 전문가 지정 |
| T | Task | ~을 설명, ~을 작성, ~을 생성, ~을 조사 |
| I | Information | ~에서 정보를 보고,Wikipedia에서 정보를 보고, ~와 관련된 지식 |
| R | Rule | 3문장으로 작성, 단순하고 쉽게 작성 |
| S | Style | 친절하게, 따뜻하게, 단호하게 |
| A | Audience | ~에게 말하듯, 학생에게 이야기하듯, 전문가에게 설명하듯 |
| F | Format | 대화 형식, 논문 형식, 보고서 형식, pdf, word, ppt, json, txt |
| E | Example | 질문:{"질문"}. 대답:{"대답1"}, {"대답2"}... |
