"뤼튼 현직자에게 프롬프트 엔지니어링에 입문할 책을 추천 받을 수 있을까요?"
2023년 이후로 개발에 챗 GPT를 활용하기 시작했다. 1월달에 GDSC X Wrtn 행사에 참여하며, GPT에게 질문하는 방법 같은 주제가 "프롬프트 엔지니어링"이라는 이름으로 학술적으로 논의되고 있다는 것을 알게 되었다. 지금도 이렇게 편리한데, 더 잘 쓰면 엄청나게 좋겠는걸? 현직자 질의응답 세션에 패널로 참가할 기회가 있었고, 프롬프트엔지니어링을 내 역량으로 가져가고 싶은데 추천해주실 책이 있는지 여쭈었다. 행사 진행자셨던 체다🧀님께서 프롬프트엔지니어링교과서, 프롬프트 엔지니어링 두 책을 추천해주셨다. 같이 간 후배님 덕에 뤼튼이 입주한 코드스파크도 구경할 수 있었는데, 지나가던 나를 보시고 책상에 있던 책들을 들고 오셔서 정확히 책 제목을 알려주셨다. 저 안 그래도 읽으려고 했는데, 꼭 읽겠습니다!
📚 요약/정리
* 이 책을 읽고 일반인이 사용할 수 있는 프롬프트엔지니어링 기법들을 가볍게 정리하기 위해서 작성되었습니다. 참고로 보시길 바랍니다!
1. 프롬프트 엔지니어링이 뭔데?
AI에게 제공할 명령어를 설계하고 유용한 답변을 생성하도록 하는 것.
이러한 방법론을 탐구하고 체계적으로 정리하는 것.
1️⃣ 챗GPT, 바드, 빙 초거대 AI의 특징은?
- 엄청나게 거대한 AI를 만들고, (인류의 모든 유산이 담긴) 거대한 텍스트를 학습시켰더니 엄청나게 똑똑한 AI들이 등장했다.
- 이 똑똑한 AI들은 Attention이라는 기술덕분에 만들어졌다.
2️⃣ Attention이란?
- Attention은 대규모 텍스트를 빠르게 이해하고 요약하여 저장하고, 다시 참조할 수 있게 하는 기술이다.
- 메모리와 성능 이슈를 극복할 수 있게 되었다.
- 인덱싱된 백과사전, 법조문, 위키를 켜놓고 컨닝이 가능한 사법고시를 치르는 것!
3️⃣ Hallucination 환각이란?
- AI가 잘못된 정보를 진실처럼 전달하는 현상
4️⃣ LLM, 척척박사가 아니다.
- 언어모델(LM), 다음에 올 단어를 잘 맞히는 AI
- 대규모 언어 모델(LLM), 크키가 커져서 다음에 올 단어를 기가 막히게 잘 맞히는 AI
- 이러한 LLM에 채팅을 시키면 챗 GPT나 바드가 만들어진다.
- AI가 지식을 습득하는 과정은 존재하지 않으며, LLM을 훈련시키는 과정에서 학습한 텍스트의 흔적 덕분에 "그럴싸한 답변을 잘 생성해내는 것"이다.
2. 태스크 프롬프트
1️⃣ 질문하는 방법
- 평문 프롬프트
ex) 한국어로 번역해줘, 이 글의 감정을 분석해줘, ...
- 하이퍼 텍스트 프롬프트
ex) 임무: 번역 (영어 -> 한국어), Task: Translation(English -> Korean)
2️⃣ LLM이 잘하는 일
- 텍스트 변형
ex) 번역해줘, 10대소녀 말투로 바꿔줘, 이 보고서를 개괄식으로 바꿔줘.
- 요약
ex) 위 기사를 한 문장으로 요약하시오, 임무: 요약 (1문장)
- 분류
- GPT의 풍부한 데이터를 기반으로 생각지도 못한 분류 기준을 제시할 지도?! 심지어 이유도 잘 설명해줌.
- 감정분석
ex) 임무: 감정 분석, Task: Sentiment analysis, 감정분석해줘.
- 확장
ex1) "이 만두는 꿉꿉하고 맛이 없습니다. 오래된 것을 납품한 것이 아닙니까?"를 정중하게 클레임하는 이메일을 작성해줘.
ex2) "만두가 꿉꿉해. 맛없어. 오래된 것 아냐?"라는 리뷰에 대한 친절한 고객리뷰를 작성해주세요.
3. LLM 기법
1️⃣ 규칙부여
- 과거에 사용자와 나누었던 대화을 참고해서 답변을 생성하기 때문에, 규칙을 입력하면 이후에도 규칙에 따라 답변을 생성한다.
"지금부터 ~ 규칙을 설명한다."로 시작하기
규칙은 넘버링하여 제공하면 사용자도 간결한 문장들을 작성하는 데 도움이 된다.
2️⃣ 질의응답 역전
- 사용자가 묻고 AI가 답하는 일반적인 구조에서, 똑똑한 AI가 대화의 주도권을 가지게 하자.
- GPT에게 질문하고, 그에 대해 더 말해달라는 식으로 시작한다.
3️⃣ 독해
- 요약, 핵심문장 추출, 지문을 토대로 새로운 논리/질문/생각 도출하기, 지문분석 요청하기
4️⃣ 논리 추론
5️⃣ 유사성 분석
6️⃣ 문법 적합성 판단
4. 어텐션 기법
1️⃣ 태 전환
- 미묘하게 의도와 다른 답변이 생성된다면 문장의 태를 바꿔보자.
- How can she recieve a flower from me? 보다는 How can I give a flower to her? 이 훨씬 로맨틱한 답변을 생성한다.
2️⃣ 범위 한정
- 특정 분야나, 특정 관점으로 한정하여 질문을 한다면, 더 구체적인 답변을 얻을 수 있다.
3️⃣ 가상의 설정 값 주기
- 채팅의 최상단에 위치하도록 하자.
- 길이: 50, 문장 개수: 1문장 등
- 나같은 경우는 "모르는 것은 모른다고 하십시오. 추가 정보가 필요하다면 질문하십시오."라고 적어두고 많은 도움을 봤다. 규칙설정 기법으로 사용해도 좋다.
5. 교육학적 기법
1️⃣ 역할 부여
- AI가 가상의 역할을 수행하도록 하자.
- 영어회화연습에 사용하거나, 의사와 같은 전문가 역할을 부여하여 전문성 있는 답변을 얻을 수 있다.
- ex) "지금부터 내과 전문의처럼 나를 문진해주세요."
2️⃣ 상호 역할 부여
- AI는 사용자의 역할까지 고려하여 발화를 생성할 수 있다. AI와 사용자의 역할을 설정하자.
- ex) "당신은 렌터카 전문점의 사장님입니다. 저는 웨딩촬영을 위해 렌터카 가게를 방문한 젊은 남성입니다.", "차를 좀 볼 수 있을까요?"
3️⃣ 생성자-감별자 역할 부여 GAN
- 두 AI를 경쟁하도록 하자.
- ex) 2개의 채팅창을 만든다. 하나는 투자유치 피칭을 하는 스타트업 CEO(생성자), 하나는 투자대회 심사역(감별자)으로 만들어서 둘의 답변을 복붙해서 제공한다.
6. 강화학습
1️⃣ 칭찬하기
2️⃣ 비난하기
- 한쪽 방법을 쓰는 것보다는 둘을 동시에 쓸 수 있다. 잘한 점은 칭찬하고 부족한 점은 비난한다.
- 지속적인 답변을 생성할 때 유용하다.
7. 주입식 교육
1️⃣ 지식 주입
- GPT가 참고할 수 있는 지식을 제공하고 질문을 하면, 더 정확한 답변을 얻을 수 있다.
- ex) 관련 법조문을 제공한 뒤, ~한 사건의 민형사상책임을 물어볼 수 있다.
2️⃣ 사례 주입
- 창의적 답변을 얻기 위해서, 참고할 만할 사례를 제공한다.
- ex) 기존의 동화책들을 제공하고, 동화책을 작성해달라고 한다.
3️⃣ 플러그인
- 챗PDF 플러그인을 사용해서 GPT에게 사례를 쉽게 제공할 수 있다.
8. 형성평가
1️⃣ 목표 이해도 평가
- ex) "혹시 제가 시킨 작업의 전반적인 목표를 이해하고 있습니까? 제가 시킨 작업의 의도가 무엇이었습니까?"
2️⃣ 전략 평가
- ex) "제가 시킨 업무를 수행하기 위해서 어떤 전략을 사용하고 있습니까?"
3️⃣ 메타인지평가
- ex) "현재 당신의 작업 수행 방법에 어떤 문제점이 있습니까? 이를 어떻게 개선할 것입니까?"
- 이런 질문들을 통해 나의 프롬프트엔지니어링 전략을 돌아보거나, GPT에게 스스로 전략 개선을 요구할 수 있다.
😎 후기
책은 쉽게 설명되어 있고, LLM에 대해서 가볍게 알 수 있어서 좋았다. 특히 초거대 AI가 환경에 미치는 영향들 때문에, 사용횟수를 줄이거나 적은 질문으로 좋은 답변을 얻어내는 게 필요한 시점에, 좋은 책을 접했다. 기법들을 모두 적용할 수 있을 지는 미지수지만 사실 가장 좋은 질문방법은 인간이나, GPT에게나 동일하다. "간단 명료하게 핵심을 전달할 것". 책 읽고 정리한 게 내 커뮤니케이션 능력이 조금은 도움이 되면 좋겠다라는 바람 뿐이다ㅋㅋ