생성형 AI 대규모 언어 모델(LLM) 프롬프트 패턴을 위한 팁

ChatGPT와 같은 생성형 AI(gen AI) 모델은 인터넷의 다양한 텍스트를 사용하여 훈련됩니다. 그러나 인공지능(AI)에는 교육 중에 사용된 특정 문서나 소스에 대한 특정 정보가 없습니다. 모델은 구체적인 내용에 초점을 맞추는 대신 일반적으로 학습하여 창의적인 답변을 제시하고, 복잡한 대화에 참여하고, 심지어 유머 감각까지 발휘할 수 있도록 합니다. 그러나 AI는 이해력이나 신념을 가지지 않으며, 단순히 학습된 데이터의 패턴을 기반으로 응답을 생성할 뿐입니다.

ChatGPT 또는 대형 언어 모델(LLM)과 같은 AI 시스템은 단일 인터페이스에서 인류의 집단 지식을 반영합니다. 이들은 인터넷의 기존 콘텐츠를 재구성하지만 '사고'하지 않으며, 인간이 가진 의미의 '지능'이 없으며, 또한, 일반적인 문제 해결 능력을 가진 '범용 인공지능'이 아니며, 자신이 생성한 정보를 '인지'하지도 않습니다.

생성형 AI의 작동 방식: 토큰이란?

이러한 모델의 작동 방식은 개별 문자에서 전체 단어에 이르는 개별 언어 단위인 토큰 개념을 기반으로 합니다. 이러한 모델은 복잡한 수학 계산을 사용하여 한 번에 특정 수의 토큰을 처리하여 시퀀스에서 가장 가능성이 높은 다음 토큰을 예측합니다.

생성형 사전 훈련된 트랜스포머(GPT)와 같은 모델은 한 번에 하나의 토큰을 텍스트로 생성합니다. 각 토큰을 생성한 후 모델은 지금까지 생성한 전체 시퀀스를 검토하고 다시 처리하여 다음 토큰을 생성합니다. 이 재귀 프로세스는 최종 토큰이 생성된 텍스트를 완료할 때까지 계속됩니다.

즉, AI 응답의 품질은 사용자가 제공하는 프롬프트 또는 지침에 따라 다릅니다. 다시 말해, 우리가 AI와 상호 작용하고 AI를 지시하는 방식은 AI가 생성하는 답변의 품질에 큰 영향을 미칩니다.

프롬프트 엔지니어링이란?

프롬프트 엔지니어링은 AI 모델이 원하는 결과를 얻을 수 있도록 효과적인 프롬프트 또는 지침을 설계하고 작성하는 사례를 가리킵니다. GPT-3과 같은 언어 모델의 맥락에서 프롬프트 엔지니어링에는 모델이 정확하고 관련성이 있으며 상황에 맞는 적절한 응답을 생성하도록 유도하는 입력 텍스트를 공식화하는 작업이 포함됩니다.

GPT-3과 같은 언어 모델에는 진정한 이해나 상식적인 추론이 없기 때문에 효과적인 프롬프트 엔지니어링이 중요합니다. 교육 데이터에서 학습한 패턴을 기반으로 응답을 생성합니다. 잘 설계된 프롬프트는 모델이 더 정확하고 의미 있는 출력을 생성하도록 유도하는 데 도움이 될 수 있으며, 잘못 구성된 프롬프트는 부정확하거나 의미 없는 결과를 초래할 수 있습니다.

프롬프트 설계란?

프롬프트 설계는 명확하고 구체적으로 정의된 목표를 달성하기 위해 ChatGPT와 같은 LLM에 적합한 지침을 체계적으로 작성하는 것입니다. 이 사례는 예술적 요소와 과학적 요소를 모두 결합하며 다음을 포함합니다.

• LLM 이해: LLM에 따라 동일한 프롬프트에 다르게 응답합니다. 또한 특정 언어 모델에는 응답에서 특정 해석을 트리거하는 고유한 키워드 또는 단서가 있을 수 있습니다.
• 도메인 전문성: 프롬프트를 공식화하는 동안 관련 분야의 숙련도가 매우 중요합니다. 예를 들어 의학적 진단을 추론하는 프롬프트를 생성하려면 의학적 지식이 필요합니다.
• 반복적인 프로세스 및 품질 평가: 완전한 프롬프트를 고안하려면 시행착오를 거쳐 개선해야 하는 경우가 많습니다. 생성된 출력의 품질을 주관적인 판단 이상으로 평가하는 방법을 갖추는 것이 필수적입니다.

프롬프트 크기 제한

LLM의 크기 제한은 우리가 제공할 수 있는 정보의 양과 특성에 직접적인 영향을 미치기 때문에 그 중요성을 인식하는 것이 중요합니다. 언어 모델은 무한한 양의 데이터를 한 번에 처리하도록 설계되지 않았습니다. 대신 구성하고 입력할 수 있는 프롬프트의 크기에 제한이 있습니다. 이 제한 사항은 프롬프트를 효과적으로 공식화하고 활용하는 방법에 중대한 영향을 미칩니다.

LLM에는 프롬프트와 후속 응답을 모두 포함하는 최대 토큰 용량이 있습니다. 따라서 프롬프트가 길수록 생성된 응답의 길이가 단축될 수 있습니다. 간결하면서도 필요한 정보를 전달하는 프롬프트를 작성하는 것이 중요합니다.

실제 시나리오에서는 편집자의 역할을 채택하여 작업에 적절한 세부 정보를 신중하게 선택해야 합니다. 이 프로세스는 특정 단어 또는 페이지 제한 내에서 논문이나 기사를 작성하는 방식을 반영합니다. 이러한 경우 임의의 팩트를 단순히 덤프할 수 없습니다. 대신 해당 주제와 직접적으로 관련된 정보를 신중하게 선택하고 구성해야 합니다.

프롬프트 디자인은 정확하고 잘 구성된 콘텐츠를 보장하는 데 도움이 되는 인적 기술입니다. 툴은 작성자의 생산성을 높이는 데 도움이 될 수 있지만, 작성자를 대체할 수는 없습니다. Gen AI에는 지식과 경험이 풍부한 작가, 연구원, 편집자의 도움이 필요합니다. 훌륭한 프롬프트 디자이너가 되려면 훌륭한 콘텐츠 작성자와 동일한 기술이 필요합니다.

신속한 설계 및 신속한 엔지니어링을 위한 기술

어떤 상황에서 어떤 프롬프트를 사용할지는 사용자에게 달려 있습니다. 예를 들어, 긴 문서를 작성하는 경우 CoT(사고 사슬, chain-of-thought) 프롬프트는 한 번에 한 섹션씩 정보를 생성하는 데 유용합니다. 다음은 모든 프롬프트 설계 전략의 전체 목록은 아니지만 오늘날 사용되는 주요 패턴 중 일부입니다.

가상 사용자 패턴

페르소나 패턴은 AI가 전문적인 역할을 채택하거나 가상의 인물을 구현하는 것과 같은 특정 관점에서 작동하도록 지시하는 기술입니다. 이 접근 방식을 통해 모델은 특정 가상 사용자와 관련된 책임에 맞는 출력을 생성할 수 있습니다. 예를 들어, 코드를 평가하는 동안 AI에게 사이버 보안 전문가의 역할을 맡도록 지시할 수 있습니다. 이 전략은 지침이 필요하지만 원하는 출력에 대한 정확한 사양이 부족할 때 특히 유용합니다. 예를 들면 다음과 같습니다.

이 시나리오에서는 역사가의 관점에서 볼 수 있듯이 AI가 원인을 중심으로 펠로폰네소스 전쟁에 대한 포괄적인 검토를 제공할 것으로 예상됩니다. 프롬프트에 사용된 높은 수준의 학술 작문 스타일과 어휘를 확인합니다. 응답은 해당 스타일과 일치합니다. 즉, 프롬프트의 쓰기 스타일에 따라 생성된 콘텐츠의 스타일이 결정됩니다. 이는 모든 프롬프트 접근 방식에 적용되므로 게시하는 컨텍스트에 맞게 프롬프트 작성을 조정해야 합니다.

마케터의 관점에서는 가상 사용자 패턴을 사용하여 고객의 마음을 이해할 수 있습니다. 기밀 정보를 공개하지 않고 AI에게 타겟 고객의 역할을 맡게 한 다음 질문할 수 있습니다. AI는 이론적인 고객의 관점에서 대응합니다. 물론 이것이 완벽한 것은 아니며 우수한 사용자 연구 및 마케팅 데이터를 대체할 수도 없습니다. 그러나 다양한 형태의 카피를 작성하고 아이디어를 생성하는 데 도움이 될 수 있습니다.

새로운 정보 패턴

AI에는 한계가 있으며, 매우 중요한 한 가지는 훈련 데이터가 종료되는 지점을 넘어서는 정보를 인식하지 못한다는 것입니다. AI는 최근 이벤트를 포함하거나 훈련 후 발생한 업데이트를 고려할 수 없습니다. 그러나 프롬프트를 효과적으로 구성하여 모델의 지식에 새 정보를 통합할 수 있습니다. 예를 들어 다음 상호 작용을 고려합니다.

프롬프트에 더 많은 컨텍스트를 제공하여 더 관련성 있는 설명을 생성할 수 있습니다.

질문 구체화(Refining questions) 패턴

AI는 문의 품질을 개선하는 데 도움이 되는 기능을 보유하고 있습니다. 예를 들어, 질문을 하면 AI는 더 정확한 결과를 얻을 수 있는 정확하게 공식화된 질문을 제안할 수 있습니다.

이 기능은 구체화된 질문 패턴에 캡슐화되어 있습니다. 특정 분야에 대한 전문성이 부족하거나 질문을 표현하는 가장 좋은 방법이 확실하지 않은 경우 특히 유용합니다. 다음 샘플 프롬프트를 살펴보겠습니다.

이 시나리오에서 AI는 통계 분석의 측면을 구체적으로 고려하는 질문으로 범위를 좁혀 일반적인 데이터 사이언스 쿼리를 개선할 것으로 예상됩니다. 그런 다음 AI는 사용자가 정제된 질문으로 진행할지 여부를 묻습니다.

인지 검증(Cognitive verifier) 패턴

인지 검증 패턴에는 복잡한 질문을 더 작고 관리하기 쉬운 하위 질문으로 분해하는 방법이 포함됩니다. 이러한 작은 구성 요소에 대한 답변은 이후 통합되어 주요 질문에 대한 포괄적인 응답을 생성합니다. 이 접근 방식은 초기 질문이 지나치게 광범위하거나 철저한 답변을 제공하기 위해 추가 명확성이 필요한 경우 특히 유용합니다. 다음 예를 살펴보겠습니다.

이 시나리오에서 AI는 검색 추론 프레임워크와 관련된 복잡한 질문을 세 가지 하위 질문으로 세분화합니다. 각 하위 질문에 대한 답변을 수집한 후 이를 통합하여 포괄적이고 정확한 답변을 생성합니다.

이 패턴은 여러 개의 문의를 생성하여 더 정확한 최종 응답으로 이어집니다. 이 프로세스에는 강력하고 철저한 출력을 보장하기 위해 정보를 확인하고 통합하는 작업이 포함됩니다. 이는 교육 전략에서 사용되는 전체-부분-전체(whole-part-whole) 학습 및 지도 방법과 유사합니다.

CoT(사고 사슬, chain-of-thought) 프롬프트

Chain-of-Thought Promptings Elicits Reasoning in Large Language Models라는 제목의 최근 연구 보고서에서 Jason Wei와 그의 팀은 LLM 내에서 추론 능력을 모방하는 것을 목표로 했습니다. 직접 프롬프트를 사용하는 기존의 관행에서 벗어나 팀은 상호 연결된 일련의 프롬프트를 사용하여CoT(사고 사슬, chain-of-thought)를 형성합니다.

예를 들어, 인공지능이 고용 시장에 미칠 수 있는 잠재적 영향을 알아보려는 사용자가 있다고 가정해 보겠습니다.

CoT(사고 사슬, chain-of-thought) 프롬프트의 접근 방식에는 언어 모델과의 "대화"를 설정하는 일련의 연결된 프롬프트가 수반됩니다. 이 접근 방식은 모델을 더 정확하고 상황에 맞는 응답으로 안내하여 아이디어와 추론의 진행을 촉진합니다. 또한 프롬프트가 이상적인 답변과 동일한 어조, 스타일, 태도 및 구성으로 작성되는 한, AI가 특정 작문 스타일을 모방하도록 훈련할 수 있습니다.

생각의 연쇄는 문서 작성에 특히 효과적입니다. 이미 요약된 문서, 에세이 또는 주장이 있는 경우 해당 흐름에 따라 프롬프트 체인을 구성할 수 있습니다. AI는 제공할 수 있는 글자 수에 제한이 있기 때문에, 일련의 사고 방식을 사용하면 AI가 한 번에 전체 문서를 생성하도록 하는 대신 한 번에 한 섹션에 대한 정보를 표시할 수 있습니다. 이를 통해 정보를 더 효과적으로 제어하고 더 정확하고 상세한 응답을 얻을 수 있습니다. 사용자는 구조를 제어하고 AI는 사용자의 지침에 따라 한 번에 하나씩 전체 조각을 생성합니다.

리서치 어시스턴트 패턴

이 프롬프트에서는 연구 프로젝트에 대한 소스를 찾는 데 도움을 요청합니다. AI는 3개의 관련 연구 논문을 추천하여 응답합니다. 기사의 제목, 작성자, 출판 세부 정보와 함께 기사 내용에 대한 간략한 설명이 제공됩니다. 또한 AI는 소스의 신뢰성을 평가하고 상호 참조하는 것의 중요성을 강조합니다. 신속한 설계는 AI의 기능을 효과적으로 활용하여 추가 연구를 위해 평판이 좋은 출처를 제안함으로써 연구를 지원합니다. 예를 들면 다음과 같습니다.

결정적으로 이 프롬프트는 AI와 LLM의 주요 약점 중 하나인 잘못된 정보를 방지하는 데 도움이 됩니다. AI는 콘텐츠 대신 소스를 요청함으로써 프로젝트 연구에 필요한 시간을 크게 단축할 수 있지만, 소스를 평가하고 소스에서 필요한 정보를 가져옵니다.

인용 생성기 프롬프트 개선

마찬가지로 AI에 콘텐츠 작성을 요청할 때 출처를 인용하고 참조 섹션을 제공하도록 요청할 수 있습니다. 선호하는 인용 스타일을 선언하면 인터페이스에서 해당 형식을 반환합니다. 예를 들어 다음과 같은 축약된 예를 살펴보겠습니다.

사용자는 항상 편집자 역할을 하여 정보의 정확성을 확인해야 합니다. AI가 제공한 각 소스를 검사하고 AI가 소스의 주장에 대해 주장하는 것이 사실인지 확인해야 합니다. 또한 참조 섹션 자체가 올바른 APA 형식인지 확인해야 합니다.

연구하는 분야에 따라 참조 섹션에서 일부 유명 인사를 빠르게 알아볼 수 있습니다. 이는 정확성을 확인하는 속기 방법입니다. 예를 들어, Alain Aspect는 수십 년에 걸친 양자 얽힘에 대한 연구로 2022년 노벨 물리학상을 수상했습니다. 따라서 양자 얽힘에 관한 프롬프트에서 그의 이름이 참고 문헌 목록에서 1위를 차지한 것은 AI가 사용한 소스가 신뢰할 수 있다는 유망한 신호입니다. .

이러한 유형의 프롬프트는 특정 주제에 대한 전문 지식을 갖춘 작가, 편집자, 연구원이 콘텐츠 작성 프로세스에서 중요한 이유를 보여주는 또 다른 예입니다. AI는 프로세스를 가속화할 수 있지만, 인간 작가를 대체할 수는 없습니다.

AI에게 출처를 인용하도록 요청하는 것은 사고 연쇄 프롬프팅과 함께 사용할 때 특히 효과적입니다. 이 두 가지를 결합하려면 위에서 설명한 대로 일련의 사고 방식에 대한 프롬프트 전략을 따르십시오. 체인의 각 개별 프롬프트를 제출하기 전에 AI에게 필요한 형식으로 소스를 인용하도록 요청해야 합니다. 그런 다음 요청을 제출하십시오.

퓨샷(Few-shot) 패턴

퓨샷 프롬프트는 특정 패턴을 준수하거나 태스크를 실행하도록 AI 모델을 훈련하는 데 사용되는 강력한 방법입니다. 기본적인 아이디어는 실제 질문을 제기하기 전에 모델에 몇 가지 예제를 제공하는 것입니다. 이 방법은 원하는 동작을 정의하고 모델의 후속 응답을 안내하는 데 도움이 됩니다.

새로운 기술 기기에 대해 간결하고 시선을 사로잡는 마케팅 메시지를 작성해야 한다고 가정해 봅시다.

퓨샷 학습의 주목할 만한 측면은 상세한 절차 가이드가 아닌 데모에 의존한다는 것입니다. 이 기능을 통해 다양한 애플리케이션에 맞게 조정할 수 있습니다. 이 기술은 기본 입력-출력 일치 이상의 기능을 제공합니다. 이를 통해 모델은 특정 목표를 달성하기 위한 중간 단계를 처리하는 방법을 학습할 수 있습니다. 이 방법은 마케팅 작성자가 헤드라인, 짧은 본문 카피, 제목, 소셜 미디어 광고, 클릭 유도 문안(CTA) 등과 같은 짧은 형식의 카피를 반복 개발하는 데 이상적입니다.

이제 특히 유용한 프롬프트 패턴을 알아보았으므로 선택한 LLM에서 사용해 보세요. 예제에서는 ChatGPT를 사용했습니다.

인공지능은 분야와 산업에 관계없이 새로운 발견과 경험의 원동력이 되고 있습니다. 자세히 알아볼 준비가 되었다면 Red Hat 플랫폼을 사용하여 오픈소스 커뮤니티의 속도, 신뢰, 투명성으로 가속화된 AI 모델 및 애플리케이션을 구축, 배포, 모니터링, 사용하는 방법을 알아보세요.

Red Hat의 AI에 대해 알아보기