[ChatGPT] Prompt Engineering

Dropout ( 드롭아웃 )

; 뉴런을 임의로 삭제하면서 학습하는 방법.

훈련 때 은닉층의 뉴런을 무작위로 골라 삭제한다.

 

> 주로 과적합데이터에 대해 사용하는데, 데이터의 일부를 날리면 과적합결과에 비해 데이터가 느슨해진다.

  내부적으로는 정확도가 떨어지겠지만, 더 많은 데이터를 학습한 것과 같은 효과가 나타난다.

 

 

 

• RAG 기법
  외부틀을 이용해 연동된 지식을 가져옴
  ZAPIER: 업무수강용 자동생성화

 

프롬프트 엔지니어링 기법

- 프롬프팅 : 인공지능에 일련의 지시(프롬프트)를 내리는 과정

• 지시문 : 인공지능에게 특정한 행동을 수행하도록 명령하는 가장 간단한 방법
  • AI가 지시문을 정확하게 이해하고, 그에 따라 적절한 결과를 출력할 수 있어야 한다.
    >> AI에 지시문을 제공할 때는 가능한 명확하고 구체적으로 제공하는 것이 중요하다.

지시문

 

• Roll Prompt (역할 부여 프롬프팅)
  • 인공지능에게 특정한 역할을 부여하여 작업을 수행하도록 지시하는 방법
  • ' 당신은 의사다 ', ' 당신은 nlp전문가다 ', ' AI 기업의 면접관 역할을 맡아줘 '
    >> 이를 통해 AI는 특정 문제에 대한 더 나은 이해를 가지게 되고, 따라서 더 나은 답변을 제공할 수 있다.
• Fewshot Prompt (퓨샷 프롬프팅)
  • 모델에게 원하는 작업을 수행하는 몇가지 예시(퓨샷)를 보여주는 것
  • 모델에게 어렵게 설명하는 특정방식으로 출력을 구조화할 필요가 있을 때 사용
  • 예시 갯수에 따라 제로샷, 원샷, 퓨샷 으로 나누어 진다.

퓨샷 프롬프트

인-컨텍스트 ↓↓

[NLP] Transfer Learning 전이학습

 

• 챗봇 프롬프트; 챗봇과 gpt의 주요 차이점은 사용자와의 대화를 얼마나 기억하느냐 이다
  • 스타일 가이드: 챗봇에게 특정 스타일로 대화하도록 요청
  • 서술자 추가: 응답의 톤을 변경
  • 프리밍 프롬프트(Priming Prompt): 추가적인 구조와 명세를 부여
    >> 사실 뭐가 다른지 모르겠답...

 

 

서비스를 위한 프롬프트 팁

• MRKL ( Modular Reasoning, Knowledge and Language ,미라클) 시스템
  • LLM(Large Language Model)과 외부도구를 결합하여 복잡한 문제를 해결하는 아키텍처
  • 계산기, 날씨API, 데이터베이스 등의 '모듈', 자연어쿼리를 적절한 모듈로 라우팅 하는 '라우터' 로 구성

MRKL 시스템

• ReAct 시스템
  • 문제가 제시되면 외부API와 상호작용하여 정보를 검색하는 등, 특정작업을 수행할 수 있는 언어모델을 위한 시스템
  • ReAct는 LLM이 특정작업을 수행할 수 있도록 설계되었다. 질문이 제시되면 LLM은 정보를 검색하기 위해 작업을 수행하고 검색된 정보를 기반으로 질문에 답할 수 있다.

ReAct 시스템

• 출력형식 지정
  • JSON 데이터를 저장하거나 전송할 때 많이 사용되는 경량의 데이터 교환 형식.
  • 키-값 쌍으로 구성되어 파싱하기에 용이하다. 파싱하여 로직에서 사용할 수 있다.
• 프롬프트와 로직과의 결합
  • 복잡한 처리를 수행하거나 자율적으로 동작하는 에이전트를 개발하기 위해서는 프롬프트와 로직이 서로 결합되어 동작된다.