728x90 반응형 Natural Language Processing23 [SeSac] LangChain 4 - 모델 파라미터 주요 파라미터Temperature : 생성하는 텍스트의 다양성을 조정. 반복되는 생성과정에서 값이 작으면 일관된 출력을 하고, 값이 크면 다양한 출력을 한다. Max Tokens : 생성하는 최대 토큰 수. 생성할 텍스트의 길이를 제한한다.Top P(Probability) : 생성과정에서 특정 확률분포 내 상위 P% 토큰만을 고려 (temperature와 유사)Frequency Penalty : 빈도 패널티. 값이 클수록 이미 등장한 단어나 구절이 다시 등장할 확률을 감소시킴(temp와 유사)Presence Penalty : 존재 패널티. 텍스트 내에서 단어의 존재 유무에 따라 그 단어의 선택 확률을 조정(temp와 유사)Stop Sequences : 정지 시퀀스. 특정 단어나 구절이 등장할 경우, 생성.. 2024. 7. 14. [SeSac] LangChain 3 - LLM, ChatModel 모델 클래스 Langchain 모델 유형LLM : 단일요청에 대한 복잡한 출력을 생성하는데 적합하나의 텍스트 문자열을 입력으로 받아 텍스트 문자열로 반환한다. 일반적인 언어 이해 문제나 텍스트 생성 작업에 사용Chat Model : 사용자와의 상호작용을 통한 연속적인 대화 관리에 적합여러 메세지를 리스트로 입력받고 하나의 응답 메세지를 반환한다. 대화형 상황에 최적화(서로 주고 받는 형태)ChatModel은 대화의 맥락을 유지하면서, 적절한 응답을 생성하는데 중점을 둔다.> 두 모델은 서로 다른 특성과 용도를 가지고 있어, 목적에 맞추어 선택하여 사용해야 한다. LLM (Large Language Model) from langchain_openai import OpenAIllm = OpenAI()llm.invok.. 2024. 7. 14. [SeSac] LangChain 2 - 프롬프트 (Prompt) 프롬프트 (Prompt): 언어모델의 입력으로 사용되는, 질문이나 요청 형태의 지시문> 틀을 미리 잘 만들어놓으면, 재사용이 가능하고 수정해서 사용하기 편리하다. 프롬프트 템플릿 (Prompt Template) : 하나의 문장이나 간단한 명령을 입력하여 동일하게 하나의 문장 혹은 간단한 응답을 출력할 때 사용최종적으로 출력은 문자열 형태를 띈다. 파이썬 문자열 포맷팅을 사용하여 동적으로 특정한 위치에 입력값을 포함시킬 수 있다. from langchain_core.prompts import PromptTemplate# 'name'과 'age'라는 두 개의 변수를 사용하는 프롬프트 템플릿을 정의template_text = "안녕하세요, 제 이름은 {name}이고, 나이는 {age}살입니다."# Promp.. 2024. 7. 14. [SeSac] LangChain 1 - 기본 LLM 체인 및 멀티체인 기본체인 (Prompt + LLM) : 사용자의 입력(프롬프트)을 받아 LLM을 통해 적절한 응답이나 결과를 생성하는 구조> 프롬프트를 통한 입력된 지시문을 LLM에게 전달하고, LLM은 전달받은 프롬프트 내용에 맞추어 질문에 대한 답변을 만드는 구조 기본 체인의 구성 요소프롬프트(Prompt) : 사용자 또는 시스템에서 제공하는 입력. LLM에게 작업을 수행하도록 요청하는 지시문LLM(Large Language Model) : GPT나 Gemini등의 대규모 언어모델. 프롬프트를 바탕으로 적절한 응답을 생성 일반적인 작동 방식프롬프트 생성 : 원하는 명령이나 지시사항을 입력하거나, 시스템에게 역할을 부여하거나, 혹은 여러 조건들을 작성해 LLM에게 전달하기 위한 지시문.( 프롬프트를 그냥 gpt같은 생.. 2024. 7. 14. 이전 1 2 3 4 5 6 다음 728x90 반응형