langchain

[번역][langgraph tutorial] Quick Start - Part 2. 도구(Tool)로 챗봇 강화하기

langgraph의 공식문서를 번역해 놓은 자료입니다. 이해하기 쉽게 예제는 변경하였습니다. 또한 필요한 경우 부연 설명을 추가하였습니다. 문제가 되면 삭제하겠습니다.https://langchain-ai.github.io/langgraph/tutorials/introduction/#part-2-enhancing-the-chatbot-with-toolsPart 2: 도구(Tool)로 챗봇 강화하기챗봇이 "memory"로 답변할 수 없는 질문을 처리하기 위해, 웹 검색 도구를 사용할 것이다. 이 도구를 사용하여 챗봇이 관련 정보를 찾고 더 나은 응답을 제공할 수 있도록 할 수 있다.다음 단계는 웹 검색 도구를 챗봇에 추가하는 것이다. 이렇게 하면 사용자가 묻는 질문에 대해 더 풍부하고 정확한 정보를 제공할..

2024. 10. 15. 21:43

langchain

[번역][langgraph tutorial] Quick Start - Part 1. 기본 챗봇 만들기

langgraph의 공식문서를 번역해 놓은 자료입니다. 이해하기 쉽게 예제는 변경하였습니다. 또한 필요한 경우 부연 설명을 추가하였습니다. 문제가 되면 삭제하겠습니다.https://langchain-ai.github.io/langgraph/tutorials/introduction/Quick StartQuick Start 가이드에서는 LangGraph를 사용하여 다음과 같은 기능을 갖춘 지원 챗봇을 구축할 것이다.웹 검색을 통해 자주 묻는 질문에 답변하기여러 호출 간 대화 상태 유지하기복잡한 질문을 사람에게 전달하여 검토받기맞춤 상태를 사용하여 챗봇의 동작 제어하기대화 내용을 되돌려보고 다른 대화 경로를 탐색하기기본 챗봇으로 시작하여 점진적으로 더 정교한 기능을 추가하면서, 주요 LangGraph 개념들을..

2024. 10. 15. 21:41

langchain

[번역][langgraph Contextual Guides] Human in the loop

langgraph의 공식문서를 번역해 놓은 자료입니다. 문제가 되면 삭제하겠습니다.https://langchain-ai.github.io/langgraph/concepts/human_in_the_loop/Human-in-the-loop(또는 "on-the-loop")는 여러 일반적인 사용자 상호작용 패턴을 통해 에이전트의 능력을 향상시킨다.일반적인 상호작용 패턴에는 다음이 포함된다.(1) 승인(Approval) - 에이전트의 작업을 중단하고 현재 상태를 사용자에게 표시하여 사용자가 작업을 승인하도록 할 수 있다.(2) 수정(Editing) - 에이전트의 작업을 중단하고 현재 상태를 사용자에게 표시하여 사용자가 에이전트 상태를 수정할 수 있게 한다.(3) 입력(Input) - 사용자 입력을 수집하기 위한 ..

2024. 10. 11. 06:30

langchain

[번역][langgraph Contextual Guides] Agent architectures

langgraph의 공식문서를 번역해 놓은 자료입니다. 문제가 되면 삭제하겠습니다.https://langchain-ai.github.io/langgraph/concepts/agentic_concepts/많은 LLM 애플리케이션은 LLM 호출 전후에 특정한 제어 흐름을 구현한다. 예를 들어, RAG는 질문과 관련된 문서를 검색하고, 그 문서를 LLM에 전달하여 모델의 응답을 구체화한다.고정된 제어 흐름을 하드 코딩하는 대신, 때때로 더 복잡한 문제를 해결하기 위해 스스로 제어 흐름을 선택할 수 있는 LLM 시스템을 원한다. 이것이 에이전트(agent)의 정의이다. 에이전트는 LLM을 사용하여 애플리케이션의 제어 흐름을 결정하는 시스템이다. LLM이 애플리케이션을 제어할 수 있는 방법은 여러 가지가 있다.L..

2024. 10. 11. 06:27

langchain

[번역][langgraph Contextual Guides] LangGraph Glossary

langgraph의 공식문서를 번역해 놓은 자료입니다. 문제가 되면 삭제하겠습니다.https://langchain-ai.github.io/langgraph/concepts/low_level/Graphs본질적으로, LangGraph는 에이전트 워크플로우를 그래프로 모델링한다. 에이전트의 동작은 세 가지 주요 구성 요소를 사용하여 정의된다.상태(State): 애플리케이션의 현재 스냅샷을 나타내는 공유 데이터 구조이다. 어떤 Python 유형도 될 수 있지만, 일반적으로는 TypedDict 또는 Pydantic BaseModel이다.노드(Nodes): 에이전트의 동작방식을 정의하는 Python 함수이다. 현재 상태를 입력으로 받아 계산이나 부작용을 수행하고 업데이트된 상태를 반환한다.엣지(Edges): 현재 ..

2024. 10. 11. 06:24

langchain

[번역][langgraph Contextual Guides] Conceptual Guides: Why LangGraph?

langgraph의 공식문서를 번역해 놓은 자료입니다. 문제가 되면 삭제하겠습니다.https://langchain-ai.github.io/langgraph/concepts/high_level/LLM(대규모 언어 모델)은 매우 강력하며, 특히 검색기(retriever)나 API와 같은 다른 시스템에 연결될 때 더욱 그 힘을 발휘한다. 이 때문에 많은 LLM 애플리케이션은 LLM 호출 전후에 단계적인 제어 흐름을 사용한다. 예를 들어, RAG는 질문에 대한 관련 문서를 검색하고 이러한 문서를 LLM에 전달하여 응답을 구체화한다. 종종 LLM이 호출되기 전후의 단계적인 제어 흐름은 "체인(chain)"이라고 불린다. 체인은 LLM을 프로그래밍하는 데 있어 인기 있는 패러다임으로, 높은 신뢰성을 제공한다. 동일..

2024. 10. 11. 06:23

langchain

[langchain] Tool(도구) 이란?

Tools란 무엇인가?Tools(도구)란 무엇일까? 처음 들으면 생소하게 느껴질 수 있다. Tools를 이용하면 외부 API를 호출하고 응답결과를 받을 수 있다는데, 그럼 외부 API를 호출하게 해주는걸까? 예를 들면, 현재 날씨 정보는 LLM이 모르니 Tools를 이용하면 날씨 API를 LLM이 호출해서 결과를 우리에게 알려주는 것일까? 내부적으로 어떻게 실행되는 것인지 차근차근 알아보자.프로그램을 만들 때 일반적으로 함수의 매개변수를 넘기고 함수 실행 후 결과를 받는다. 곱셈을 하는 함수를 예로 들면 아래와 같다.def multiply(x: int, y: int) -> int : return x * yprint(multiply(2, 3)) # 6이런 방식은 프로그램 로직에서 x와 y를 정확히 int..

2024. 10. 7. 08:56

langchain

[langchain] PDF용 질문/응답 시스템 구축

Langchain 공식문서의 내용을 정리한 것입니다. 내용 및 예제는 일부 변경하였지만 가능한 구조는 유지했습니다.Build a PDF ingestion and Question/Answering system - https://python.langchain.com/docs/tutorials/pdf_qa/PDF 파일은 종종 다른 출처에서는 얻을 수 없는 중요한 비구조화 데이터를 포함하고 있다. PDF 파일은 길이가 상당히 길 수 있으며, 일반적으로 일반 텍스트 파일과 달리 언어 모델의 프롬프트에 직접 입력할 수 없다.이 튜토리얼에서는 PDF 파일에 대한 질문에 답할 수 있는 시스템을 만들 것이다. 더 구체적으로, 문서 로더를 사용하여 LLM에서 사용할 수 있는 형식으로 텍스트를 로드한 다음, 출처 자료에서..

2024. 10. 5. 11:32

langchain

[langchain] 로컬 RAG 애플리케이션 만들기

Langchain 공식문서의 내용을 정리한 것입니다. 내용 및 예제는 일부 변경하였지만 가능한 구조는 유지했습니다.Build a Local RAG Application - https://python.langchain.com/docs/tutorials/local_rag/llama.cpp, Ollama, llamafile과 같은 프로젝트의 인기는 LLM을 로컬에서 실행하는 것의 중요성을 강조한다.LangChain은 로컬에서 실행할 수 있는 많은 오픈 소스 LLM 제공업체와 통합되어 있다.이 가이드는 Ollama를 통해 LLaMA 3.1을 로컬(예: 노트북)에서 실행하는 방법을 보여준다. 로컬 임베딩과 로컬 LLM을 사용한다. 그러나 원하신다면 LlamaCPP와 같은 다른 로컬 제공업체를 설정하고 교체할 수..

2024. 10. 5. 11:31

langchain

[langchain] 쿼리 분석 시스템 만들기

Langchain 공식문서의 내용을 정리한 것입니다. 내용 및 예제는 일부 변경하였지만 가능한 구조는 유지했습니다.Build a Query Analysis System - https://python.langchain.com/docs/tutorials/query_analysis/이 페이지에서는 기본적인 엔드 투 엔드 예제를 통해 쿼리 분석을 사용하는 방법을 보여준다. 여기에서는 간단한 검색 엔진을 만드는 과정과, 원시 사용자 질문을 해당 검색에 전달할 때 발생하는 실패 모드를 보여준 후, 쿼리 분석이 그 문제를 해결하는 데 어떻게 도움이 되는지를 예시로 설명한다. 쿼리 분석 기법은 매우 다양하며, 이 엔드 투 엔드 예제에서는 모든 기법을 다루지 않을 것이다.이 예제의 목적은 LangChain YouTub..

2024. 10. 5. 11:31

langchain

[langchain] SQL 데이터 기반의 질답 시스템 만들기

Langchain 공식문서의 내용을 정리한 것입니다. 내용 및 예제는 일부 변경하였지만 가능한 구조는 유지했습니다.Build a Question/Answering system over SQL data - https://python.langchain.com/docs/tutorials/sql_qa/구조화된 데이터를 쿼리할 수 있도록 LLM 시스템을 활성화하는 것은 비정형 텍스트 데이터를 처리하는 것과 질적으로 다를 수 있다. 비정형 텍스트 데이터의 경우 벡터 데이터베이스에서 검색할 수 있는 텍스트를 생성하는 것이 일반적이지만, 구조화된 데이터에서는 LLM이 SQL과 같은 DSL(도메인 특화 언어)로 쿼리를 작성하고 실행하는 방식이 자주 사용된다. 이 가이드에서는 데이터베이스 내 테이블 데이터를 대상으로 Q..

2024. 10. 5. 11:30

langchain

[langchain] 대화형(Conversational) RAG 애플리케이션 만들기

Langchain 공식문서의 내용을 정리한 것입니다. 내용 및 예제는 일부 변경하였지만 가능한 구조는 유지했습니다.Conversational RAG - https://python.langchain.com/docs/tutorials/qa_chat_history/많은 Q&A 애플리케이션에서 사용자가 대화를 주고받을 수 있도록 하기를 원한다. 이는 애플리케이션이 이전 질문과 답변을 기억하는 "메모리"와 이를 현재의 추론에 반영하는 로직이 필요하다는 의미이다.이 가이드에서는 이전 메시지를 반영하는 로직을 추가하는 데 중점을 둔다. 대화 기록 관리에 대한 자세한 내용은 여기에서 다룬다.우리는 두 가지 접근 방식을 다룰 것이다.체인(Chains): 항상 검색 단계를 실행하는 방식.에이전트(Agents): LLM이..

2024. 10. 5. 11:30

langchain

[langchain] 검색 증강 생성(RAG) 애플리케이션 만들기

Langchain 공식문서의 내용을 정리한 것입니다. 내용 및 예제는 일부 변경하였지만 가능한 구조는 유지했습니다.Build a Retrieval Augmented Generation (RAG) App - https://python.langchain.com/docs/tutorials/rag/LLM(대형 언어 모델)에 의해 가능해진 가장 강력한 응용 프로그램 중 하나는 정교한 질문-응답(Q&A) 챗봇이다. 이 챗봇은 특정 출처 정보를 바탕으로 질문에 답하는 애플리케이션이다. 이러한 애플리케이션은 RAG(Retrieval Augmented Generation)라는 기술을 사용한다.이 튜토리얼에서는 텍스트 데이터 소스를 기반으로 한 간단한 Q&A 애플리케이션을 만드는 방법을 보여준다. 진행하면서 일반적인 Q..

2024. 10. 5. 11:29

langchain

[langchain] llama3.1 설치 및 langchain에서 사용방법

Llama 3.1을 로컬에서 설치하여 실행하는 방법과 langchain에서 사용하는 방법에 대해 알아보자. 이 가이드는 Mac Studio M1 Max에서의 설치를 기준으로 하며, 다른 운영체제에서도 동일한 과정으로 설치할 수 있다.llama3.1 설치파일 다운로드https://ollama.com/에 접속하여 운영체제에 맞는 파일 Download 한다.여기서는 Mac Studio M1 Max라서 macOS를 선택하였다.설치파일 실행설치파일 클릭을 하면 Ollama 설치를 시작한다.설치 진행설치 창에서 install을 눌러 설치를 진행한다.모델 실행 준비llama 3.1을 실행하려면 모델파일이 필요하다. 모델파일을 다운로드 받는 방법은 명령어로 받는 방법과 직접 다운받는 방법이 있다.1) 명령어로 다운로드..

2024. 10. 2. 09:57

langchain

[langchain] Upstage의 goundedness check 기능

Upstage Groundedness Check(RGC)는 모델이 생성한 응답이 주어진 컨텍스트와 얼마나 잘 일치하는지를 평가하는 기능이다. 이 기능은 정보의 정확성과 신뢰성을 높이는 데 중요한 역할을 한다. 특히 AI 챗봇이나 질의응답 시스템에서 정보의 기반을 확인하는 데 유용하다.Upstage는 인공지능(AI) 기술, 특히 대규모 언어 모델(LLM)과 문서 AI 분야에 특화된 국내 스타트업이다.1. Groundedness Check란?Upstage 문서 내용https://developers.upstage.ai/docs/apis/groundedness-check대형 언어 모델(LLMs)은 복잡하고 정보가 풍부한 텍스트를 생성할 수 있지만, 사실적으로 부정확한(즉, 비기반된) 응답을 생성할 수 있는 오류..

2024. 10. 2. 07:52