langgraph
[langgraph] 도구(tool) 내에 이벤트를 스트리밍하는 방법
LangGraph 공식문서를 번역한 내용입니다. 필요한 경우 부연 설명을 추가하였고 이해하기 쉽게 예제를 일부 변경하였습니다. 문제가 되면 삭제하겠습니다.https://langchain-ai.github.io/langgraph/how-tos/streaming-events-from-within-tools/그래프에 LLM을 호출하는 도구(또는 다른 LangChain Runnable 객체들, 예: 다른 그래프, LCEL 체인, 검색기 등)가 포함되어 있다면, 도구 실행 중에 부분 결과를 사용자에게 전달하고 싶을 수 있다. 특히 도구가 실행되는 데 시간이 오래 걸릴 경우 유용하다.일반적인 시나리오는 LLM을 호출하는 도구가 생성한 LLM 토큰을 스트리밍하는 것이지만, 이는 Runnable 객체를 사용하는 모든 ..
2024. 12. 1. 18:09