langchain
[langchain] Streaming 파라미터가 미치는 영향
ChatOpenAI를 사용할 때 streaming 파라미터가 있다. True로 사용할 때 응답값이 streaming으로 리턴한다고 되어 있다.이 값을 False로 사용하고 stream() 함수를 호출하면 streaming으로 결과가 넘어올까 궁금해서 테스트를 해보았다.llm = ChatOpenAI( temperature=0, model_name="gpt-4o", streaming=False,)template = "{country}의 수도는?"prompt = PromptTemplate.from_template(template=template)chain = prompt | llm | StrOutputParser()def stream(): for chunk in chain.strea..
2024. 8. 26. 08:40