langchain
[langchain] llm의 invoke, ainvoke, stream, astream 실행시간 테스트
LangChain에서 자주 사용되는 네 가지 메서드인 invoke, ainvoke, stream, astream를 실행할 때의 실행시간에 얼마나 차이가 있는지 테스트 해보았다.기본 코드실행시간을 측정하기 위한 데코레이터 함수를 두 개 만들었다.import timefrom functools import wrapsdef elapsed_time(func): @wraps(func) def wrapper(*args, **kwargs): start_time = time.perf_counter() result = func(*args, **kwargs) end_time = time.perf_counter() print("Sync execution time:"..
2024. 8. 25. 16:56