[루닥스 블로그] 연습만이 살길이다
    • 메뉴 닫기
    • 글작성
    • 방명록
    • 환경설정
      • 분류 전체보기 (713)
        • 도서 요약 (114)
        • 소프트웨어 아키텍처 패턴 (21)
        • java (25)
        • spring (48)
        • elasticsearch (17)
        • kafka (6)
        • 개발도구(Intellij, vscode 등) (14)
        • maven (8)
        • front-end (35)
        • python (41)
        • langchain (56)
        • langgraph (81)
        • LLM, AI 도구 (6)
        • AI 지식 (31)
        • 번역 자료 (185)
        • database (4)
        • chrome extension (3)
        • 파워포인트,키노트 (2)
        • 여러가지 (15)
    • 홈
    • 태그
    • 방명록
    langchain

    [langchain] fake llm으로 실행시간 테스트

    LangChain에서 자주 사용되는 네 가지 메서드인 invoke, ainvoke, stream, astream를 실행할 때의 실제 llm을 호출하지 않고 fake llm을 통해 실행시간 테스트를 해보자.fake llm은 실제 llm을 호출하는 방식이 아닌 사전에 응답을 정의하고 해당 응답을 리턴하는 방식이다. 실제 llm은 호출하지 않는다.기본 코드실행시간을 측정하기 위한 데코레이터 함수를 두 개 만들었다.import timefrom functools import wrapsdef elapsed_time(func): @wraps(func) def wrapper(*args, **kwargs): start_time = time.perf_counter() result = f..

    2024. 8. 25. 17:52
    • «
    • 1
    • »
    반응형

    전체 방문자

    오늘
    어제
    전체

    전체 카테고리

    • 분류 전체보기 (713)
      • 도서 요약 (114)
      • 소프트웨어 아키텍처 패턴 (21)
      • java (25)
      • spring (48)
      • elasticsearch (17)
      • kafka (6)
      • 개발도구(Intellij, vscode 등) (14)
      • maven (8)
      • front-end (35)
      • python (41)
      • langchain (56)
      • langgraph (81)
      • LLM, AI 도구 (6)
      • AI 지식 (31)
      • 번역 자료 (185)
      • database (4)
      • chrome extension (3)
      • 파워포인트,키노트 (2)
      • 여러가지 (15)
    • 최근 글
    • 최근 댓글

    최근 글

    최근댓글

    블로그 인기글

    반응형
    Powered by Privatenote Copyright © [루닥스 블로그] 연습만이 살길이다 All rights reserved. TistoryWhaleSkin3.4

    티스토리툴바