6P by xguru 2023-04-07 | favorite | 댓글과 토론
  • LLM의 기본 답변 외에 확장 컴포넌트를 통해서 추가적인 동작이 가능한 에이전트를 간단히 만들 수 있게 도와줌

동작방식

  • 도구를 이용해 작업를 처리하는 기본 프롬프트로 명령을 내림
  • 에이전트가 사용 가능한 커스텀 컴포넌트인 Tool을 생성(REPL에서 파이썬 코드 실행, 구글 이나 HN에서 검색 하는 등)
  • 에이전트가 "Thought, Action, Observation"을 반복
    • Thought/Action은 LLM이 생성
    • Observation은 Tool이 생성
  • LLM이 프롬프트에 새로 추가된 정보들을 획득하고, 그 정보에 의해 처리
  • 에이전트가 충분한 정보를 받게 되면, 최종 답변을 출력

Tool

  • 간단한 파이썬 클래스로 use(input_text: str) -> str 을 구현
  • Name과 Description에 LLM이 이해 가능하게 도구에 대한 설명을 작성