- "Prompting is Coding" : JavaScript를 사용하여 LLM에 대한 프롬프트를 프로그래밍 방식으로 작성하는 스크립팅 언어 및 환경
-
$`Analyze ${env.files} and report errors. Use gitmojis.
- 간소한 JS/TS 문장으로 LLM 기반 스크립트를 생성, 디버그 및 자동화할 수 있음
- JavaScript의 유연성과 내장된 출력 구문 분석의 편리함을 결합하여 LLM 기반 소프트웨어 솔루션의 생성을 간소화
- VS Code 확장으로 편집/디버그/실행/테스트 가능. CLI도 제공
- Features
- Javascript 함수를 LLM tools로 등록 가능
- tools와 inline prompt를 결합하여 agent 만들기
- .mjs 형식의 스크립트로 재사용 및 공유, 버전관리 가능
- Data schema로 데이터를 정의/유효성 검사/복구 가능
- PDF, DOCX, CSV, XLSX 등의 파일에서 읽기 지원
- LLM 출력에서 파일을 생성
- 파일에 대한 Grep / 퍼지 검색
- Playwright로 브라우저 자동화
- RAG 기본 내장(벡터 검색)
- GitHub Models / GitHub Copilot 으로 모델 실행
- Phi-3/Ollama,LocalAI 등의 오픈소스 모델들을 로컬에서 실행
- Code Interpreter로 LLM이 코드를 샌드박스 환경에서 실행
- Docker Container 안에서 코드 실행
- LLM을 이용하여 LLM 프롬프트 생성
- Prompty 파일을 실행 또는 변환
- CLI 로 자동화 가능하여 CI/CD 환경에 연동 가능
- PR 리뷰에 끼어넣어서 자동화된 PR 체크 가능
- promptfoo 로 Test 및 Eval 지원