Show GN: Rust 기반 파이썬 LLM 인젝션 방어 프로젝트

Rust를 기반으로 만든 파이썬 LLM 인젝션 방어 패키지입니다!

AI api를 활용해서 여러가지를 하다 보니, 인젝션 공격이 생각보다 흔하다는 것을 알게 되면서 반복해서 작업하던 re 기반의 정규식 필터링과 리플레이스가 불편해서 이런 패키지가 있으면 어떨까 해서 해당 서비스를 개발했습니다. ( 개발에는 AI 도움을 많이 받았습니다! )

주요 기능은 IPS, IDS, IUS가 있습니다.
IPS - 사용자 프롬프트 차단 및 기존 프롬프트를 계속하도록 지시
IDS - 사용자 프롬프트를 차단하지는 않으나 차단 규칙에 걸리는 단어 표시
IUS - 멀티스레딩과 캐싱으로 빠른 속도로 동작하는 IPS

특징으로는 패키지 내부의 rules.json의 위치에 새로운 JSON을 추가하거나 기존 rules.json을 수정해서 차단을 지원하며 init을 재호출해서 규칙을 실행 도중에 수정할 수 있습니다! ( 커스텀 규칙 -> 제공 규칙 )

이런 걸 올려보는 게 처음이라서 무섭네요 잘 부탁드립니다!