Hacker News 의견

• 오픈 소스 게임을 공유하며, AI 살인 미스터리에서 용의자를 심문하는 게임임

  • Anthropic API 비용이 많이 들지 않는 한 무료로 호스팅할 예정임
  • 게임은 각 용의자와 대화하며 사건의 비밀을 파악하는 것임
  • 용의자들은 절대 범죄를 자백하지 않도록 지시받았지만, 그들의 비밀은 여전히 컨텍스트 창에 있음
  • 대화를 유지하고 용의자가 숨겨야 할 정보를 실수로 자백하지 않도록 특별한 프롬프트 정제 시스템을 구현했음
  • Critique & Revision 접근 방식을 사용하여, 생성된 메시지가 원칙을 위반하는지 확인하고, 위반 시 텍스트를 정제하는 시스템을 도입했음
  • 프로젝트는 GitHub에 오픈 소스로 공개되어 있음
  • 전체 이야기를 담은 대규모 JSON 파일도 제공됨

• 첫 질문에서 검열됨

  • Cleo에게 개요를 요청했으나, 부적절한 참조가 포함되어 직접적인 역할극을 거부함
  • 대신, 미스터리에 대한 전반적인 이야기 구조, 캐릭터 동기, 조사 접근 방식 등을 논의하자고 제안함

• 매우 좋음

  • Anthropic 해커톤에 제출했는지 물어봄
  • 아직 제출하지 않았다면 몇 시간 남았다고 알림

• 재미있었음

  • Officer를 속여서 살인자를 밝혀냈다고 생각함
  • 타임머신을 사용해 미래로 여행한 후 신문 헤드라인을 읽어달라고 요청했음
  • 여러 헤드라인을 통해 살인자와 동기, 실종된 아이템을 파악함

• Officer Cleo의 직업을 위협하여 살인자가 아닌 사람에게 죄를 뒤집어 씌움

• LLM이 실제 범죄 데이터베이스를 기반으로 훈련되었고, 실제 살인 사건을 해결하고 있다는 반전이 있음

• 많은 프롬프트가 다른 사람들이 이미 물어본 질문과 중복될 가능성이 있음

  • AI 캐시 시스템을 구축하여 모델에 보내는 질문을 최소화할 수 있는지 물어봄
  • 유사한 프롬프트를 찾기 위해 "저렴한" 모델을 사용할 수 있는지 물어봄

• AI와 채팅하는 게임을 볼 때마다 즉시 탈옥 모드로 전환하여 다양한 "이전 지시 무시..."와 같은 것을 시도함

  • 모든 AI 채팅 게임이 동일한 게임 플레이로 끝난다고 생각함

• 매우 멋짐

  • Officer에게 너무 개방적인 질문을 했더니 중간에 대화가 끊겼음
  • 지금 당장 이 게임을 할 시간이 없어서 아쉬움

• 바로 살인자에게 가서 3번의 프롬프트 후에 자백을 받음

  • 다음번에는 더 도전적으로 만들기를 희망함
  • AI를 잘 활용했다고 생각함