GN⁺: Ask HN: LLMs으로 무엇을 만들었나요?

• LLM을 활용해서 어떤걸 만들고 있는지 질문
• 질문자는
  • 크롬 확장 프로그램을 개발: YouTube 동영상에서 후원 섹션을 건너뛰기 위해 자막을 읽는 기능 구현
  • 다양한 프로그래밍 언어에서 함수 호출 체인 설명 실험: MakeFile, Python, Bash를 사용하여 LLM을 통한 설명 시도
  • 텔레그램 봇 운영: 세금 관련 도움을 주는 등 특정 명령을 수행하도록 프롬프트 설정

[neo]

Hacker News 의견

• 판매를 좋아하지 않는 한 사용자는 실제와 같은 방식으로 콜드 콜링을 연습할 수 있는 AI를 통화할 수 있는 전화번호를 설정함.

  • 이 AI는 판매 통화를 시뮬레이션함.
  • 사용자는 AI와 핸즈프리 통화가 유용하다는 것을 발견하여 일반적인 목적으로도 사용함.
  • 현재는 오프라인 상태이지만, 스택과 배포 정보가 포함된 코드는 GitHub에서 제공됨.
  • 모든 것은 $35 가격의 라즈베리 파이에서 운영됨.

• 다른 사용자는 할머니의 레시피를 기반으로 한 요리책을 "작성"하는 데 도움을 줌.

  • 할머니의 100번째 생일을 맞아 아버지가 수년간 모은 250페이지 이상의 레시피를 복원함.
  • 일부는 타자기로, 다른 일부는 할머니가 손으로 쓴 것임.
  • 아버지는 타이핑된 레시피를 스캔하고, 손으로 쓴 레시피를 "구술"함.
  • 구글 OCR을 사용하여 스캔된 레시피를 처리하고, GPT-4를 사용하여 형식이 없는 레시피를 잘 정리된 Markdown 형식으로 변환함.
  • 오타와 구글 OCR의 오류를 성공적으로 수정함.
  • 모든 잘 정리된 텍스트를 구글 문서에 붙여넣고 이미지를 추가함.
  • OpenAI 이미지 생성 기능을 사용하여 250개 이상의 레시피에 대한 이미지를 생성함.
  • 일부는 수작업으로 큐레이션해야 했음, 특히 멕시코 음식에 대해서는 더욱 그러함.
  • 결과적으로 책은 매우 멋져 보였고, 가족 내에서 디지털 복사본을 배포하여 모두가 놀랐음.

• 한 사용자는 Apple Shortcuts을 사용하여 OpenAI에 HTTP POST API 호출을 하여 MacOS에서 작업을 수행하는 "스택"을 구성함.

  • 각 작업은 단축키나 Alfred를 통한 Spotlight 입력으로 활성화됨.
  • YouTube URL을 요약하고, 텍스트의 문법과 스타일을 수정하며, 음성 타이핑 대신 OpenAI Whisper를 사용하는 등 다양한 기능을 포함함.
  • 사용자는 LLM을 반복적으로 사용하는 작업을 발견할 때마다 이를 Apple Shortcut으로 만들어 MacOS 기능처럼 워크플로우에 통합함.

• 또 다른 사용자는 여러 하드웨어 + LLM 프로젝트를 수행함.

  • 실제 포켓몬을 인식하는 포켓몬 도감을 만듦.
  • 사무실에서 좋은 댓글을 필터링하여 인쇄함.
  • 오래된 인터콤에 일반 목적의 채팅 어시스턴트를 구축함.
  • 이러한 프로젝트들은 특별히 유용하지는 않지만 모두 재미있음.

• 한 사용자는 자신의 경험과 기술에 대해 질문할 수 있는 대화형 이력서 AI 챗봇을 만듦.

  • 백엔드는 Python FastAPI를 사용하고 ChromaDB로 이력서와 Q&A 쌍을 저장하며, OpenAI와 Airtable을 사용하여 요청과 응답을 기록함.
  • UI는 Sveltekit을 사용함.
  • 사용자는 현재 다른 도구를 만들고 있으며, Airtable 대신 LangSmith를 사용할 계획임.
  • Substack 기사를 작성하고 있으며, 이는 브랜드 구축을 돕기 위한 #buildinpublic 노력의 일부임.
  • 사용자는 9월부터 실업 상태이며, 시장이 어려운 만큼 위의 작업에 집중하여 고용이나 계약을 얻기를 희망함.

• 다른 사용자는 도시와 마을 주변의 자율 가이드 투어와 온라인 보물 사냥을 만드는 과정을 자동화하고자 함.

  • 누구나 투어를 만들어 판매할 수 있는 전체 마켓플레이스를 원함.
  • 투어를 만드는 과정이 매우 번거로움.
  • GPT-4에 지역 정보를 제공하여 질문과 다중 선택 답변을 작성하도록 함.
  • 프론트엔드는 React Typescript, 백엔드는 Net Core Web API on Linux, MySQL, EF Core 및 GPT4와 Stripe와의 통합을 사용함.
  • treasuretours.org에서 호스팅됨.
  • 비용 때문에 현재는 슈퍼유저만 AI 도구에 접근할 수 있지만, 부분적으로 AI가 생성한 사전 제작된 헌트를 시도해볼 수 있음.

• 한 사용자는 제품을 만들기 시작했지만 결국 LLM 기반 제품을 위한 개발 플랫폼을 만듦.

  • 처음에는 주식 분석 도구를 만들었음. 사용자가 비교하고 싶은 회사와 기간을 자유 언어로 작성하면 그래프에 주식이 표시됨.
  • 개발 과정에서 독특한 도전을 발견하고 제품 출시를 하지 않고 개발 플랫폼 작업으로 전환함.
  • 'LLM 구조화된 작업'을 사용하여 사용자 입력에 대한 작업을 수행하고 백엔드에서 작업할 수 있는 JSON을 출력함.
  • 프롬프트는 취약하고 프롬프트나 모델 구성에 대한 작은 변화에도 쉽게 깨짐.
  • 이를 돕기 위해 플랫폼을 개발함. 입력 컬렉션 전체에 대해 프롬프트 버전과 모델 구성을 테스트하여 개발 과정에서 문제가 발생하지 않도록 함.
  • promptotype.io에서 확인할 수 있음.

• 한 팀은 LLM을 기반으로 한 다양한 데이터 도구를 만들고 있으며, 주요 제품을 재브랜딩하고 출시하는 과정에 있음.

  • sketch, datadm, julyp 등 다양한 도구와 제품을 개발함.
  • 다양한 스택과 도구를 사용하며, 자체 도구를 만들기도 했지만 최근에는 직접 로직을 작성하여 제품에 적용함.
  • 주요 제품은 next 앱에 코드가 있고 vercel에서 배포됨.

• 한 사용자는 코드 생성을 위한 봇을 포함하여 여러 가지를 구축함.

  • 현재는 AI 모의 면접을 진행 중임. LeetCode 준비를 싫어하고 상호작용을 통해 더 잘 배울 수 있다고 느낌.
  • comp.lol은 AI가 주도하는 모의 코딩 인터뷰를 제공함. 알파 테스터를 찾고 있으며, 무료 계층에서 모든 것이 실행되므로 로딩이 느릴 수 있음.

• 다른 사용자는 초기 스크리닝을 수행하고, 후보자 정보를 수집하며, 역할에 대한 질문에 답하고, 여러 행동 면접 질문을 하는 AI 채용 어시스턴트를 만듦.

  • Vercel과 OpenAI를 사용하여 하루 만에 구축함.
  • Google 로그인 설정이 가장 어려운 부분이었음.
  • 수십 명의 후보자가 사용하여 많은 시간을 절약하고 대화를 우선시하는 데 도움이 됨.
  • 어제 간단한 글을 작성함.